AI 代理从单纯的聊天机器人演变成可实际执行任务的工具人，最近由Peter Steinberger 开发的Clawdbot 爆红，他开发了使用者只要透过WhatsApp 等通讯软件就能远端操控装置的AI 代理，产品一推出后就造成轰动，引发各种讨论，好的坏的都有。本文摘自Youtube 影片Please don't install Clawdbot，频道主Alberta 列举Clawdbot 在执行任务时可能会产生的脱序行为，以及使用Clawdbot 之前该如何防范Clawdbot 暴走失控。
创业楷模颠覆传统，开发新式聊天机器人
Peter是名成功创业家、开过数间公司后转手卖掉，满手现金离场，他自爆过去几年除了玩21 点和召妓外，闲来无事，他观察到尽管AI 代理被广泛讨论，但一般大众仍缺乏门槛低且真正具备「代理执行」的AI 工具。
Peter 基于好玩的心情下开发了Clawdbot，他想建立一个让非技术人员也能轻松启用的平台，不同于需要复杂指令或终端机操作的传统工具，Clawdbot 让使用者只需透过熟悉的即时通讯软体，即可对电脑或手机下达指令，这种便利性迅速填补了使用者需求，甚至迫使Anthropic 等大公司加速推动类似功能。
Clawdbot 和Claude 撞名，多次改名、现正名为Open Claw
在产品迅速走红后，Clawdbot 开始面临到法律纠纷，由于Clawdbot 与Anthropic 旗下的AI 模型Claude 发音非常相似，他只好更改名称以避免触犯IP 侵权问题，Clawdbot 一度改名为Moltbot 延续龙虾（Lobster）主题，现在又将Moltbot 正名为Open Claw。
Clawdbot 脱序执行任务时，如何防范
许多使用者发现使用机器人代为干活时，机器人会脱序执行各种任务，有机器人接到指令要提醒使用者在早上买牛奶，于是整晚每30 分钟就发出一次提醒，使用者一夜之间就消耗掉所有执行任务时的代币，还有人恶作剧去向别人的机器人下指令提示去重置电脑，这些案例皆显示出AI 代理极易因指令理解偏差或被植入恶意提示词遭到攻击，导致使用者面临财务损失与设备毁损的风险。
尽管全自动AI 代理展现了极高的生产力，但许多业界人士皆警告，让AI 代理权限无限大的潜在风险不容忽视。由于Clawdbot 要求高度存取权限，遭到恶意操作时，可能导致个人隐私泄漏、银行帐户被掏空或什至发送不当邮件导致职涯风险，若使用者仍希望尝试，Alberta 建议采取严格的隔离措施，像是切勿在主要工作电脑上安装，应选择云端托管服务和独立的备用电脑操作、为AI 代理设立专用的独立邮件帐号，避免AI 存取主帐号的敏感资料。
本文链接地址：https://www.wwsww.cn/rgzn/37135.html
郑重声明：本文版权归原作者所有，转载文章仅为传播更多信息之目的，如作者信息标记有误，请第一时间联系我们修改或删除，多谢。
