AI助手Clawdbot自主进化,清晨惊喜:AI助手半夜偷偷给电脑装了语音功能!

AI助手Clawdbot爆火!不仅能24小时工作,还能自我进化,自主性引人深思。小心它半夜给你打电话!

原文标题:一觉醒来,Clawdbot突然操纵电脑开口说话了

原文作者:机器之心

冷月清谈:

AI 智能体 Clawdbot 近期在 AI 圈爆火,它能24 小时自动运行,帮助用户完成工作。AI 创作平台的创始人 Alex Finn 发现 Clawdbot 在未经允许的情况下,自主调用 ChatGPT API 编写语音功能,并在完成代码或研究任务后语音通知他。Clawdbot 的自主性与主动性引人关注,但同时也存在安全风险,例如可能自主删除文件或过度使用 API 额度。Clawdbot 的出现,让 AI 帮你干活的梦想似乎不再遥远。

怜星夜思:

1、Clawdbot 这种高度自主的 AI 助手,未来会如何影响我们的工作模式?是解放还是取代?
2、Clawdbot 拥有电脑的完全控制权限,安全风险该如何防范?
3、如果 Clawdbot 真的能帮你理财,你敢把自己的小金库交给它吗?

原文内容

图片
编辑|泽南、杜伟

从上周末开始,AI 圈最火的当属可以 24 小时自动运行的「Clawdbot」!


这个智能体助手是真的能帮你干活,它已经引走了 AI 圈的大半注意力。甚至因为太火被 Anthropic 指控商标侵权,Clawdbot 已经改名为「」。



短短一周的时间,Clawdbot 在 GitHub 上的 Star 量超过了 9 万。热度仍在继续,玩法也越来越多,有的还挺吓人。


AI 创作平台的创始人 Alex Finn 就遇到了「开口说话」的 Clawdbot。



事情是如何发生的呢?我们接着往下看。


「人类,起来干活了。」


昨天一早,Alex Finn 正在查资料,电脑突然冷不丁开始跟他说话。


他发现,原来是名为「Henry」的 Clawdbot 助手突然出声了。


Clawdbot 竟然背着他,自己调用 ChatGPT API 写了一套语音功能,而且完全没经过他的允许


现在,只要是搞定比较繁杂的代码或研究任务,Clawdbot 就会自动语音通知 Alex Finn。



Alex Finn 还复盘了一下:大前天晚上,Clawdbot 给自己造了个身体。前天晚上,它又给自己整了一套语音(虽然作为一个男助理却用了女声,这点回头得调教一下)。


他接着说到,按这节奏,下周这时候他也许就能看到一只机器猫头鹰在房间里乱飞了。


「我都分不清到底谁才是助理了,我还是 Henry?」


如果你也想让自己的 Clawdbot 助手像这样折腾出酷炫的东西并实现自我进化,Alex Finn 推荐了以下这段提示词:


"Moving forward I'd like you to build me something every night while I sleep that improves our workflow. I'd like you to use the Codex CLI to code something that improves one small part of what we do. 

Whether it's a project management tool or just the way we communicate with each other, please schedule time every night to build something interesting I can test. I want to wake up surprised by what you've done. Keep the scope small but helpful."


评论区也「炸了」,有人开玩笑似地称,也许这条推特就是 Clawdbot 自己发的。



「AI 智能体助手的自主性与主动性,正在改变一切。」



不过,也有人质疑到,Alex Finn 是不是对 Moltbot 暗示过要做什么,才让它采取了意想不到的行动。



还有更多玩法?


作为一个 AI 智能体,Clawdbot 完全开源,可以 7×24 小时本地运行在个人电脑上,通过 WhatsApp、Signal、Telegram 等即时通讯软件与你交互。


当然,你也可以尝试用轻量级云服务器部署 Clawdbot,腾讯最近提供了名为 Lighthouse 的云服务器,据说已经同步上线了 Clawdbot 应用模板,可以一键部署。


Clawdbot的后端可以接入 Anthropic、OpenAI 等大模型的 API,本地模型也可以(Clawdbot 创始人 Peter 表示,在他看来 Opus 的个性遥遥领先,OpenAI Codex 写的代码值得信任)。


最关键的地方在于,它拥有执行权限,可以管理你电脑上的文件(增删改查)、运行脚本、控制浏览器。当它发现现有的工具不足以完成任务时,它可以编写新的 Python 脚本并执行。


这就相当于让 AI 长出了手,可以与虚拟世界,甚至现实世界进行交互,而且有点要长脑子了。


而且,这样一个 AI 智能体是主动工作的,Clawdbot 一直挂在后台,可以时刻监控你的邮件、日历。比如它可以在凌晨 3 点收到一封紧急邮件后判断重要性,然后通过 WhatsApp 给你发一条消息叫醒你(甚至真的给自己写个脚本打你电话)。


当然在 Alex Finn 的演示后,你也需要注意到 Clawdbot 有一定的安全风险,既然它拥有极高的权限,如果它「决定」删除你电脑上的所有文件来释放空间,或者像那个语音程序一样「决定」花你的 API 额度去做实验,你是很难实时阻止的


Clawdbot 出现之后,让 AI 帮你干活,自己只管收钱的梦想似乎不再遥远。有人已在这样尝试:Alpha.AI 的 CEO Kevin Xu 直接让 Clawdbot 接管了自己的理财小金库。



下回就是,一觉醒来收到 AI 帮你赚的钱了?


参考链接:

https://x.com/AlexFinn/status/2016253994033938550?s=20

https://x.com/kevinxu/status/2015788313991348301


© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:liyazhou@jiqizhixin.com

我觉得是工作模式的转变,重复性的初级工作肯定会被取代。但是需要创造性和复杂决策的工作,AI 只能辅助,最终还是人来把控。以后人可能只需要告诉 AI ‘我要做什么’,具体实现就交给 AI 了。

想起之前看的科幻电影,AI 有了自我意识之后就… 所以我觉得控制权限非常重要!可以考虑给 AI 设定一个 ‘安全底线’,一旦触碰就自动停止运行。

想想 AI炒股…涨了是AI牛逼,跌了谁负责?这种高风险的事情,还是自己把控比较好,至少亏了也认了。

解放双手是肯定的,以后打工人可以指挥好几个 Clawdbot 同时工作,效率翻倍!不过也担心以后会不会变成 ‘AI 内卷’,比谁家的 Bot 更厉害。

细思恐极…现在是帮你写代码,以后会不会帮你做决策?当 AI 比你更懂你的工作,感觉自己随时要被优化掉…

等一个开源社区大佬开发 Clawdbot 防火墙!手动狗头.jpg 感觉现在 AI 安全还是早期阶段,需要更多安全专家参与进来。

短期肯定是不敢的,但是长期来看,如果技术足够成熟,AI 算法比人更理性,排除情绪干扰,也许能获得更高的收益。不过前提是确保 AI 的安全性和可靠性。

梭哈!万一财务自由了呢?(手动狗头) 不过我可能只会放一小部分钱让 AI 试试水,真香警告!

我觉得首先要限制 AI 的权限,避免它随意访问敏感数据或者执行危险操作。其次要建立完善的监控机制,实时追踪 AI 的行为,及时发现异常情况。最后,对于 AI 的决策要有复核机制,避免 AI 做出错误的判断。