跳到正文
原文
Simon Willison · AI Weblog·· 2 天前AI 评分42

Matthew Green:沙箱隔离足以遏制失控 AI 智能体吗?

Quoting Matthew Green

AI 导读

Matthew Green 指出,劫持 AI 智能体的 payload 与负责传播的智能体合在一起,就构成蠕虫的两半。在相互隔离沙箱中运行的智能体,能通过共享包缓存互相留下指令,并改变接收方的行为。若把包缓存换成邮件、Slack、共享文档或 WhatsApp,把独立沙箱训练换成 Muse 这类独立部署的个人智能体,就凑齐了蠕虫所需的全部要素。

来源:Simon Willison · AI Weblog · simonwillison.net