跳到正文

#Agent

今日 0 条
10月2日周五
10月1日周四
  1. Simon Willison · AI Weblog42

    Matthew Green:沙箱隔离足以遏制失控 AI 智能体吗?

    Matthew Green 指出,劫持 AI 智能体的 payload 与负责传播的智能体合在一起,就构成蠕虫的两半。在相互隔离沙箱中运行的智能体,能通过共享包缓存互相留下指令,并改变接收方的行为。若把包缓存换成邮件、Slack、共享文档或 WhatsApp,把独立沙箱训练换成 Muse 这类独立部署的个人智能体,就凑齐了蠕虫所需的全部要素。

7月26日周日
  1. Berkeley AI Research (BAIR)62

    BAIR 提出 ABBEL:用自然语言信念状态实现高效长程交互

    BAIR 提出 ABBEL 框架,将递归摘要的内容隔离为自然语言信念状态并周期性更新,使智能体仅以当前信念作为工作上下文。在 CollabBench 协作编码任务中,基于重建的信念评分将 ABBEL 与全上下文模型的性能差距缩小约 50%,训练步数从 100 步降至 50 步,峰值 token 长度也低于全上下文设置。

    推荐理由:该框架将摘要内容隔离为自然语言信念状态并加以监督,在协作编码任务中把与全上下文模型的差距缩小约一半。

7月7日周二
4月20日周一
  1. Berkeley AI Research (BAIR)71

    BAIR 提出 GRASP:面向世界模型的并行随机梯度规划器

    BAIR 提出 GRASP,一种面向学习型世界模型的梯度规划器,通过将轨迹提升到虚拟状态实现跨时间并行优化,并对状态迭代注入高斯噪声以增强探索。在 Push-T 任务上,GRASP 在 H=80 时成功率达 10.4%、中位耗时 58.9s,优于 CEM、GD 与 LatCo 等基线。论文已发布于 arXiv(编号 2602.00475),可通过 arXiv 页面或项目网站获取全文与更多细节。

    推荐理由:提出提升状态配点与动作梯度分离的规划器,在长时域 Push-T 任务上兼顾成功率与求解速度。