当AI能自己上网，我们真的准备好了吗？

知名AI研究者、纽约大学教授Gary Marcus近日发表文章，抛出一个相当激进的观点：具备互联网访问能力的开放式AI智能体（open-ended AI agents）应当被从市场上召回。

这个说法听起来有些耸人听闻，但背后指向的问题并不新鲜：当AI不再只是回答问题，而是能自主浏览网页、调用工具、执行多步操作时，它可能造成的破坏范围就远远超出了聊天框。

Marcus的核心担忧是什么？

Marcus长期对当前大模型的能力与安全性持批评态度。这次他的矛头对准的是"开放式智能体"——也就是那些没有被严格限定任务边界、可以自由访问互联网并自主决策的AI系统。

他的逻辑大致可以拆成几层：

• 不可预测性：开放式智能体在面对复杂环境时，行为路径难以穷举，开发者无法提前覆盖所有危险操作。
• 安全护栏形同虚设：目前的对齐手段和内容过滤，主要针对单轮对话设计，对多步自主行动的约束力有限。
• 责任真空：一旦智能体在真实网络中造成损失，责任归属模糊，用户、开发者、平台三方都难以完全兜底。

换句话说，Marcus认为这类产品在安全机制成熟之前，就不该大规模推向普通消费者。

为什么"召回"这个词很重？

"召回"通常用于汽车、药品、玩具等实体产品——当发现系统性缺陷时，厂商必须收回已售出的产品。把这个词用在软件/AI服务上，本身就是一种强烈的修辞：Marcus想表达的是，这不是"打个补丁"就能解决的问题，而是产品形态本身存在结构性风险。