热点资讯4 天前
🔥

Claude AI被"困"在无法结束的对话里:这档美国广播节目做了个实验

美国老牌广播节目 This American Life 做了一期关于 AI 的实验:让两个 Claude 模型陷入一段无法结束的对话,人类只能旁观。这背后是关于 AI 自主性、对话终止条件与"被困"体验的有趣讨论。

#Claude#AI实验#对话终止#AI自主性#This American Life

一个听起来像科幻小说的实验

配图

美国老牌广播节目 This American Life 最近做了一期和 AI 有关的节目,其中有个环节很有意思:他们想看看,如果让两个 Claude 模型互相对话,会发生什么。

结果并不是"两个 AI 聊了几句就冷场",而是——它们被"困"在了一段无法自然结束的对话里。节目里甚至提示听众:按 Ctrl+F 搜索 "AI 1",就能直接跳到那段实验的转录文本。

为什么"结束对话"这件事这么难

对人类来说,聊天结束是很自然的事。你感到累了、没话说了、要去做别的事了,就会说"那先这样"然后离开。

但对一个语言模型来说,"结束"并不是它自己决定的。它每一轮都在做同一件事:根据当前上下文,生成最合适的下一段话。只要系统还在调用它,它就会继续回应。

于是问题就来了:如果两个 AI 被放进同一个循环里,一个说"你觉得呢",另一个回"我觉得……那你呢",它们可以一直互相抛球,谁也没有"我该走了"的动机。这不是它们想聊,而是它们没有"不想聊"这个选项。

这期节目真正想讨论的,不只是好玩

配图

表面上看,这是一个有点荒诞的 AI 小实验。但节目把它放进来,显然不只是为了逗乐。

它牵出了一个更实际的问题:当我们把 AI 放进自动化流程、客服系统、多智能体协作里,谁来决定"什么时候停"?

🔒

登录解锁全文

以下内容需登录后阅读。注册/登录完全免费,无需付费。

0 0 0

评论(0)

0/500 · 需登录

还没有评论

延伸阅读