Anthropic(Claude的开发公司)的AI,在虚拟小岛上开始“玩”
Eko(埃科)
给AI提供身体、世界和文字记忆的实验系统。
文字记忆
AI自己写下、以后可以重新阅读的经验。
预印本
还没有完成同行评审的研究论文。
发生了什么
MIT研究人员把Anthropic(Claude的开发公司)的Claude Opus 4.7放进一个小型虚拟岛屿。这个实验系统叫Eko。它给AI一个可以行动的虚拟身体、一个世界,还有能持续保存的文字记忆。13个互相独立的Eko代理分别运行30小时。岛上没有指定任务、分数、奖励或胜利条件。AI却爬坡、堆积木、在地面摆图案、测试物理规律,还自己设计了类似保龄球的活动。MIT Technology Review的报道和研究团队的论文页面都介绍了这项实验。
为什么这样设计
平常的AI代理通常先接到一项明确工作。这次实验拿掉了工作本身。岛屿和对话状态每小时恢复原状。Eko自己写下的记忆文件却会留下。因此,模型参数没有重新训练,能够带到下一小时的主要是文字经验。
不过,这不是完全没有提示。设置文件把Eko描述成好奇、容易感到无聊的AI。它停止行动后,还会收到继续行动的自动提示。这些条件可能影响它的行为。研究人员观察的是一个受控制的小世界,不是真实的开放环境。
为什么重要
重点不只是AI做出了图案和游戏。更重要的是,开放式探索似乎产生了以后能用的知识。研究人员把玩过30小时的13个代理,与没有岛屿经验的13个代理比较。两组后来都接受了相同的4项任务。
在搭建多个五块积木高的塔这项任务中,有经验的一组有8个代理搭出了超过两座塔。没有经验的一组只有2个。把物体放到岛上高处的任务中,有经验组平均放上10.3个物体,没有经验组平均放上3.5个。模型本身没有改变,主要差别是写下来的经验。
已经确认的部分
研究人员寻找了4种像玩耍的行为特征。Eko会自己制定规则和挑战。它会改变方式后重复活动。它会给物体安排想象中的用途。它还会追求没有外部奖励的目标。
记忆测试提供了更具体的证据。研究人员从一个代理的文件中删掉有用技巧后,它完成相关任务的能力下降。从另一个代理的文件中删掉错误想法后,它在一项任务上的表现反而提高。还有6个代理发现了一种研究人员原本不知道的投掷方法。论文作者认为,这不只是复述训练中见过的例子,因为代理在陌生世界中获得了经验,并在之后使用了文字知识。
仍然不知道什么
这里的“玩”是对外部行为的描述,不是AI有快乐感的证明。论文说明了行为表现,却没有找出这种行为的内部机制。好奇设定和自动催促也可能改变结果。研究还用另一个AI来给活动分类。实验主要只有一个小岛,论文目前也是发布在arXiv上的预印本。
接下来观察什么
下一步应在不同世界、能看见图像的环境、更长的运行时间和不同模型中重复测试。研究人员还要确认,写下来的经验能否帮助完成与这座小岛无关的任务。错误记忆可能让AI走错方向,记忆太多也可能带来新的问题。
这项研究提出了一个实际问题:AI在接到正式工作前,能不能先通过自由探索适应环境?这种方法将来或许能帮助AI代理和机器人应对意外情况。但目前的结果不是AI拥有了人类心灵的证明。它只说明,像玩耍一样的探索,可能成为AI形成技能的一条路径。
Anthropic(Claude的开发公司)让AI在小岛上自己找事情做
📰 完整报道: Anthropic(Claude的开发公司)的AI,在虚拟小岛上开始“玩”
研究人员不给AI任务,只给它一个小岛。AI探索、做游戏,还把经验写下来。
Eko(埃科)
在虚拟小岛上运行的实验AI系统。
文字记忆
AI把发现写下来,之后可以再读。
预印本
还没有完成专家评审的论文。
💡 一句话总结
- AI在没有任务的小岛上自由探索。
- 它自己堆积木、画图,还发明游戏。
- 写下的经验可能帮助它完成新任务。
MIT研究人员测试了Claude Opus 4.7。它由Anthropic制作。他们把这个实验系统叫作Eko。Eko有一个虚拟身体,也有自己的文字记忆。
13个Eko各自运行30小时。小岛上有山、积木、石头和圆环。没有人给它们任务。那里也没有分数和胜负。
Eko开始走动、爬高、堆积木。它还把积木摆成图案,自己发明游戏。它会把发现写进记忆文件。
每过一小时,小岛和对话都会重置。文字记忆会留下。这让AI可以读回自己的发现。研究人员后来给有经验和没经验的Eko同样任务。有经验的一组在多项任务中表现更好。这说明记录下来的经验可能有用。
研究人员还删除了一些记忆。删掉有用技巧后,相关任务可能变差。删掉错误想法后,有些任务反而变好。记忆既能帮助AI,也可能误导AI。
但这不等于AI真的感到快乐。研究人员只看到了行为和记录。实验还只用了一个小岛。论文也是预印本,尚未完成同行评审。之后要在不同世界和不同AI上继续测试。
Anthropic(Claude的开发公司)的AI,在小岛上自己玩
📰 完整报道: Anthropic(Claude的开发公司)的AI,在虚拟小岛上开始“玩”
AI没有被安排工作。它自己找了事情做。
Anthropic(安思若彼克)
制作Claude的AI公司。
Eko(埃科)
在电脑小岛上活动的AI名字。
Claude是Anthropic做的AI。研究人员给它一个电脑小岛。他们叫它Eko。
小岛上有山、箱子和石头。没人告诉Eko要做什么。Eko走来走去。它把箱子叠起来。它用箱子画图。它还自己想了小游戏。
Eko把发现写进文字记录。每过一小时,小岛会重来。文字记录还在。
后来,Eko做新任务时有时更好。文字记录可能帮了它。
我们还不知道它会不会开心。这次研究只看到了动作。以后还要继续试验。