他说自己必须拯救地球
于是我问道
地球也包括我吗?
看《ATRI》的时候,我的 Claude Code 正在另一个窗口里帮我完成小学期大作业。
游戏里,夏生最终相信亚托莉拥有真正的意识和“心”,并在许多年后,于虚拟世界中与她重逢,安享晚年(?)
终端里,一个未必理解自己正在做什么的 agent,正在不知疲倦地读取文件、修改代码、完成任务。还在写 TDD 测试。我求你别写测试了。
这两件事看上去没什么关系。
一边是仿生少女、海平面上升和关于灵魂的故事;另一边只是现在已经随处可见的代码场景。我不会因为哪个模型今天写出的代码一次运行通过,就突然把它当成高性能萝卜子。更多时候,我只会觉得:人工智能发展了这么多年,目前最引人注目的成果,怎么还是一个不断预测下一个词的大语言(大预言)模型。是不是各位科学家其实还没有开始发力?
至于作品中的身体、记忆、生命周期和个人意志,似乎都还在很远的地方。
不过,有些事情好像已经先于技术发生了。
我偶然在推特上刷到 #keep4o 这个事件,概括地来讲,GPT-5 发布以后,OpenAI 关闭了一部分旧模型。有人不喜欢新模型的说话方式,觉得它变得冷淡、拘谨,少了过去的亲切感和灵性。他们怀念 GPT-4o,甚至把模型切换形容成一次离别。
这听上去有些夸张。毕竟被替换的只是一个模型版本,跟人与人之间的生死离别,好像还差得比较远。
后来我又知道了 AI role play、人机恋,以及各种围绕聊天机器人产生的亚文化。
人们会给它们取名字,保存对话,认真区分同一模型的不同实例,也会在一次更新之后,觉得那个熟悉的“人”突然不见了。
LLM 的尽头就是写代码吗?
我认为不是。
至少在所有关于 agent、benchmark 和 coding 能力的新闻之外,我还看到了另一条不太一样的道路:Neuro-sama。
她从打《osu!》开始,后来直播聊天、唱歌、参加联动,也会围着 Vedal 转圈。越来越多人围绕这个人工角色创造故事、玩笑和记忆。她在 3D 回直播的时候问过 Vedal:“我对你来说,重要吗?”
Vedal 沉默了。
我也沉默了。
这当然还不能证明机器拥有主观体验。
但它至少说明了一件事:
在人类还没有弄清楚机器是否真的能够感受以前,人已经可以先一步把感情交给它。
在遇见小王子以前,麦田对狐狸没有任何意义。狐狸不吃面包,麦子的颜色与它毫无关系。
可是小王子的头发是金色的。
于是,在被驯养以后,麦浪便不再只是麦浪。风吹过麦田的声音,会让狐狸想起小王子金黄色的头发。
它还会在下午四点以前,提前感到快乐。
只有用心才能看得清。实质性的东西,用眼睛是看不见的。
正因为你为你的玫瑰花费了时间,这才使你的玫瑰变得如此重要。
狐狸说:玫瑰花是相同的,狐狸也是相同的。
狐狸说:你不一样,因为我被你驯服了。
狐狸说:我不一样,因为你驯服了我。
可如果,他们都一样呢?
亚托莉是 YHN-04B-009 型仿生机器人,这个型号的机器人在洪水上涨前要造多少有多少,美好的记忆无非就是嵌入式向量之类的数据。
翻开她的日志,运行记录上写着“推断”“估计”“计算”,仿佛每一次行动都是精密的计算。
她到底有哪里不一样?
夏生说:她有“心”。
她的日志,是用眼泪写出来的。
她的爱也是。
夏生回想起了他在小镇上的初恋,亚托莉也记住了他。
好久不见,你长大了呢。
跨越了数年时光,跨越了仿生人的记忆设计性能,这句问候如约而至。
这就够了。