当我没说
第一部 一个词

第二章很多条路,大多走不通

那是暑假,群里每天晚上都有人丢进来一个新想法。

我们先想到的是“关系”。既然有人把 AI 当成长期相处的伙伴,能不能研究这种关系处在什么状态、怎样识别、怎样调整?接着是“记忆的用途”:AI 记住的东西,哪些可以拿来用,哪些不该用?然后是“连续性出故障”:有人抱怨换了一个对话窗口,助手就“不认识自己了”,能不能诊断出问题出在哪里?还有“记忆搬家”:如果一个人想把积累的记忆从一个平台带到另一个平台,会遇到什么困难,平台会不会因此把用户锁住?

中间我们还问过:这件事能不能做成经济学的题目,或者数学的题目?

我们给自己定了一条规矩:选的题目做起来成本要低。需要的数据必须能直接拿到,不靠特殊关系和机构合作,也不用申请权限。我们也讨论过要招募很多真人参与的方案,最后都停在纸面上,没有做。

一条一条地停下来

AI 帮我们查了每个方向上已经有人做过什么,结果令人泄气。

“记忆该怎样用”这个题目,碰到了一大片关于“信息流控制”的已有研究:怎样保证某些信息不被拿去影响另一些结果,计算机科学里早有系统的讨论。

“诊断连续性故障”这个题目有一个根本困难:不同的内部原因,可能让助手在外面表现得一模一样,只看输出就分辨不出是哪一种。设想有人昨天刚告诉助手自己不吃香菜,今天换了个窗口问晚饭吃什么,它推荐了一道香菜拌牛肉。可能是那句话根本没被存下来,也可能存下来了,这一次却没用上。从外面看,这两种情况分不出来。

如果做成经济学的题目,就需要说明,用户和 AI 之间的“关系”带来的损失,和普通的“换一个软件很麻烦”到底有什么不同。我们说不清楚。

第一轮筛选结束的那天夜里,候选题一个都没剩下。那天 AI 在回复里还说了一句:这几个具体的方向走不通,不能推出“家克”已经没有研究价值。

我们回到现象本身,又试了一个更理论的方向:两个“伙伴”配合久了,形成了一套默契;如果其中一方被换掉,只给新来的一方一点点信息,再让双方磨合有限的几次,默契能恢复到什么程度?

这条路我们走得最远,还在几个小规模的例子上做了精确计算,是瀚林算的。每算完一个,瀚林就在群里贴一行数字,后面跟三个字:“对上了。”算出来的数,都和我们事先猜的一样。韵吉回了一句:“那定理呢?”

我们始终没能证明一个像样的定理,也说不清它和已有理论到底有什么不同。这个想法最后也放下了。

这一段留下了什么

这一段没有找到题目,但留下了两样东西。

第一样是一个习惯。那段时间,我们每说一个新想法,李老师都要问一句:“这个以前有人写过吗?”后来不等李老师问,我们自己就先问:去掉现象的名字以后,它是不是一个早已解决的老问题?我们拿得出新结论吗,还是只是换了个说法?

第二样是一个方向。我们在那几天的阅读里,一次又一次碰到同一类问题:记忆会被积累,也会被修改、被删除。删掉一条记忆以后,应该发生什么?那时我们只是注意到了这个问题,还没有去做它。