当我没说
第八部 写成论文

第二十五章回到那条被撤回的记忆

回到那个周六。助手记着两条:“周六要去看电影”和“不喜欢太吵的地方”。两条都能删,先删哪条随你,四种情况排成第七章那个正方形。

助手手里有一张早就写好的答案单,和瀚林在第七章举起来的那张一样:

两条都在 只剩电影 只剩怕吵 两条都删
电影院 电影院 公园 公园

你删掉了电影那一条。助手没有重新抽签,它去读“只剩怕吵”那一栏:公园。你接着把“怕吵”也删了,它读“两条都删”那一栏,还是公园。要是你先删“怕吵”、后删电影,中途读到的是电影院,最后停在同一栏,也是公园。

这张签上,删电影那一步换了地方,别的签上不一定换。两条都在时,十张签里电影院 张;只剩怕吵时,电影院只有 张(第六章),所以换地方的机会至少是 。只安排这一步,可以正好只换这么多;四种删除一起照顾,这一步最多再多付一半。

我们证明了什么

我们证明的结论是,如果每一种保留情况下的输出分布都已经给定,而且我们要求所有情况在同一次抽签里一起安排,那么图的形状会限制各条边同时接近各自最好成绩的程度。

具体地说:

图 46:填满的记分牌。能看到全部的表时,每张固定的图都严格小于 2;只看自己的表时,最好的统一倍数恰好是 2。
图 46填满的记分牌。能看到全部的表时,每张固定的图都严格小于 ;只看自己的表时,最好的统一倍数恰好是 。

把这几个数放回周末的小世界:

删记录的方式 倍数 对助手来说
只能像撤销键那样,按固定的顺序删 每一步都能做到单独最好
两条记录,先删哪条随你 最坏有一步要多付一半
三条记录,先删哪条随你 至少 ,小于 最坏至少多付四分之三,又不到一倍;准确的数还不知道
每种情况只看自己的签盒,共用一组闹钟 每一步都不到 倍,统一的保证却好不过 倍

它能说明什么,不能说明什么

它说明了两件事。一是只要求删掉以后分布正确,还不够。删完重新抽一次签,哪怕删的是一条和周六毫不相干的记录,回答也可能白白变掉(第五章),所以删前删后要读同一张签。二是读同一张签以后,多付的代价有上限,就是上面那张表里的数。

它说明不了的有五条。前四条,论文的引言和最后一节都写到了;第五条论文没有展开,我们也想记在这里。

  1. 每种情况下的分布被当作已经知道。真实的系统要重新运行去估计,有误差时保证会打多少折扣,定理里读不出来。
  2. 回答要事先分成几类。分得太粗,会掩盖类别里重要的变化;分得太细,意思一样的两句话也算“变了”。
  3. 只算回答变没变,不算变了多少。换一种说法和改掉一条建议,算起来一样。
  4. 保证针对事先指定的每一种删除,对抽签取平均。先看到回答再挑最不利的删除,是另一个问题。
  5. 两栏读到同一个去处,不说明被删的记录已经从机器的缓存、参数或日志里消失。答案单要一直存着(第十四章),可上面只写去处,不写记录的内容;真正的“遗忘”要另外定义、另外取证。

周末的小世界和签盒里的数,都是我们设想的;论文的计算用的也全是自己设定的分布,没有做过访谈、问卷,也没有在真实的对话系统上做过实验。隐私、情感、成本和产品性能,这些结论都管不到。

还没走完的路

第七章末尾问过:三条记录、先删哪条随你,最坏要付几倍?第二十二章答了一半,至少 ,又小于 。准确的数还空着。

五个顶点以上的完全图,准确的常数也还不知道。如果各个顶点的分布有某种共同的结构,什么时候所有边能同时做到最好?只有两种回答时,共同门槛已经给出了答案;回答更多时,这个问题还开着。

如果每种情况除了自己的签盒,还能收到一些事先算好、大家共享的信息,要多少信息才能做到集中式的效果?论文把它留成了一个进一步的问题。

带走的东西

AI 说一句“正确”,我们还是要自己证一遍;电脑屏幕上显示 ,也要确认它就是 。

会叫“家克”的人,在意的是它还记不记得。一个助手应该记住什么、忘掉什么,我们回答不了。我们只研究了一个小一些、能说清楚的问题:删掉一条记忆以后,怎样让不必改变的尽量不变,以及为什么有时候一定会变。

读到这里,你可以拿一张纸画一个正方形,在四个顶点上写好祺乐出的那四个签盒,指着它向别人解释:为什么每条边单独都能做到最好,合在一起却做不到。