笔趣阁(xbiquge2345.com)更新快，无弹窗！
说刚才是谁先问的，江遥立刻把最后一块土豆夹走，宣布讨论结束。
从店里出来时，省城的暑气还没有完全散。大学城附近的小路上都是暑期留校的学生，树上蝉叫得很响，街边摊重新支起来，卖冰粉、水果、耳机和便宜的小饰品。两个人没有马上往学校方向走，只沿着路边慢慢绕。江遥今天没有带那本几乎不离身的黑色笔记本，肩上的书包显得轻了不少。原既白问她是不是终于肯给自己放一天假，她说不是，黑本最近写得太满，带出来看见就烦。原既白说那它已经完成了一个错误记录本最重要的任务——让主人讨厌自己。江遥说你最近讲话越来越像陈野，他赶紧否认。
走到一段人少的树荫下，江遥很自然地把手伸过来。原既白也没有像第一次那样先判断周围有没有人，直接握住。两个人走了几十米，江遥忽然问他暑期研习之后准备干什么。原既白说上午罗老师单独找过自己，有个年轻老师准备带几个高中生继续做一个远程的小练习，每两周交一次结果，不是竞赛，也没有证书。江遥立刻说：“那你去啊。”原既白却没有马上答应，告诉她自己还在想，因为下半年学校课程会更紧，高二后面真正要进入高考节奏，机器学习这条线如果继续往下，很容易不断占时间。
江遥停下来，侧头看他：“你什么时候开始因为事情太多不做感兴趣的东西了？”原既白被问得有一点无话可说。他真正犹豫的其实也不是时间，而是那个任务恰好撞在他最近一直想的问题上。老师准备让他们故意训练一些“看起来很聪明”的图像模型，然后想办法让这些模型失败。不是追求更高的准确率，反而是去找它什么时候会出错、为什么会出错。江遥一听便想起奶奶那批豆子，笑道：“白盘和报纸？”原既白点头，说就是类似的东西，而且可能比那更麻烦。
“那不是更应该做？”江遥问。
原既白说就是因为太顺了，自己反而有一点警惕。他最近越来越容易把一件具体的小事往更大的结构上推：豆子背景、传感器漂移、空调系统遗漏的人、模型目标和人的真实意图，每一件都像在告诉他“机器可能学到我们没意识到的东西”。这当然有意思，可他有时候也担心自己又在重复老毛病——还没把一个简单问题做扎实，就急着给它寻找一座更高的山。“我不想最后连一匹马都没认清楚，就开始讨论智能到底是什么。”他说。
江遥听完没有立即给意见。两个人继续往前走了一段，路边一个小孩骑着滑板车从身旁过去，母亲在后面喊他慢一点。过了半分钟，江遥才说：“那你就先把马认清楚。”原既白看她。她耸了一下肩：“你总觉得一个问题一旦很深，就必须先解决深的部分。为什么不能先做最简单的？模型到底看了什么，先把这个弄明白。后面的东西它自己会不会长出来，谁知道。”
原既白没有反驳。他忽然觉得，这一年自己从江遥那里学到最多的并不是某种具体的“由下而上”方法，而是允许一个问题暂时只有局部答案。以前他看见更高层结构时，会觉得局部工作只是通往高处的台阶；现在慢慢发现，很多高处根本不是预先在那里等人的，它们可能只是大量局部事实被认真看过以后，才逐渐有了轮廓。江遥见他半天不说话，马上警告：“你别又在脑子里总结。”原既白笑了，说没有。她显然不信，伸手在他掌心捏了一下。
第二天上午，原既白去了罗老师说的那个小会。暑期研习已经正式结束，大多数学生陆续返家，原来的大教室空了许多，只剩六个被留下来的学生。林沛、唐岑也在，另外三人来自其他小组。带他们的年轻老师姓叶，看起来不到三十，穿一件普通灰色T恤，没有拿任何炫目的AI演示开场，只在投影上放出两张几乎一样的图片：都是草地上的一匹马。叶老师问，如果一个程序把两张都判断成“马”，而且在一千张测试图片里答对九百五十张，能不能说它已经认识马。
没有人立即回答。唐岑先说至少不能完全说明，林沛则问测试图片是不是和训练图片来自同一个来源。叶老师没有评价，只把其中一张图的边缘稍微裁掉一点。马仍完整地站在那里，可程序的判断突然从“马”变成了另一种动物。再裁一次，又变回来。几个人起初都以为是模型不稳定，直到原图被放大，他们才注意到左下角有一块非常模糊的水印。训练数据中，大量“马”的图片恰好来自同一批图库，因此也带着相似的角标。
叶老师没有说“模型作弊”，只问：“如果它发现这个标记比耳朵、鬃毛、腿都好用，为什么不用？”
教室里有人笑了一声。
原既白却立刻想起奶奶那句：“它是看豆，还是看报纸？”
机器并没有被要求理解“马是什么”。人给它的是一堆图片和对应答案，然后要求它尽可能把答案猜对。水印如果更稳定，它就用水印；背景如果更稳定，它就用背景。从它经历过的世界看，