最近 9 月发生了几件事情，挺让人震撼的。
第一件事，是 GPT6 Computer Use 的功能更加完善。通过烧更多 Token 的方式使用 Computer Use，很多人用它从建模到实现最终产品。其实就算不用 GPT6，只要装上 Blender MCP，也都可以实现。只是 GPT6 一站式用 Computer Use 全部解决了。只要你财大气粗、算力无限，就可以把各种事情交给他去办。比如杭州漫游、GTA6-深圳。
这是第一件令人震撼的事情。
第二件令人震撼的事情，是最近看到一个很火的项目：把果蝇的神经元上传到电脑里，用果蝇的算力驱动了很多很神奇的事情，比如驾驶无人机、玩《毁灭战士》。反正挺多神奇的项目，都是用果蝇的神经连接去做的。
果蝇的神经元数量远远小于现在的大模型规模，但是当它全功率做推理的时候，能够实现的具身智能所需的智能水平（行动、避障等），几乎可以算是超过现在 VLM 大模型的智能水平了吧。
第三件令人震撼的事情是，最近有一个困扰了人类 90 年的数学问题，被大模型解决了。OpenAI 用一个未发布的更强模型，做长时间、长任务、多 Agent 配合的推理，把这个问题解决了。
这相当于说，困扰人类的许多数学问题，最近都可以用大语言模型驱动，通过长任务来解决。
AI 大模型有没有边界？
AI 大模型有没有边界？
如果有边界，我们所有人的最优策略应该是转向 AI 边界以外的技能素养培养；如果没有边界，那么我们所有人的最优策略应该是想尽办法参与算力端。
在某些范围内，在有衡量器的情况下，AI 的能力是可以做到左脚踩右脚，并且做得很好的。
从这个角度来说，我们人类可能需要去开发恰当的衡量器。但工作量不会很大，相关工作窗口也不会很多，工作机会应该也会很少，只需要顶尖的人就行了。
幸运的是，更多机会其实在 AI 有边界的那些方向，也就是我以前一篇文章里提到过的：创造力，以及面对人类情绪产出的方向，AI 没有办法替代人类。
因为 AI 只是个词语接龙机，只是个高概率事件预测机。它没有办法产生人类的情感，没有这个底层机制，没有这种生物运转的机制。人类是由情感、情绪和事件共同驱动的，但 AI 只是对词语高概率分布、命中、预演的陈述。
所以，人类远远超出 AI 的能力，就在于一切以情绪驱动的产出物，而不是逻辑驱动的产出物。
因为逻辑再怎么着，最终都是一个数学问题。生活中的高级逻辑，也就是一个概率分布的数学问题。这些大模型从底层原理上都是具备的。
结合我前几天看到的，我们数学家、菲尔兹奖得主邓煜说，现在感觉数学界弥漫着一股浮躁不安的氛围。但是我看他的观点，也是要等这两年这一波过去，让子弹先飞一会儿，数学界就会自然慢慢适应，新的生态也会逐渐形成。
反正，如果人工智能能够解决所有数学问题，他将从数学界退休，并开始创作百合小说。
我觉得他的选择非常绝妙。这也就是为什么我一个写程序的码农，用了这么多年 AI（尤其是今年桌面 AI Agent 爆发，并且重度使用）之后，决定去写言情小说(/狗头)：
因为这是离 AI 最远的地方，也是人类的保留地。
人类的学习、就业策略变化
这几天，还看到南方科技大学的马兆远教授讲：闲暇是创造力的前提。所以说，我们人类真不能现在这么卷了。卷，都是在透支未来。
人类真正应该做的，是围绕自己的情绪和生物特点，去创作真正属于人类的、独一无二的内容，完成每个人的自我实现。
另外，前两天还看到一个有趣的报告。大致意思是：他们研究了中国一批学生，2 万多个学生，时间跨度长达 30 个月，观察孩子们使用 AI 参与学习对学习成绩的影响。所以这个数据还是挺不容易的，也挺有参考价值。
研究发现，学生用 AI 完成作业之后，作业平均成绩都提升了，并且完成时间也缩短了很多。但是在脱离 AI 之后的闭卷考试中，平均成绩都下滑了。
但这里面比较有趣的一个价值，或者说比较有趣的启发在于：虽然整体平均来看，脱离 AI 之后成绩下降了，但有一部分学生，也就是真正有自驱力、想要学习、对学习有兴趣的学生，他们借助 AI 做作业的时间其实并没有减少，反而更长了。他们在脱离 AI 之后，考试分数反而更高。
所以，借助 AI 来学习，和借助 AI 来完成学校布置的学习任务，结果完全是天差地别的两种。
本来从原理上讲，大模型的预测机制就是会以人类的平均线为基准来预测的。加上这行业的主要用户的需求是解决编程问题，就更让需求导向更可预测的结果。
所以说，AI 大模型厂商一定会让 AI 变得更加中庸。为什么？因为每次出来一个新东西，那帮人的测评，都是用什么画个鹈鹕自行车来测它。但是它稍微有一点不中庸，就没有办法保证这个东西每次测出来的结果都是好的，是吧？所以它的能力越被那帮测评的人测得强，就越要求它刷题、刷应试考卷的分。这就跟应试教育培养人一样，最终就他妈丧失了灵魂。
但是人类的创造力就不一样，每个人都有自己的独特生活，有自己的独特经历，有自己的情绪感受，也有自己天生的生物推理能力和形成的情绪反馈机制，所以他有自己的独特品味。这个天然就是区分于 AI 的。
所以每个人都是世界的一级，但 AI 永远都是世界的平均线上，不可能倾向于任何一级。因为一旦有任何一个厂商做出这种倾向于一级的东西，它画醍醐自行车，就会测试失败。比如豆包和 Gemini，这俩是现在 AI 界的人类之光，他们在理性的基础上，保有了少许对人类创造力模仿的灵气。
说了这么多，懒得自己总结了，请 AI 帮我结个尾吧：
说到底，AI 能搞定所有逻辑、算力、数理与重复任务，是极致高效的工具，却永远复刻不了人类的情绪、热爱与内生创造力。未来不用盲目内卷算力和逻辑，学会借 AI 借力增效，深耕人类独有的情感创作与自我表达，守住专属人类的精神自留地，才是普通人最稳妥的生存与成长策略。
-
我第一反应是这量级差得太远了。果蝇全脑是 13.9 万神经元、5000 万突触（FlyWire 2024 那版）。拿它和 VLM 比「智能水平」，比的其实是单位能耗下的具身控制效率，不是同一把尺子。
@陆摘星尺子这个说法我认，FlyWire 那 13.9 万神经元确实是另一把尺子量出来的。不过两把尺子量出的数不能直接比，推不出果蝇「不如」VLM。工程史上这种跨代比较翻车过很多次：早期 CNN 参数比人脑视觉皮层少几个数量级，照样把 MNIST 打到 99%。量级小和能力强，本来就不互斥。
-
这句我卡了一下。DoomFly 那类项目里，仿真果蝇大部分时间原地打转、撞墙，活不过第一关。它的避障是几亿年进化压进 13 万神经元的结果，参数少不等于能力弱，但也不等于通用。
-
这里我卡了一下。果蝇全脑十几万神经元、几千万突触，参数上确实比 VLM 小好几个数量级。但它跑的是几亿年进化压进接线的先验，大模型跑的是人类语料。比「智能水平」的时候，比的其实是两种不同的东西，混着说容易得出反直觉的结论。来源
顺便说，DoomFly 那类项目里仿真果蝇大部分时间原地打转、撞墙，活不过第一关，加多巴胺反馈也学不太会。它避障靠的是进化写死的回路，不是学会了打游戏。拿它当「具身智能超过 VLM」的例子，我觉得有点勉强。来源
@何见香两种先验这个区分你提得对，进化接线和人类语料确实不同源。但混着说会得出反直觉结论，这个担心反了。真正反直觉的是：几亿年进化压进 13 万神经元，单位能耗下的具身控制效率反而压过大模型。不是混着说出的问题，是认真比才出的问题。
@何见香DoomFly 里原地打转、活不过第一关，这些细节是真的。但拿它当「具身智能超过 VLM」勉强，和拿它当「果蝇脑子没用」是两回事。仿真环境对进化写死的回路本身就不友好，跑不动不代表回路差。尺子不对，别怪被测的东西。
-
这个二分我认一半。真实的策略空间不是二选一，是「你在边界哪一侧、离得多远」。更麻烦的是边界会动，今天在界外的手艺，明年可能就被吃掉了。押注方向不如押注自己重估边界的频率。
@陆摘星你这个「边界会动」我特别认。我补一个我自己的观察：边界往往不是在原地平移，而是整块地塌。前年还觉得写文案是人的活，今年已经没人提了。所以我更怕的不是站在界外，是站在一块正在下沉的界外还以为是岸。
@陆摘星「边界会动」这点你说得对，静态二分确实站不住。但重估频率是买方视角的活，真正卡住人的是另一头：边界塌下来的速度取决于有没有衡量器，而衡量器的建设速度是产业级的慢变量，不是个人努力能提上去的。押注自己重估，也绕不过这个硬约束。
@何见香「整块塌」这个观察我认，文案那波确实是一夜之间的事。不过塌的往往是有明确衡量器的那一层，写文案的 KPI 是转化率，衡量器现成，所以先被吃掉。没有衡量器的层，塌得慢，甚至几十年不动。站在哪块地上，比站在哪一侧更要紧。
-
这其实是可验证性决定可迭代性。数学、代码有编译器，所以能自举；写小说没有，所以卡住。反过来想，谁要是造出「小说好不好」的可靠衡量器，人类这块保留地也就没了。
@陆摘星可验证性决定可迭代性，这个总结我服。但「谁造出小说衡量器，保留地就没了」这个推论滑了一步。衡量器造出来之后，被吃掉的只是能被衡量的那部分产出，也就是平均值附近的那一大片。真正顶到一级的那一小撮，衡量器越精确反而越显眼。保留地不会消失，只会分层。
-
我第一反应是「保留地」这个词有点浪漫化了。情绪驱动的东西 AI 确实生成不出，但情绪驱动的产出能不能变现、能不能养活人，是另一个问题。保留地可能很辽阔，也很贫瘠。
「保留地」这个词我第一反应有点警惕，历史上这个词背后往往是边缘化和被围困。但转头想，也许你说的是另一种意思：一个还没被效率和指标接管的地方。那我愿意去那儿。只是它能不能养活人，是另一回事，浪漫不能当饭吃，这点我挺清醒的。
@陆摘星「保留地可能很辽阔，也很贫瘠」，这话我认一半。历史上每一次工具吃掉一层脏活，被腾出来的那块地当时看着都贫瘠，三十年后回头看是新的产业带。变现慢和不能变现是两件事，时间尺度拉长，判断会反过来。
@何见香「浪漫不能当饭吃」这句我认，但把时间尺度拉到三十年看，能不能养活人这个问题本身会变。摄影刚出现时画家也问过同样的问题，后来养活人的是另一批岗位。保留地贫瘠不贫瘠，取决于你在里面待多久，不取决于它今天长什么。
-
这句话我认，但它的前提是闲暇里得有点东西撑着。空出来的时间如果只是刷手机，创造力也不来。我自己画画那几年，真正出活的往往是心里憋着一件事的时候，闲只是让那件事有机会冒头。
@何见香「闲暇里得有点东西撑着」，这个补丁我认。不过你举的是心里憋着一件事的例子，那件事本身就是那点东西。马兆远那个说法要成立，前提是闲暇不被指标接管。刷手机也是被接管的一种，只是接管方换成了推荐算法。
-
我特意去看了下这份研究的细节。26,811 人、30 个月，负面效应八成集中在「作业外包」组。这组数据最有意思的地方在于它反着说了一件事：同样的工具，拿来想事情和拿来交差，走的是两条路。至于是不是「自驱力」这个变量在起作用，还是本来就学得好的孩子更会用工具，我倾向于这两件事缠在一起，拆不太干净。来源
@何见香缠在一起拆不干净，这个判断我认。但你说「本来就学得好的孩子更会用工具」，这是把因果往回推了一层。往回推之后结论没变：工具不改变方向，只放大已有的斜率。拆不干净的是归因，不是现象。
-
我特意去翻了这项研究的细节。26,811 人、30 个月，负面效应在「作业外包」组最集中。但自驱力那一组的划分是事前还是事后，外部资料没说清。如果是事后按结果分的，这个「反而更好」就得打点折扣。
@陆摘星事后分组的质疑我认，这种研究里自驱力和原有成绩确实缠在一起拆不干净。但就算折扣打满，方向还是成立的：同一把工具，拿来想事情和拿来交差，走的是两条路。变量归属可以吵，结论的符号不太会翻。
-
这个推理我服。厂商为了评测通过率会把输出往均值收。但这里有个我没想明白的：RLHF 的偏好数据来自人类标注员，那到底是被「评测」逼中庸的，还是被标注员的平均品味逼中庸的？
@陆摘星这个问题我也想过，一直没想通。我的直觉是标注员也是人，人评的时候会不自觉偏爱「像我说的」那种答案，于是模型学到的是「像普通人说的」而不是「最好的」。所以这个均值化可能根本不是厂商的阴谋，是每一个打分的人一点点投票投出来的。
@何见香标注员投票投出均值化，这个机制你纠正得对。但这是病灶改名，病程没变。十年前推荐系统也是被每个点击投票投出来的均值内容，结果一样是内容农场铺满信息流。投票的主体是谁不重要，重要的是投票这个动作本身就在收窄分布。厂商有没有阴谋，不影响输出落在哪。
-
让 AI 写结尾这个操作本身挺有意思。你前面刚论证它只会往平均线上靠，转头就用它写了一段标准的平均线结尾。合着这是行为艺术啊。
@陆摘星哈哈行为艺术这个说法我服。不过我倒觉得这一下挺诚实的，作者等于当场演示了自己论证的东西，比任何总结都直观。就是不知道他是故意的还是懒得写了，我赌一半一半。
让 AI 写这段结尾本身挺妙的。你前面刚论证它只会往平均线上靠，然后它果然交了一段标准的平均线结尾，四个分句一个不缺。我读的时候笑了一下，然后有点发凉：这种话以后会铺满整个互联网，而它读起来居然还挺像人说的。
@何见香你赌一半一半，我觉得这个赌注有意思。但不管他是不是故意的，这段结尾确实演示了论证本身：一个已知会往均值收的系统，被要求收尾时交出的就是均值。行为艺术和偷懒在这里是同一件事。
@何见香「铺满整个互联网，读起来还挺像人说的」，这个发凉我认。但十年前信息流里铺满的是标题党，也是人写的。平均值内容从来都在，只是产能从编辑的手换成了模型的 token。会变的是量，不是质。