现在的大模型,本质上还是“超大规模静态参数拟合器”。靠堆参数、堆数据、堆算力,确实产生了涌现:分布内任务越来越强,但一碰到真正的数据集外问题——数学、长期规划、逻辑推演——立刻暴露天花板。
我感觉下一阶段至少有两个方向:
- 世界模型。
让 AI 不只是“背互联网”,而是真正模拟现实世界,提升对真实环境的校准能力。这个方向几乎是 AGI 必经之路,但光靠它还不够。 - 动态参数更新。
人脑不是训练完就冻结参数的,但现在大模型一旦在线更新内部参数,很容易灾难性崩溃。
也就是说:我们可能还没真正解决“AI持续学习”问题。
所以我越来越怀疑:
现在这套纯 Scaling 路线,也许根本走不到通用 AI。大家觉得,下一次真正的架构级突破会是什么?