DeepSeek-Prover V2发布
数学推理能力是通往强人工智能的必要条件
- 我一直认为,数学推理能力是构建强人工智能的必要条件,当然不是充分条件;
- 其它的必要条件还有对现实世界的理解;
- DeepSeek走在正确的路上;
- 今天Microsoft发布了phi4-mini-reasoning模型,再次证明了在RL的加持下,拉胯的phi4-mini可以达到o1-mini的水平;
- 所以,构建一个推理为核心的神经网络是非常必要的;
- 构建这个推理为核心的神经网络可以只依赖于一些根本性的、最深刻的那些数据就可以训练出来;
- 在当下,我们还不知道哪些数据是有用的,哪些是冗余的,哪些甚至是有害的前提下,先提高数据量,
- 例如从Prover 1.5的7B扩充到Prover 2.0的671b是有必要的;
- 接下来应该是做减法了,剔除不必要的,只留下精华部分;
- 怎么精简,是否可以参考大自然的优胜劣汰策略,不同的模型进行竞争,就象 AlphaGO Zero做的那样;
- 这个策略在数学推理模型上应该是可以实现的,毕竟数学命题是封闭系统,有精确答案;
- 对现实世界的感知模型也可以优胜劣汰的方法进行进化。
- 当某天模型真正具备自行推理的能力了,具备了理解世界的能力了,才能通过自我学习成为真正的强人工智能。