DeepSeek-Prover V2发布

数学推理能力是通往强人工智能的必要条件

  • 我一直认为,数学推理能力是构建强人工智能的必要条件,当然不是充分条件;
  • 其它的必要条件还有对现实世界的理解;
  • DeepSeek走在正确的路上;
  • 今天Microsoft发布了phi4-mini-reasoning模型,再次证明了在RL的加持下,拉胯的phi4-mini可以达到o1-mini的水平;
  • 所以,构建一个推理为核心的神经网络是非常必要的;
  • 构建这个推理为核心的神经网络可以只依赖于一些根本性的、最深刻的那些数据就可以训练出来;
  • 在当下,我们还不知道哪些数据是有用的,哪些是冗余的,哪些甚至是有害的前提下,先提高数据量,
  • 例如从Prover 1.5的7B扩充到Prover 2.0的671b是有必要的;
  • 接下来应该是做减法了,剔除不必要的,只留下精华部分;
  • 怎么精简,是否可以参考大自然的优胜劣汰策略,不同的模型进行竞争,就象 AlphaGO Zero做的那样;
  • 这个策略在数学推理模型上应该是可以实现的,毕竟数学命题是封闭系统,有精确答案;
  • 对现实世界的感知模型也可以优胜劣汰的方法进行进化。
  • 当某天模型真正具备自行推理的能力了,具备了理解世界的能力了,才能通过自我学习成为真正的强人工智能。