关于GPT-4.5和Claude 3.7

GPT-4.5

  • OpenAI宣布的最后一个非推理模型。
  • 仅进行了预训练、监督微调(Supervised Finetuning)和RLHF(人类反馈强化学习)。
  • 巨贵,巨大,巨慢。
  • 不是原先预估的那个快达到AGI水平的 GPT-5
  • GPT-5永远不会有了,后面只会有o系列推理模型了。

Claude 3.7

  • 最近网上一直吐槽的Cusor降智,本质上是Claude 3.5 sonnet的降智。
  • 原先以为Anthropic在拿算力训练Claude 3.5 Opus,甚至可能是Claude 4。
  • 随着Claude 3.7 sonnet的发布,看来Anthropic家和OpenAI家一样遇到了瓶颈。

观点

  • 维持2月19日博客的观点。
  • 预训练模型的 Scaling Law 终结了。
  • 要达到AGI需要有一些新思路了。
  • 但这轮大语言模型的落地应用进程还远未终结!
  • 希望等我老得不能动时,护理机器人能够诞生。