关于GPT-4.5和Claude 3.7
GPT-4.5
- OpenAI宣布的最后一个非推理模型。
- 仅进行了预训练、监督微调(Supervised Finetuning)和RLHF(人类反馈强化学习)。
- 巨贵,巨大,巨慢。
- 不是原先预估的那个快达到AGI水平的 GPT-5。
- GPT-5永远不会有了,后面只会有o系列推理模型了。
Claude 3.7
- 最近网上一直吐槽的Cusor降智,本质上是Claude 3.5 sonnet的降智。
- 原先以为Anthropic在拿算力训练Claude 3.5 Opus,甚至可能是Claude 4。
- 随着Claude 3.7 sonnet的发布,看来Anthropic家和OpenAI家一样遇到了瓶颈。
观点
- 维持2月19日博客的观点。
- 预训练模型的 Scaling Law 终结了。
- 要达到AGI需要有一些新思路了。
- 但这轮大语言模型的落地应用进程还远未终结!
- 希望等我老得不能动时,护理机器人能够诞生。