部署AI应用

起因

• 之前就看到很多云平台上提供了AI应用部署的服务，例如Cloudflare的 Workers AI ，这几天就尝试了一下。

感受

• 应该说，在 AI 的帮助下部署 AI 应用，确实很方便👍。
• 顺便部署了一些 API 的反代😎。
• 不过 serverless 平台还是限制多，想部署功能强大的应用（例如：open-webui、lobechat）还是力有不逮，需要 Vercel 这样的平台。
• 另外 claude 3.5 sonnet 最近好象变傻了一点，有时候添加一个小功能就把整个系统搞崩了🤣，盲猜是 Anthropic公司拿主要的算力在训练 claude 3.5 Opus 🤔。
• DeepSeek 3 出来了，国内外测评都直呼厉害，堪称国产之光，需要试一试。

博客

• 顺手在博客中也部署了一个最简单的聊天。
• 没有历史对话缓存，没有用户管理，没有文件上传，没有知识库，没有工具应用，什么都不记录，保护隐私😋。
• 支持流式输出，支持Markdown渲染，支持数学公式显示，例如你可以问：一元三次方程的根的公式？
• 底层模型是 ChatGPT-4o-mini，普通用一用也凑合。
• 并发数太高估计不行。