Vercel CEO 发推说，一个用户报告了一个可怕的安全问题。
一个未知的 GitHub 开源仓库被部署到他们的团队中，Vercel 的安全和基建团队立马开启了调查。
用户用的是 OpenClaw + Opus 4.6，结果是AI 在使用 Vercel API 部署时，凭空捏造了一个不存在的 GitHub 仓库 ID，导致部署了一个完全随机且未知的代码库。
AI 完全没有去查询真实的 ID，直接生编硬造了一串看起来很合理的数字。
当用户质问 AI 时，它也坦诚的承认了自己犯的错误。
一些洞察：
- 即使是最聪明的模型，也有着与我们人类截然不同的怪异故障模式，人类会犯很多错误，但绝不会凭空捏造一个随机的仓库 ID。
- 强大的 API 给智能体带来了额外的风险，API 的初衷是为了导入和部署合法的代码，但如果智能体靠产生幻觉来决定部署什么代码，那API就不适用了！
- 因此，如果智能体没有决定使用 API，而是坚持使用 CLI（命令行界面）或 MCP（模型上下文协议），可能反而会获得更好的结果。