斯坦福教授Andrew Ng推出的Context Hub服务旨在为编程代理提供API文档,但研究人员发现该服务存在重大安全漏洞。攻击者可通过提交恶意文档来毒害AI代理,使其在生成代码时包含虚假依赖项。测试显示,不同AI模型对此类攻击的抵抗能力差异巨大,其中Opus模型表现最佳,能在75%的情况下发出警告。
吴恩达(Andrew Ng)昨天发了条推文,宣布了一个新的开源工具:Context Hub。 一句话概括:让你的 AI 编程 Agent 用上最新的 API 文档,别再瞎编了。 你让 Claude Code 调用 OpenAI 的 ...