跳到正文
加入会员

Anthropic 澄清开放权重立场:不主张全面禁用,但前沿模型必须先测风险

阅读需要 2 分钟

Anthropic 认为低风险开放权重模型是公共产品,争议焦点应从“开源还是闭源”转向能力是否达到危险阈值,以及发布前是否经过统一测试。

开放模型权重从公共节点分发,同时通过能力测试关卡控制高风险发布

Anthropic CEO Dario Amodei 表示,公司从未主张全面禁止开放权重模型,并认为不具备危险能力的开放模型具有明显公共价值。但对足够强的模型,无论开放还是闭源,都应在发布前接受网络安全、生物风险和对齐能力测试。

争议不应简化成开放与封闭

在 2026 年 7 月 27 日发布的 立场文章中,Amodei 回应了围绕中国开放权重模型及美国政策的讨论。他认为,一刀切禁止企业使用某国开放模型,既不能阻止恶意行为者获取模型,也可能变成保护本国商业竞争者的工具。

小黑把开放权重模型放上能力秤,在发布前衡量风险

开放权重让开发者在本地部署、审计、微调和控制成本,也能扩大研究与教育机会。对能力有限的模型,这些收益通常大于风险。真正棘手的是一旦高能力权重公开,就难以撤回、监控或统一更新保护措施。

Anthropic 主张按能力设门槛

文章提出,所有达到一定能力水平的模型都应接受强制安全测试,而不应先按来源国家或开放方式判断。测试重点包括模型是否能显著帮助网络攻击、生物威胁或出现严重对齐问题。

这种方法的优点是把政策对象从标签转向可测风险。一个小型研究模型不应承担与前沿模型相同的合规成本;一个闭源模型如果能力危险,也不能因为 API 可控就免于测试。

开放权重的风险为何更难逆转

API 模型可以限制账号、监控异常、更新分类器并在必要时下线。开放权重一旦被下载和复制,原发布者就无法保证运行环境继续使用安全微调,也无法阻止他人移除限制。高能力模型的错误发布因此具有长期外溢性。

但这不等于开放模型必然更危险。实际风险取决于模型能力、运行成本、使用门槛和防守方可获得的收益。Anthropic 自己也承认,这些问题应通过严谨评测回答,而不是凭立场预设结论。

开发者应该如何看待

选择开放模型时,除了排行榜和许可证,还应查看系统卡、训练数据说明、已知限制、供应链来源和本地运行权限。企业内部部署并不自动更安全,如果服务器、插件和模型文件缺少治理,数据仍可能泄露。

Anthropic 透明度页面展示了能力和防护如何共同发布。开放生态也需要类似的可验证材料,帮助使用者判断模型适合什么场景,而不是只依赖社区口碑。

YouCanStudy.AI 的判断

开放与安全不是天然对立,真正合理的分界线应是能力和风险。低风险模型应保持广泛可用,前沿模型则需要更强评测和发布责任。对用户而言,与其争论‘开源一定好’或‘闭源一定安全’,不如追问模型能做什么、出了问题能否撤回、谁负责持续维护。

想要系统学习 AI 辅助创作与开发?

文章解决具体问题;完整课程会把前置知识、操作流程、验证方法和项目资料放在一起。

查看系统课程

相关文章