Discussion: 明星宝宝
过去一个月，AI安全公司Anthropic发布报告，指控中国公司Z.ai于2026年8月发布的GLM-5.3模型存在重大网络攻击风险，因为该模型可被任何人自由下载和修改。据《MIT科技评论》2026年10月13日报道，这一指控只是围绕前沿AI模型是否应该开放的长期争论的最新一幕，而这场争论的背后，牵扯着数十亿美元的商业利益、国家安全与AI民主化的复杂博弈。
直播翻车围绕开源AI模型的争论正日益公开化，但真正的分歧不只是商业利益的角力。英伟达CEO黄仁勋支持美国发展更多开源模型，因为人们购买硬件自行运行开源模型对他有利。而Anthropic的Dario Amodei则主张更为谨慎的做法，担心廉价且强大的开源模型会削弱其商业地位。然而在这层商业动机之下，技术路线、安全理念与权力分配的深层冲突才是争论的核心。
主播八卦开源模型到底是什么？
理解这场争论，首先要明确区分两种模型。封闭模型如ChatGPT和Claude背后的系统，只能通过网站、应用程序或API访问；而开源模型则可以直接下载，其内部结构和模型权重公开可见。这类模型也被称为开放权重模型，以区别于对训练过程等更多信息进行公开的模型。
明星翻车目前，封闭模型的能力仍然领先。据Artificial Analysis LLM排行榜数据显示，截至报道发布时，排名前八的模型均为封闭模型。但开源模型的发展差距仅为数月。用户选择开源模型的原因包括能在自己计算机上运行、可按需重新训练，以及在处理敏感数据时能更好地保护商业机密。
塌房事件开源模型的实际优势：从研究到商业应用
对研究AI系统的学者而言，开源模型几乎是必备工具。研究人员能观察模型的内部运作和推理过程（"思维链"），进行压缩、微调或组合多个模型。正如德州大学奥斯汀分校助理教授David Gray Widder所指出的，对AI安全持不同立场的人会对开放性做出不同判断。
明星塌房| 应用场景 | 开源模型优势 | 典型用户 |
|---|
| --- | --- | --- |
|---|
| 学术研究 | 可观察内部机制、修改参数 | 大学与研究机构 |
|---|
| 商业应用 | 成本更低、保护敏感数据 | 企业用户 |
|---|
| 网络安全 | 可本地运行、广泛部署防御 | 安全团队 |
|---|
| 权力分散 | 打破少数企业垄断 | 公民社会、创业公司 |
|---|
Tony Blair全球变化研究所高级政策顾问Elizabeth Seger表示，开放性最关键的价值在于防止权力集中，确保这种基础技术成为公共产品。她指出，谁控制AI运行基础设施的问题，与谁控制互联网信息一样重大。
开源与封闭的风险真相
Anthropic在2026年9月的风险报告中确认，多起大规模黑客行动得到了Claude的帮助，这说明封闭模型同样存在安全隐患。Hugging Face在7月遭到OpenAI智能体攻击后，不得不依赖开源模型来分析事件，因为相关问题触发了封闭模型的安全过滤器。
封闭模型部署了自动检测系统，能拦截涉及黑客攻击、生物武器等风险的高危查询，并且可以封禁违规用户。但开源模型被下载后，所有过滤机制都失效，且无法追踪使用者的访问权限。研究人员已经证明，重新训练一个"安全"的开源模型使其参与被禁止的行为，技术难度极低。
开源软件逻辑是否适用于大模型？
支持者认为，开源软件的逻辑同样适用于AI模型。Linux等开源工具因其漏洞被社区广泛发现和修复而被视为更安全。理论上，开放模型可以让更多研究者检验其安全缺陷。
但Elizabeth Seger对此持保留态度："关键在于那些低概率但一旦发生就极为灾难性的个别场景。"她举例说，如果今天出现一个功能极为强大的开源黑客模型，恶意行为者可能在任何人来得及加固防御之前就摧毁技术基础设施，且这种事件可能无法挽回。
可篡改抵御模型：一条新的安全路径
针对开源模型的安全问题，研究人员正在寻找中间路线。部分人试图训练从不接触不良行为数据的大模型，但完全清除训练数据中的不当行为信息且不影响模型性能，仍是一个技术难题。
另一种思路是开发"防篡改"模型，使其安全训练难以被去除。AI医学影像公司Deep Breathe的工程师Saad Hossain表示，现有方法还无法抵御所有篡改攻击，但"这个领域研究非常活跃，很多人正在探索新的更好方法"，他对未来持乐观态度。
开放性需要更深层的支撑体系
并非所有专家都认为开放权重足以打破AI权力集中。Hamish Hobbs指出，开放权重只是最基础的标准，研究者需要更多训练数据和细节才能真正理解模型运作方式，而AI公司通常不愿公开这些信息。
硬件可及性也是关键障碍。报道指出，即使拿到模型权重，没有足够的算力芯片也无法运行，而这些芯片正因AI公司的争抢而价格飞涨。正如Widder所说："开放性只是确保技术未来惠及所有人的下限，而非上限。"
Q1: 开源AI模型面临哪些实际风险？
A1: 开源AI模型的主要风险包括：模型可被任意下载和修改，安全过滤器在本地运行时完全失效；安全训练可被轻易重新训练去除；高度解耦的部署方式使异常行为难以监测；可能被用于开发网络攻击工具或生物武器，且无法通过封号等方式追回访问权限。
Q2: 什么是开放式AI模型的分阶段发布？
A2: 分阶段发布是指模型首先以封闭形式运行，随着安全性得到验证，逐步向更广泛的用户群开放。这种方式试图在安全风险与民主化利益之间寻求平衡，是目前许多专家推荐的折中策略，但仍需在实践中解决具体实施细节。
开源AI模型的争论不会因一纸报告或一次发布而终结。从GLM-5.3引发的风波可以看出，这个议题已从技术圈上升为关乎全球权力分配的国家级议题，平衡安全风险与开放价值，将是政策制定者和社会必须共同面对的长远课题。
Related Threads - 游戏汉化
Anthropic指控GLM-5.3存在重大安全风险,引发开源与封闭AI模型之争。本文剖析开源模型的利弊、安全风险、防篡改技术与权力集中问题,呈现完整争议图景。
.jpg)
