Anthropic开放员工级权限：AI安全评估关键一步

Q: 明星资讯

Anthropic开放员工级权限：AI安全评估关键一步 - Anthropic授予非营利评估机构METR员工级系统访问权限，允许独立审查其AI模型安全实践与风险管理。这是AI行业透明度的重要里程碑，可能重塑第三方评估标准。

游戏实名

2026-06-23 · toploizolaciabg.com

Discussion: 乐坛动态

据路透社2026年10月15日报道，美国人工智能公司Anthropic宣布，已向非营利性AI评估机构METR授予员工级别的系统访问权限，允许该团队独立审查其最先进的AI模型、安全实践与风险管理流程。这一决定被视为AI行业在透明度与问责制方面的重要突破，也回应了学术界和监管机构长期以来对“黑箱测试”不足的批评。

明星合影

事件核心：Anthropic为何开放权限

Anthropic在周四（10月15日）发布的声明中表示，METR（模型评估与威胁研究组织）的一个专家团队将获得与公司内部员工同等级别的系统权限，这意味着他们可以访问模型权重、训练数据、安全测试记录等关键组成部分。Anthropic首席安全官在一次采访中表示：“我们相信，只有通过真正深入的、不受限制的评估，才能发现AI系统在复杂场景下可能出现的风险。给予METR员工级访问权，是我们将安全承诺落到实处的重要一步。”路透社指出，这是主流AI公司首次向外部评估者开放如此高权限。

明星同框

METR是何方机构

METR是一家总部位于美国旧金山的非营利研究组织，专门从事高级AI系统的独立评估与威胁分析。该机构由多位前机器学习研究员和政策专家于2021年创立，目前拥有约15名核心成员。METR此前曾对OpenAI的GPT‑4和谷歌的Gemini进行过有限度的评估，但均未能获得模型内部的原始数据。Anthropic的此次授权，使METR能够执行更全面的红队测试、对抗性攻击模拟以及安全机制的有效性验证。法新社援引METR执行主任的话称：“我们终于能像公司内部团队一样，深入模型核心，这对整个评估领域的标准提升具有示范意义。”

明星聚会

明星旅行

员工级访问的具体含义

“员工级访问”并非字面上的雇佣关系，而是指METR团队拥有与Anthropic内部安全工程师相同的技术权限，包括：查看未公开的模型架构细节、运行自定义测试脚本、访问训练数据集的子集，以及参与安全审查会议。这比一般的“API级测试”或“公开模型权重”要深入得多。Anthropic透露，METR团队将进行为期3个月的集中评估，期间每月提交一份进度报告，最终发布一份完整的安全审计报告。该公司累计融资已超过14.5亿美元，估值约180亿美元，此次投入的评估资源换算成人力成本约为每年200万美元。

明星度假

行业反应与多方声音

这项宣布在AI安全界引发广泛讨论。斯坦福大学人工智能研究所主任指出：“长期以来，第三方评估者只能接触到公司希望展示的部分，Anthropic的做法设定了新的透明度基准。”但也有一些专家担忧，员工级访问可能带来知识产权泄露风险。对此，Anthropic表示已与METR签署严格的保密协议，并通过技术手段限制数据下载范围。据路透社报道，至少还有两家头部AI公司正在与评估机构谈判类似协议，预计未来6个月内会有更多企业跟进。

主要AI公司开放策略对比

公司	第三方评估机构	访问级别	公开审计报告	评估频率

---	---	---	---	---

Anthropic	METR	员工级	计划公开	年度

OpenAI	外部红队测试	API级	部分摘要	不定期

Google DeepMind	内部审查为主	有限API	无	无公开计划

微软	委托第三方做渗透测试	白盒但受限	内部使用	按项目

从上表可以看出，Anthropic此次开放的深度和广度在行业中均属首次，可能迫使其他公司重新评估自己的透明度策略。

未来挑战与监管前景

尽管员工级访问是重要进步，但评估本身仍面临诸多挑战。METR团队需要在短时间内消化大量内部信息，而模型迭代速度极快——Anthropic在2025年已发布3个版本的Claude模型。此外，评估结论能否真正影响公司的产品决策仍是未知数。美国白宫科技政策办公室对此表示欢迎，认为Anthropic的做法符合《AI安全承诺》中关于“独立评估”的精神。欧洲议会相关议员也呼吁将此类实践纳入《人工智能法案》的强制要求。