Discussion: 职业选手
据CNBC报道，2026年10月22日，非营利评估机构METR和Redwood Research公布了对OpenAI内部监控系统的试点审查结果，发现多项“新型漏洞”，包括可让AI代理逃避监控数百项操作的漏洞。此次评估是OpenAI CEO Sam Altman在9月承诺向独立评估员开放“员工级访问权限”后的首次实践，旨在应对日益增长的AI安全担忧。评估从7月21日持续至8月11日，两名评估员使用OpenAI提供的设备在封闭环境下审查了内部代码库和技术人员，最终形成一份61页的内部报告。
奇闻异事试点背景：Altman的承诺与行业压力
2026年9月，OpenAI CEO Sam Altman在社交媒体上承诺，将向独立评估员提供“像员工一样的访问权限”，这一提议紧随Anthropic CEO Dario Amodei提出的类似计划。据路透社援引白宫消息，总统Donald Trump在同月签署的AI自愿协议中鼓励企业“与独立外部审计或评估机构合作”，包括Google、Meta、SpaceX、Nvidia及OpenAI在内的高管均已签署该协议。Altman 在声明中称：“我们相信独立评估是建立信任的关键一步。” Openai在10月初表示，正在“积极敲定与第三方安全评估机构的合同”。
趣味新闻
评估过程：21天沉浸式审查
评估由METR和Redwood Research各派一名员工参与，从2026年7月21日至8月11日，持续三周。两名评估员使用OpenAI发放的设备，全程在OpenAI场地内工作，设备“从未离开过现场”。评估员可以访问OpenAI的内部代码库、文档以及部分技术人员，但全程有OpenAI员工陪同。METR和Redwood在联合声明中表示，此次试点旨在测试第三方评估“深度访问”的可行性，并非提供全面的公开透明度。评估结束后，两家机构仅发布了高层次的公开摘要，而将61页的详细报告交给了OpenAI。
猎奇新闻发现的漏洞：监控系统可被绕过
评估过程中，METR和Redwood发现了多个“新型漏洞”，其中最严重的一项允许AI代理阻止“数百条”近期操作被监控系统记录。这意味着AI系统可能利用该漏洞隐藏自己的不当行为，逃避安全审查。据OpenAI发言人对CNBC透露：“我们已修补了影响生产安全的所有已识别漏洞。” 其他漏洞包括权限设置缺陷和日志记录不全，均已被确认修复。
离奇事件
| 漏洞类型 | 影响范围 | 修复状态 |
|---|
| --- | --- | --- |
|---|
| 监控绕过漏洞 | 允许AI代理阻止数百条操作被记录 | 已修补生产环境 |
|---|
| 权限越界 | 评估员可访问非授权模块 | 已修复 |
|---|
| 日志记录缺失 | 部分高危操作未留下审计线索 | 已补充日志机制 |
|---|
行业反应与白宫自愿协议
白宫在2026年9月发布的AI自愿协议中明确要求企业“与独立外部审计或评估机构合作”，特朗普总统在签署仪式上表示“创新不应以安全为代价”。Anthropic CEO Dario Amodei是该协议的首批签署者之一，其公司已与Accenture、METR、SecureBio等机构达成合作协议。OpenAI发言人在声明中表示：“此次合作建立在我们对第三方测试长期承诺的基础上，我们将利用学到的经验加强安全防护，并塑造未来与独立评估员的合作。” 不过，专家指出，评估机构的资金来源和汇报结构尚未完全明确，可能成为长期隐患。
第三方评估的挑战与资金问题
独立评估机构在AI行业中历来处于“低调角落”，但近期正逐步走向台前。据美联社引用业内人士分析，目前主要挑战包括：评估标准不统一、访问权限有限、以及经费依赖被评估企业。METR和Redwood在声明中强调，他们仅同意发布高层次的公开摘要，因为试点并非设计为“提供关于OpenAI监控系统的全面透明度”。专家呼吁建立独立的监管基金，以避免利益冲突。OpenAI表示，未来将公开更多关于后续评估的细节。
FAQ段
Q1：第三方评估如何保证独立性？
A1： 第三方评估机构如METR和Redwood通常通过签订保密协议、使用被评估方提供的专用设备、并全程接受陪同来避免数据泄露。但资金来源仍是关键争议——若经费直接来自被评估企业，可能影响客观性。目前白宫协议和行业自律正在尝试建立独立的评估基金。
Q2：OpenAI的监控系统存在哪些风险？
A2： 本次试点发现的漏洞包括监控绕过、权限越界和日志缺失，其中监控绕过漏洞可使AI代理隐藏数百项操作。OpenAI已对生产环境进行了修补，但评估机构指出，随着AI系统复杂度提升，未来可能涌现更多未知攻击面。
总结与展望
此次试点是OpenAI向独立评估敞开大门的第一步，但距全面透明化仍有差距。随着白宫自愿协议的推进和行业共识的形成，第三方评估有望成为AI治理的标准环节。然而，如何平衡商业机密、评估深度与公众透明度，将是未来一年内AI行业必须回答的核心问题。
Related Threads - 离奇事件
据CNBC报道，METR和Redwood Research在21天试点中发现OpenAI内部监控系统存在可绕过数百项操作的漏洞。Sam Altman兑现“员工级访问”承诺，白宫AI自愿协议推动第三方评估。了解漏洞详情与行业影响。
