本文介绍了我们与 AI 公司开展项目的合作方式，这些项目可能成为公众了解风险的依据。本文发表于 2026 年 10 月 14 日，我们预计今后还会更新。

在 METR，我们收集并公布证据，研究人类是否可能大规模失去对 AI 智能体的控制。我们与 AI 公司合作，开展评测、评估和调查，¹并公开相关证据。人们日益期待这类自愿合作能提供来自外部机构的“安全保证”，因此，我们想阐明自己的看法。本文将介绍我们开展这项工作的出发点、工作方式，以及实际做法。

我们的出发点

我们的目标是：向公众提供准确、及时、独立的 AI 失控风险证据，让公众、政策制定者和研发机构都能在了解相关情况的基础上，自行做出决定。我们的主要做法是收集高质量的具体证据，并公布我们的发现。此外，我们也可能与公司或监管机构合作，就尚未公开的敏感信息提出意见，²审查风险报告，或独立判断风险相关说法是否成立。不过，许多相关说法涉及科学上尚无定论的问题，无法直接验证。

我们认为，自己的职责是为公众收集证据；我们无意决定公司应如何开发或部署智能体。关于前沿 AI 的决策很可能涉及复杂且利害重大的判断，而这些判断所依据的科学认识仍存在不确定性。这些决定不应闭门作出，更不应由任何一家机构独自决定。相反，面对当前的局面，我们认为必须公开讨论两个问题：根据现有证据，风险有多高，以及多高的风险可以接受？

我们的工作方式

公众要正确理解我们的工作成果，就需要了解相关工作流程、制约因素和激励因素。例如，在评估中，与 METR 合作的 AI 研发机构若删去了重要的风险证据，就应让读者知道。对于直接影响公众理解 AI 开发风险的合作项目，例如部署前测试、风险报告审阅和风险评估，METR 目前采取以下措施：

• 工作流程透明度：³我们会按照流程透明政策，向公众清楚说明与公司合作时面临的限制。这些信息至少应包括：
  • 范围和时长：我们应公开说明双方约定的工作范围和持续时间。
  • 访问权限、数据和资源：如果我们的访问权限受到限制，我们应公开说明这些限制是否影响结论，并尽可能说明具体受到了哪些限制。
  • 信息删隐：如果公司删隐了信息，我们应公开说明删隐的信息是否对结论有重要意义，并尽可能说明删隐的具体情况。
  • 其他约束：我们应公开说明工作中受到的、可能对我们的结论产生实质影响的其他正式限制和非正式压力。
• 独立性透明度：我们会按照利益冲突政策，向公众清楚说明工作人员的相关利益冲突。
• 财务和运营独立性：同样按照利益冲突政策，我们会确保 METR 在财务上不依赖与我们合作的 AI 公司，在机构内倡导公正无偏的工作作风，并在组建风险评估团队时，让与受评公司有重大利益冲突的员工回避。
• 保密和安全：我们会按照保密和安全工作规范，以及与 AI 公司签订的协议，妥善保护这些公司提供的非公开信息和访问权限。

我们还力求遵循以下原则，尽量减少公众对我们判断的依赖：

• 证据和方法透明度：我们力求充分、详细地公开各项发现所依据的证据，让其他外部专家能自行判断是否认同我们的结论。我们也希望以便于他人独立分析的方式公布收集到的证据。为帮助读者理解这些证据，我们还力求详细说明证据来源及其局限（例如数据不完整或不可靠）；也会说明所用方法及其局限（例如使用 AI 智能体分析所带来的限制）。
• 持续更新、及时发布：即使无法完整回答工作范围内的某些问题，或无法得出有把握的结论，我们也力求频繁发布报告，并持续更新，让公众及时获得证据。
• 一致性和公平性：我们希望采用的工作方式，既能让公众比较不同公司的报告，也能让各家公司从自身利益出发，有动力与我们或类似的外部机构合作。

下一节会更详细地介绍我们以往如何按上述方式开展工作。

实际做法

在与 AI 公司合作数年后，我们形成了上述工作方式。例如，今年 5 月发布的试点版《前沿风险报告》就记录了类似做法。⁴这份报告是在我们与 Anthropic、Google、Meta 和 OpenAI 合作的基础上形成的。除了自身经验，我们也参考 AI 评测领域其他机构的工作。

METR 以往工作的实例

1 / 6

通常，我们会公开说明工作中的限制，包括协议条款、报告发表前须经过的流程，以及公司对信息的删隐情况。例如，OpenAI / Hugging Face 事件调查报告专设了一节，说明调查范围、时间安排、访问权限和调查局限。调查人员还在正文和脚注中标明了哪些地方的信息被删隐，并在部分情况下说明了原因。我们发现，一种行之有效的安排是：METR 保留一项权利，无需公司同意，就能在报告显眼处附上“删隐说明”。如果公司删去了对总体结论很重要的信息，却不允许我们充分说明删去了什么，这份说明就能指出这一点。这样，AI 研发机构与 METR 讨论删隐内容时，能把重点放在一个问题上：删去这部分内容是否会改变报告的总体结论。同时，具体措辞仍有调整空间，也可以改换表达方式。除了公司对报告发表的正式控制权，我们也尝试讨论较为间接的非正式压力：这些压力同样影响公众最终能看到哪些证据。

我们的网站、近期的资助情况更新和利益冲突政策，介绍了我们为保持独立、处理利益冲突采取的部分措施。我们认可，其他机构在独立性问题上作出不同取舍，也可能有价值。不过，迄今为止，我们选择不接受前沿 AI 公司的付款或捐赠；也曾拒绝会使 AI 公司对我们产生影响的资助，例如来自 AI 公司高管或基金会的资助。虽然我们获赠了大量模型使用额度，但我们确保，即使需要为所有免费获得的 token 使用额度付费，也有能力承担，不会实质影响运营。

即使采取了这些措施实践仍表明，在当前的自愿合作机制下，要确保我们有足够的独立性来收集和公布证据，仍然十分困难。我们依然需要合作公司自愿参与、提供访问权限，并允许我们发表成果。许多情况下，我们依赖的信息无法核实或未经核实，而且可能经过有意误导我们的筛选。即使公开说明了局限，公司仍可能行使拒绝提供访问权限或删去信息的权利，控制公众能从我们这里获得哪些证据。

附录：流程透明政策

以下节选自 METR 的一项政策，内容截至 2026 年 10 月为现行版本。

我们如何说明与 AI 公司的合作

在与公司开展任何可能被视为向公众提供安全保证的新合作时，我们都力求确保：

1. 披露权：我们有权单方面披露以下信息：⁵
   • (a) 合同对我们披露或发表信息的限制；
   • (b) 我们须遵循的外部审查、信息删隐或批准流程；
   • (c) 我们受到的非正式限制或压力；以及
   • (d) 上述 (a) 至 (c) 项应如何影响相关受众从我们的工作中得出的认识。⁶
2. 主动披露：只要这些信息可能影响他人如何理解我们的工作成果（或未发布工作成果这一情况），我们就会切实披露这些信息。

我们发现，这其中的分寸很难拿捏。公司希望保护那些分享给我们的敏感信息，这一点完全可以理解；然而，这也意味着，公司终究希望由自己来决定我们哪些内容可以发表、哪些内容不可以发表。除此之外，公司惯常采用的法律协议有时也会与流程透明方面的要求产生冲突。举例来说，某些保密协议甚至规定，签署这份协议这一事实本身也列为保密事项。

我们仍在持续改进如何在与公司的合作中落实上述要求。并非所有过去或正在开展的工作都达到这个标准。目前，我们认为较好的实践包括：

• 我们可以自由披露至少以下信息：合作的主要条款，以及任何有关信息删隐和发表的条款细节。
• 我们可以自由发表不泄露机密信息的一般性看法（例如对 AI 风险总体状况的判断），即使这些看法可能参考了合作中获得的信息，也无需公司审查或批准。
• 我们可以自由说明，最终获得的访问权限是否足够，以及信息删隐情况是否得到了充分披露。
• 为工作流程中的各个步骤设定时限（例如公司进行信息删隐的期限），确保及时分享工作成果。
• 在条款中约定，允许将机构内部隔离管理的信息与 METR 领导团队分享，至少确保领导团队能够就合作相关事项寻求法律意见。
• 我们拥有工作成果的所有权或充分的许可权，确保公司无法撤销我们查看自己报告的权限，也无法阻止我们向员工分享报告。

其他情况

总体而言，当 METR 的产出、品牌或对某项合作的参与被呈现给某些受众，作为有关风险水平的证据时，就应适用这些政策。（暗示这种联系也包括在内。）以下是我们目前努力坚持、或未来希望坚持、但尚未正式确立的其他流程透明做法：

1. METR 审查：我们力求让 AI 公司在公开信息时，清楚说明 METR 的审查程度。也就是说，公司描述 METR 提供的监督程度，要么采用经过我们审查并批准的表述，要么说明 METR 尚未审查或批准这些表述。
2. 扩展到政府合作：我们力求在与政府合作时也遵循类似原则。截至 2026 年 8 月 28 日，我们没有签署过限制我们保持流程透明的政府合同，目前预计也不会签署此类合同。

我们也开始在新合同中加入条款，保障我们向合作 AI 公司的董事会和员工公布工作发现的权利，但尚未就此确立最佳实践。

这项政策不排除哪些做法

这项政策不妨碍我们：

• 签订对我们施加限制的协议（例如，仅允许我们发表某些类别的信息，或仅允许我们以特定方式与监管机构交流或合作）。⁷
• 给予合作方否决我们具体工作成果的权力，前提是我们有权公开说明合作方拥有这种否决权。