English
Español
中文
本页由 AI 翻译，可能有错误或不自然的地方。 不清楚时，请参阅英文原文。
模型评估与威胁研究
AI 公司和社会各界都想知道前沿 AI 系统能做什么、可能带来哪些风险。
查看研究 招聘
前沿 AI 风险报告（2026 年 2–3 月）
本报告是一项试点评估，关注前沿 AI 公司内部 AI 智能体失控部署的风险。
以下机构提供了非公开信息和模型访问权限：
Anthropic Google DeepMind Meta OpenAI
阅读报告
时间跨度 1.1（当前）
方法沿用初始论文，但任务集更大。参见发布说明。
时间跨度 1.0（2025 年 3 月）
初版时间跨度计算，使用原论文方法，覆盖 2019 年至 2025 年 11 月发布的模型。

前沿 AI 模型能独立完成多长时间的任务？

我们以 AI 智能体能独立完成的软件任务时长来衡量能力。过去 6 年，这一指标呈指数级增长。
阅读论文 查看代码仓库

METR 主要评估 AI 系统能否自主完成各类任务，以及能否加速 AI 研发。我们还研究 AI 系统可能如何损害评估可靠性，并探索相应的缓解办法。

查看全部研究
前沿 AI 风险报告（2026 年 2–3 月）

前沿 AI 风险报告（2026 年 2–3 月）

这项试点评估关注前沿 AI 公司内部 AI 智能体失控部署的风险。

阅读报告

前沿 AI 安全政策

汇总各 AI 公司已发布的前沿 AI 安全政策；这些政策说明公司如何评估和管理重大 AI 风险。

阅读全文
负责任扩展政策（RSP）

负责任扩展政策（RSP）

RSP 说明开发者在现有防护下可以安全应对多强的 AI 能力，以及能力继续提升时，何时必须先加强防护。

阅读全文

前沿 AI 安全法规：AI 公司员工参考指南

Miles Kodama 与 Michael Chen 梳理了加州 SB 53、欧盟实践准则和纽约 RAISE 法案的关键条款，说明前沿 AI 开发者需要关注哪些要求。

阅读全文
为什么 AI 推理应当可读，并如实反映模型的实际决策过程

为什么 AI 推理应当可读，并如实反映模型的实际决策过程

如果 AI 推理既可读，又能如实反映模型的实际决策过程，人们就更容易发现错误、识别隐藏意图、理解系统能力，并在造成实际危害前发现安全问题。

阅读全文
2026 年初，AI 对技术工作者生产力有多大影响？

2026 年初，AI 对技术工作者生产力有多大影响？

对 349 名技术工作者的调查显示，受访者自报 AI 工具带来的工作价值提升中位数为 1.4–2 倍。他们预计影响还会继续扩大，但这一数字仍有不确定性。

阅读英文原文
可监测性评估的初步工作

可监测性评估的初步工作

这项原型评估关注两个问题：监测系统能否发现 AI 智能体执行额外任务，以及 AI 智能体能否绕过监测。

阅读英文原文
不同领域的时间跨度有何差异？

不同领域的时间跨度有何差异？

作为时间跨度研究的延伸，我们分析了科学推理、数学、机器人、计算机操作和自动驾驶等领域的 9 个基准测试。各领域的进步速度总体相近，也大致接近原研究发现的每 7 个月翻倍的速度。

阅读英文原文
MALT

MALT

一个收录破坏评估行为的数据集，包括自然出现和提示诱发的案例，如广义奖励黑客（reward hacking）和故意藏拙（sandbagging）。

阅读英文原文
Hawk

Hawk

一个基于 Inspect AI 构建的开源平台，用于大规模开展 AI 智能体评估

访问网站

如何衡量 AI 的自主能力：资源合集

汇集 METR 的研究与指南，讨论如何衡量 AI 系统自主完成各类耗时数小时任务的能力

阅读英文原文

前沿 AI 安全政策的共同要素

分析十二项已发布的前沿 AI 安全政策，梳理它们的共同要素，包括能力阈值、模型权重安全和部署阶段的风险缓解措施。

阅读英文原文 PDF

前沿 AI 安全政策

汇总各 AI 公司已发布的前沿 AI 安全政策；这些政策说明公司如何评估和管理重大 AI 风险。

阅读全文

前沿 AI 安全法规：AI 公司员工参考指南

Miles Kodama 与 Michael Chen 梳理了加州 SB 53、欧盟实践准则和纽约 RAISE 法案的关键条款，说明前沿 AI 开发者需要关注哪些要求。

阅读全文

风险评估

我们研究前沿 AI 系统可能带来的风险。相关工作包括发布《前沿 AI 风险报告》、独立审查 AI 开发者的风险评估，以及评估前沿模型能力。

查看全部评估报告

METR 不为此项工作收取报酬。

OpenAI、Anthropic、xAI 等公司向 METR 提供过模型 API 调用权限和免费调用额度，用于支持评估研究。除这类合作评估外，METR 有时也会在模型发布后独立开展评估；这类评估不由模型开发者参与。上方列出的是 METR 近期发布的公开报告；更多细节可参见相应模型的系统卡。

前沿 AI 安全政策

METR 为 AI 开发者和政府提供咨询，帮助他们采用 AI 风险评估方法。例如，我们曾就前沿 AI 安全政策向开发者提供建议。

相关资源
Deepmind logo
Google
OpenAI logo
OpenAI
Anthropic logo
Anthropic

媒体报道

查看全部媒体报道

最新动态

前沿 AI 风险报告（2026 年 2–3 月）
2026年5月19日

一项试点评估，关注前沿 AI 公司内部 AI 智能体失控部署的风险。

阅读全文
前沿 AI 风险报告（2026 年 2–3 月）
Measuring the Self-Reported Impact of Early-2026 AI on Technical Worker Productivity
2026年5月11日

A survey of 349 technical workers finds a median 1.4–2x self-reported change in value of work due to AI tools, expected to grow over time, though there are reasons to be skeptical of the magnitude.

阅读英文原文
Measuring the Self-Reported Impact of Early-2026 AI on Technical Worker Productivity
Review of the "Risks from automated R&D" section in the Anthropic Risk Report (February 2026)
2026年5月8日

External review from METR of the "Risks from automated R&D" section in Anthropic's February 2026 Risk Report

阅读英文原文
Task Substitution and Uplift
2026年5月8日

We distinguish three measures of AI uplift -- on old tasks, on new tasks, and in value -- and show that task substitution can cause these to diverge substantially.

阅读英文原文
Task Substitution and Uplift
Evidence on AI R&D Progress from NanoGPT
2026年4月21日

Classifying human and agent contributions to the NanoGPT speedrun, and what publicly tracked challenges can tell us about AI R&D acceleration.

阅读英文原文
Evidence on AI R&D Progress from NanoGPT
MirrorCode: Evidence that AI can already do some weeks-long coding tasks
2026年4月10日
MirrorCode: Evidence that AI can already do some weeks-long coding tasks
阅读英文原文