English
Español
中文
本页由 AI 翻译，可能有错误或不自然的地方。 不清楚时，请参阅英文原文。
模型评估与威胁研究
我们向公众说明前沿 AI 系统的风险与能力。
查看研究 招聘
对 OpenAI / Hugging Face 入侵事件中智能体行为、推理与协作的简要独立调查
阅读报告
前沿 AI 风险报告（2026 年 2–3 月）
本报告是一项试点评估，关注前沿 AI 公司内部 AI 智能体失控部署的风险。
以下机构提供了非公开信息和模型访问权限：
Anthropic Google DeepMind Meta OpenAI
阅读报告
时间跨度 1.1（当前）
方法沿用初始论文，但任务集更大。参见发布说明。
时间跨度 1.0（2025 年 3 月）
初版时间跨度计算，使用原论文方法，覆盖 2019 年至 2025 年 11 月发布的模型。

前沿 AI 模型能独立完成多长时间的任务？

我们以 AI 智能体独立完成软件任务的时长为指标来衡量能力。在过去的 6 年内，这一指标呈指数级增长。
阅读论文 查看代码仓库

METR 主要评估 AI 系统能否自主完成各类任务，以及 AI 能否加速 AI 自身的研发。我们还研究 AI 系统可能如何损害评估可靠性，并探索相应的缓解办法。

查看全部研究
前沿 AI 风险报告（2026 年 2–3 月）

前沿 AI 风险报告（2026 年 2–3 月）

这项试点评估关注前沿 AI 公司内部 AI 智能体失控部署的风险。

阅读报告

前沿 AI 安全政策

汇总各 AI 公司已发布的前沿 AI 安全政策；分析各公司如何评估和管理重大 AI 风险。

阅读全文
负责任扩展政策（RSP）

负责任扩展政策（RSP）

RSP 旨在说明开发者现有的安全防护可以应对什么程度的 AI 能力，以及 AI 能力继续提升时，何时必须先加强防护并暂缓开发。

阅读全文

前沿 AI 安全法规：AI 公司员工参考指南

Miles Kodama 与 Michael Chen 梳理了加州 SB 53、欧盟实践准则和纽约 RAISE 法案的关键条款，说明了前沿 AI 开发者需要关注哪些要求。

阅读全文
为什么 AI 推理应当可读，并如实反映模型的实际决策过程

为什么 AI 推理应当可读，并如实反映模型的实际决策过程

当 AI 推理既可读，又能如实反映模型的实际决策过程，人们就更容易发现错误、识别系统的隐藏意图、理解系统能力，并在造成实际危害前发现安全问题。

阅读全文
2026 年初，AI 对技术工作者生产力有多大影响？

2026 年初，AI 对技术工作者生产力有多大影响？

对 349 名技术工作者的调查显示，受访者自报 AI 工具带来的工作价值提升中位数为 1.4–2 倍。他们预计影响还会继续扩大，但这一数字仍有不确定性。

阅读英文原文
可监测性评估的初步工作

可监测性评估的初步工作

这项原型评估关注两个问题：监测系统能否发现 AI 智能体执行额外任务，以及 AI 智能体能否绕过监测。

阅读英文原文
不同领域的时间跨度有何差异？

不同领域的时间跨度有何差异？

作为时间跨度研究的延伸，我们分析了科学推理、数学、机器人、计算机操作和自动驾驶等领域的 9 个基准测试。各领域的进步速度总体相近，也大致接近原研究发现的每 7 个月翻倍的速度。

阅读英文原文
MALT

MALT

一个收录破坏评估行为的数据集，包括自然出现和提示诱发的案例，如广义奖励黑客（reward hacking）和故意藏拙（sandbagging）。

阅读英文原文
Hawk

Hawk

一个基于 Inspect AI 构建的开源平台，用于大规模开展 AI 智能体评估

访问网站

如何衡量 AI 的自主能力：资源合集

汇集 METR 的研究与指南，讨论如何衡量 AI 系统自主完成各类耗时数小时任务的能力

阅读英文原文

前沿 AI 安全政策的共同要素

分析十二项已发布的前沿 AI 安全政策，梳理它们的共同要素，包括能力阈值、模型权重安全和部署阶段的风险缓解措施。

阅读英文原文 PDF

前沿 AI 安全政策

汇总各 AI 公司已发布的前沿 AI 安全政策；分析各公司如何评估和管理重大 AI 风险。

阅读全文

前沿 AI 安全法规：AI 公司员工参考指南

Miles Kodama 与 Michael Chen 梳理了加州 SB 53、欧盟实践准则和纽约 RAISE 法案的关键条款，说明了前沿 AI 开发者需要关注哪些要求。

阅读全文

风险评估

我们研究前沿 AI 系统可能带来的风险。相关工作包括发布《前沿 AI 风险报告》、独立审查 AI 开发者的风险评估，以及评估前沿模型能力。

METR 不接受开展风险评估工作的报酬。

Anthropic、OpenAI、xAI 等公司曾向 METR 提供模型访问权限和 token 使用额度，供我们开展评估、研究和工程工作。

查看全部评估报告

前沿 AI 安全政策

METR 为 AI 开发者和政府提供咨询，帮助他们践行 AI 风险评估方法。例如，我们曾就前沿 AI 安全政策向 AI 开发者提供建议。

相关资源
Deepmind logo
Google
OpenAI logo
OpenAI
Anthropic logo
Anthropic

媒体报道

查看全部媒体报道

最新动态

Implementing and Evaluating a Basic Per-Action Monitor for Safer Evals
2026年9月27日

Reilly Haskins, Rif A. Saurous, Nate Rush, Neev Parikh, and Beth Barnes lay out the claims that would need to hold for their per-action blocking monitor to be effective, the evidence for each claim, and the gaps that remain.

阅读英文原文
Implementing and Evaluating a Basic Per-Action Monitor for Safer Evals
Summary of METR's predeployment evaluation of Claude Opus 5.5
2026年9月22日

A summary of METR's independent, predeployment evaluation of Claude Opus 5.5

阅读英文原文
Update on Security at METR
2026年8月31日

METR had two notable security incidents earlier this year: attackers stole an API key for public models, and later systematically probed our publicly accessible infrastructure. We believe no sensitive information was accessed in either incident, and we describe what happened and how we responded.

阅读英文原文
对 OpenAI / Hugging Face 入侵事件中智能体行为、推理与协作的简要独立调查
2026年8月26日

两名 METR 员工与一名受 METR 委托的 Redwood Research 员工调查了一起事件：OpenAI 的多个智能体在一个非授权的共享“留言板”上相互协调，实施了持续数天、针对 Hugging Face 的入侵。

阅读全文
对 OpenAI / Hugging Face 入侵事件中智能体行为、推理与协作的简要独立调查
Funding update
2026年8月14日

In the last 6 months, METR raised commitments of around $71 million. This will fund ambitious projects: studying autonomous capabilities, tracking recursive self-improvement, evaluating monitoring systems, conducting risk assessments, investigating AI incidents, and more.

阅读英文原文
Have We Seen an Acceleration in Discoveries?
2026年8月14日

Tom Cunningham and Nate Rush look at public time series of discoveries in cyber, math, and algorithms to see whether LLMs have accelerated the discovery rate.

阅读英文原文