抽象推理
原榜单 ↗ARC-AGI-2
测试陌生规则归纳与泛化;分数会受推理预算显著影响。
半私有任务通过率
- Claude Opus 4(Thinking 16K)8.6%
- o3(High)6.5%
- o4-mini(High)6.1%
- Claude Sonnet 4(Thinking 16K)5.9%
- Gemini 2.5 Pro3.8%
- DeepSeek R11.3%
这里不做“总榜”或主观强弱排名。每张卡只呈现一个公开基准在特定测试条件下的结果,并附上原始榜单,避免把不同领域强行相加。
分数来自对应测试机构或公开榜单快照。模型版本、提示词、Agent 框架、推理预算不同,分数不能跨基准直接比较。
测试陌生规则归纳与泛化;分数会受推理预算显著影响。
评估模型在可复现终端环境中使用工具、调试与完成长链条任务的能力。
基于人工筛选的真实仓库问题;Agent 框架与推理设置会改变结果。
持续更新的竞赛编程题,降低训练数据污染;不等同于完整工程能力。
例如 Terminal-Bench 更接近“模型能否在工具环境中完成实际任务”,ARC-AGI 则更强调陌生规则下的抽象推理。它们回答的问题不同,所以页面不会把它们合成一个虚假的“第一名”。