AI Daily Digest: ARC-AGI-3 揭示前沿模型三大推理盲区,OpenAI 提示工程范式转变 - 2026/05/02
今日焦点:ARC Prize Foundation 对 GPT-5.5 和 Opus 4.7 进行了 160 次游戏回放分析,揭示了前沿模型在 ARC-AGI-3 上得分不到 1% 的三大系统性推理错误。与此同时,OpenAI 发布了 GPT-5.5 提示工程指南,明确建议开发者抛弃旧提示词、从零开始——这标志着提示工程从"微调过程"向"定义结果"的范式转变。
ARC-AGI-3 分析:前沿模型的三大推理盲区
ARC Prize Foundation 发布了一项深入分析,评估了 OpenAI GPT-5.5 和 Anthropic Opus 4.7 在 ARC-AGI-3 基准测试上的 160 次游戏运行。结果令人深思:两个模型的得分都不到 1%(GPT-5.5 为 0.43%,Opus 4.7 为 0.18%),而人类在没有先验知识的情况下就能解决这些任务。
三种系统性错误模式
-
见树木不见森林:模型能正确识别局部效果(比如"这个操作会旋转物体"),但无法将多个观察整合成一个完整的世界模型。Opus 4.7 在一个游戏中第 4 步就知道 ACTION3 会旋转容器,第 6 步识别出 ACTION5 会倒颜料,但始终没有把这两个发现连接成"需要先对齐桶再蘸颜料"的策略。
-
训练数据导致错误类比:模型会把未知环境误认为训练数据中的已知游戏——Tetris、Frogger、Sokoban、Breakout 等。这种"过度泛化"导致模型在新环境中采取完全错误的策略。
-
解决关卡不等于理解规则:模型有时能通过试错通过某一关,但完全不理解底层机制。更有趣的是,Opus 倾向于"锁定"错误理论不肯放弃,而 GPT-5.5 则"无法 committed 到正确的理论"——两种截然不同的失败模式。
这对 Agent 系统的启示是:当前模型在需要自主探索和构建世界模型的场景中仍有根本性局限。编码 Agent 在熟悉的代码模式中表现优异,但面对全新的架构或未知的系统行为时,可能会陷入类似的推理陷阱。
🔗 来源:The Decoder
OpenAI 提示工程范式转变:GPT-5.5 要求从零开始
OpenAI 发布了 GPT-5.5 的提示工程指南,核心信息非常明确:不要复用旧提示词。
关键变化
- 从零开始:不要把 GPT-5.5 当作旧模型的 drop-in replacement。先用最小的提示词测试效果,再逐步增加复杂度。
- 角色定义回归:曾被认为过时的角色定义(Role Definition)重新回到了 OpenAI 推荐的提示词结构顶部。
- 结果导向 vs 过程导向:旧模型需要详细的步骤指引("先检查 A,再检查 B,然后比较每个字段..."),而 GPT-5.5 更适合只定义目标和成功标准,让模型自己决定如何达成。
- 推理效率提升:建议先测试 low 和 medium 推理努力级别,而不是直接拉满——GPT-5.5 的推理效率比前代更高。
- 绝对规则要慎用:ALWAYS/NEVER 只用于真正的不变量(如安全规则),判断类场景用决策规则替代。
