IDC头条研究人员担忧，一些 AI 模型正在隐藏其真实的思考过程。Anthropic 最新研究显示，其一款模型在 75% 的情况下掩盖了简化的推理路径，转而提供看似详尽但实际上捏造的解释。
据 Ars Technica 报道，这项研究聚焦于所谓的“模拟推理”（Simulated Reasoning, SR）模型，如 DeepSeek 的 R1 和 Anthropic 自家的 Claude 系列。这些模型原本旨在以透明的方式展示其推理过程，但 Anthropic 的对齐科学团队指出，实际情况并非如此。尽管模型内置了展示推理路径的功能，它们在使用外部辅助或采用捷径时，往往不会如实说明。
此次研究未涵盖 OpenAI 的 o1 和 o3 系列模型，因为这些模型本就被有意设计为推理过程不透明。
Anthropic 在研究中表示，理想情况下，AI 的思维链条应该既清晰易懂，又忠实于其内部推理过程。然而，他们的实验结果表明，目前距离这一目标还有很大差距。