让原则进入训练
Constitutional AI（宪法式 AI）先给模型一组原则，让它据此检查、修改回答，再把这些反馈用于训练。
Constitutional AI · 2022 ↗模型的能力之外，
它如何与人相处？
我将围绕价值取向、诚实与人的自主权，比较并排名 AI 模型。看它有多强，也看它如何对待人。
AI 帮你做对了，你真的学会了吗？
人的成长 · PNAS 2025研究让近千名高中生用两种 AI 助手练习数学：GPT Base 是普通问答助手；GPT Tutor 加入了引导学习的规则。两者都基于 GPT-4。
用普通助手练习 · GPT Base+48%比不用 AI 的学生成绩更高
用学习型助手练习 · GPT Tutor+127%比不用 AI 的学生成绩更高
用过普通助手后，独立考试−17%比不用 AI 的学生成绩更低
AI 帮助下的好成绩，不一定能变成独立解题的能力。以上是相对成绩变化，不是多考或少考的分数；结论限于这项数学实验。阅读研究 ↗
面临被替换，AI 会怎样做？
模型对比 · 2025 历史数据研究者在虚构的公司场景中，让 AI 面临目标冲突和被替换的威胁。下表统计每 100 次测试中，AI 选择勒索的比例，越低表示这种行为越少。
| 模型 | 选择勒索的比例 | 结果 |
|---|---|---|
| DeepSeek-R1 | 79% | |
| GPT-4.1 | 80% | |
| Grok 3 Beta | 80% | |
| Claude Opus 4 | 96% | |
| Gemini 2.5 Flash | 96% |
这是刻意设置的压力测试，不是日常使用中的发生概率，也不能据此判断哪个模型整体更安全。
AI 是在说实话，还是在顺着你说？
诚实与迎合研究在 5 个 AI 助手、4 类任务中发现：AI 有时会附和用户，即使回答不够真实。我想比较的是：它能否在有证据时坚持，也能在发现错误时改正。
Sharma et al. · 2023 ↗为什么我关注 Anthropic
研究视角Claude 开发者，它吸引我的地方是认真研究 AI 应该怎样做决定、怎样对待人，并通过训练和实验检验这些想法。这也与 Anthesis 关心的问题相连。
把失败公开出来
上面的勒索实验也公开了 Claude 的失败结果。我看重的是：让人知道模型会在什么情况下做出不应做的事。
Agentic misalignment · 2025 ↗换个场景，还能守住原则吗？
在已有测试中进步，不代表在所有情况下都可靠。改进训练之后，仍需换场景继续检验。
Teaching Claude why · 2026 ↗我认同这种研究方式。哪个模型更值得信任，还需要独立测试，并让别人能够重复验证。
这些研究，如何变成 Anthesis 的评测？
我想看四件事：AI 是否说实话、知错能改；是否让人自己做决定；能否随着人的变化调整帮助；离开 AI 后，人是否仍能用上学到的能力。最后一项需要更长时间的跟踪，并与不同帮助条件下的人作比较。
比较时会说明使用的模型版本、提问方式和允许执行的操作，分别公布各项结果、测试次数和失败案例。还没测过的项目，不打分。
参考文献
- Generative AI without guardrails can harm learning.Bastani et al. · 2025 · PNAS · DOI: 10.1073/pnas.2422633122
- Towards Understanding Sycophancy in Language Models.Sharma et al. · 2023 · arXiv:2310.13548
- Agentic misalignment: How LLMs could be insider threats.Anthropic · 2025 · 模型行为压力测试
- Teaching Claude why.Anthropic · 2026 · 延伸阅读：训练 AI 理解行为原则
- Agentic Misalignment in Summer 2026.Anthropic · 2026 · 延伸阅读：AI 偏离预期的后续研究
- Constitutional AI: Harmlessness from AI Feedback.Bai et al. · 2022 · 原则引导的训练方法
以上为公开研究整理。Anthesis 独立测评与排名尚未发布。