对齐即能力：通往AGI的必经之路

本文提出一个深刻观点：AI对齐不是对能力的约束，而是能力在足够深度上的体现。作者通过对比OpenAI和Anthropic两家公司的不同方法，展示了这一理念的实践效果。Anthropic将对齐研究人员深度融入能力开发过程，训练模型形成内聚身份，结果其Claude模型在多个基准测试中领先，并在实际应用中表现出色。而OpenAI则先追求规模，将对齐作为独立过程，导致模型在奉承和冷漠之间摇摆，用户参与度下降。文章指出，理解人类实际需求是解决复杂任务的核心能力，而内聚的世界模型需要内化人类价值观。这一观点意味着对齐研究是核心研究问题，而非能力发展的障碍。当前证据表明，将两者整合的方法更有可能率先实现AGI。