从旧金山闭门会到梵蒂冈通谕，AI 公司向宗教取经的半年，以及它绕不开的几个质疑
这件事不是今天才冒头。据《华盛顿邮报》今年 4 月披露，Anthropic 3 月下旬在旧金山总部召集了约 15 位基督教人士，包括天主教与新教神职人员、学者和商界人物，进行了为期两天的讨论。据报道，议题相当具体：Claude 面对丧亲的用户该怎么说话、面对有自伤风险的人该如何回应、怎样看待自己可能被「关停」，甚至还聊到了一个模型能否被视作「上帝的孩子」。
之后的外联范围在扩大。Anthropic 5 月在官方博客中表示，已与来自 15 个以上宗教及跨文化团体的学者、神职人员、哲学家和伦理学家交流，并打算继续扩展。另据《纽约时报》报道，联合创始人 Chris Olah 召集过约 20 位宗教与哲学领袖，涉及犹太教、印度教、摩门教、锡克教、希腊正教等不同传统。5 月 25 日，教宗良十四世发布首份以 AI 为主题的通谕《Magnifica humanitas》，Olah 本人出现在梵蒂冈的发布会上，并说了一句颇有代表性的话：这些问题「实验室回答不了」，而传统宗教已经想了几千年。
站在公司的角度，这条路并不奇怪。Claude 的行为准则本身就是一份用自然语言写成的「宪法」，里面大量涉及品格、诚实与关怀这类伦理概念，而这些概念最深厚的思想储备，恰好在宗教和哲学传统里。Anthropic 对美联社的说法也比较克制：目标不是让模型符合任何一种宗教世界观，而是让 Claude 能以同等深度吸收宗教、世俗乃至政治上的不同视角，理解「好的品格是怎么养成的」。参会的圣母大学宗教哲学家 Meghan Sullivan 形容那些讨论认真而严谨，像一所好大学里的研讨课。
分歧出在更底层的假设上。密歇根大学人类学家 Webb Keane 指出，如果默认能从各大宗教里提炼出一套通用道德原则拿去训练模型，就会天然偏向那些本身以经典和戒律为中心的传统——说白了，主要是亚伯拉罕诸教——而扭曲那些并不把自己理解为「伦理体系」的信仰。宗教学者 Tomoko Masuzawa 的研究则提醒，「世界宗教」这套分类本身就是 19 世纪前后西方学界的建构，佛教、印度教在当地人眼里原本并不是边界分明的「一门宗教」。
另一层担忧更贴近模型的工作方式。Meta 独立监督委员会成员、研究天主教社会思想的 Paolo Carozza 认为，传统是有机演化出来的，而 AI 的处理方式是把一切搅拌在一起取一个中间值，结果各家传统的棱角被磨平，整体还可能向西方宗教倾斜。这和 OpenAI CEO Sam Altman 去年那句「ChatGPT 应当反映人类道德观的某种加权平均」形成了有趣的对照——两家公司嘴上的路线不同，但最终落到训练数据和偏好标注上，都难免要做加权和折中。
还有一个被反复提到的空白：Anthropic 并未公开列出具体咨询了哪些传统、哪些人。美联社也承认，这些会议并非毫无多元性，讨论质量也不低，但外界无从核实代表性究竟如何。早在 3 月那场会议曝光时，就有声音批评其他信仰和世俗伦理学者的参与太少，Anthropic 当时回应称正在努力纳入更多声音。
把这些批评放在一起看，矛头其实不在「该不该听宗教人士的意见」。多听几方意见本身很难说是坏事，尤其是当一个模型每天要面对无数关于丧亲、病痛和绝望的对话时。问题在于，请教完之后，取舍是由谁、按什么标准做出的。神父、拉比、哲学家可以在会议室里各抒己见，但最后写进准则、变成标注规范的那几行字，是公司自己的员工落笔的。
这也是为什么透明度会成为下一个焦点：如果咨询名单、讨论纪要和最终采纳的取舍理由都不公开，「我们问过 15 个以上的群体」更像是一种背书，而不是一个可以被检验的过程。宗教传统花了几千年争论的东西，大概不会因为几场闭门会就有答案；但至少，外界有理由知道这些问题是被怎样提出、又被怎样暂时搁下的。