你有没有想过，你每天对话的AI，可能正在接受神父的伦理教育？

当AI越来越聪明，我们却越来越慌——它会不会做出违背道德的判断？它有没有自己的价值观？这些问题，连AI巨头Anthropic都开始求助千年宗教来解答！

AI伦理危机！大厂为何求助千年宗教？

最近爆出一个惊人消息：Anthropic竟然请了儒家、道教、印度教、锡克教、摩门教、伊斯兰教等世界各大信仰的代表，在旧金山总部开了两天秘密座谈会！

讨论什么？“Claude模型的道德构成”！

💡 Anthropic的秘密伦理会议

这不是Anthropic第一次和宗教界合作！去年五月，美国信仰道教的音乐制作人瑞克·罗宾就和Anthropic合作，用Claude模型生成了代码和图片，搭建了一个网站《编程之道：氛围编程的不朽艺术》！

更绝的是，这个网站的灵感来源于81章《道德经》！罗宾说：“四十年前接触后，整个人都变样了。”

网站入口底部直接写明：“以老子为改编基础”！

⚠️ 从道教到天主教的全方位合作

今年3月底，Anthropic已经先请了美国天主教会和各新教会大宗派的牧师、神学家、伦理学家，一起讨论了两天！

这些峰会对外完全不公开，Anthropic包了与会者的吃住，只为无打扰地细聊各种紧要话题！

据基督教那期四名与会者透露，会议上大家聊得超级开！

议题从AI模型日常如何应对用户复杂且难以预测的伦理性问询，到Claude模型系列到底能不能算“上帝的儿子”们中的一员、有无超过简单机器的属灵价值！

最近的AI伦理热点，比如AI该如何回应表露自残倾向的用户、AI的行为会不会导致自身的关闭灭亡，全都在讨论范围内！

硅谷神父：从科技大佬到AI伦理导师

最让人震惊的是，Anthropic的合作对象里，有一位传奇人物——布伦登·麦奎尔神父！

🌟 麦奎尔神父的传奇人生

1980年代的爱尔兰，12个兄弟姐妹里最年幼的布伦登·麦奎尔上了大学，在都柏林圣三一学院修读加密系统专业！

1989年，专业对口的麦奎尔追随经济热点搬到美国加州，成为一个硅谷打工人！

在数码技术的曙光期入行，麦奎尔属于头一代硅谷“科技大兄弟”！如果在行内干到现在，至不济也能财富自由！

他的职场生涯一开始很顺利，在5年内从IT打工人做到“个人电脑储存卡国际联盟”（PCMCIA）的执行总裁！1990年代内，这个组织制定了十余年的全球笔记本电脑内存卡的规格标准！

按这个轨迹，现在大家会在各种财富榜和商业科技快讯里看到他！

但1994年，这个硅谷新贵觉得工打够了，就辞职去做天主教士！2000年，麦奎尔被授立为牧师！

兜转30年，麦奎尔的身体没有离开硅谷大区，但人生道路与科技富豪老朋友们分道扬镳！

老朋友们是大厂高管和大老板、麦奎尔是小庙方丈！麦神父闲时爬爬山、滑滑雪、养养狗，忙时操劳教务和慈善！

🔗 梵蒂冈的科技伦理布局

和刻板印象不同，天主教会其实非常潮！动漫、数码技术，梵蒂冈总本山都在搞！

早在2019年，梵蒂冈文化教育部和美国加州圣克拉拉大学合作创立“技术、伦理与文化学院”(ITEC)！

2020年2月，梵蒂冈和微软、IBM等大公司一起签署了《AI伦理罗马呼吁书》！

2023年7月，ITEC因应时局出版手册《冲击性技术时代的伦理：实操路线图》！

麦奎尔神父在业务人际网络上，这就和“耶 稣在尘世的代表”只差一层！他在硅谷的老朋友们传出这消息后，Anthropic找上门来了！

Anthropic联合创始人之一、可解释性研究团队骨干人物克里斯·欧拉，通过业界人脉联系到麦奎尔！

拿神父自己的话说，Anthropic的意愿让人惊奇：“他们差不多想直接跟梵蒂冈求助，请教宗帮帮手，因为这个行业的进展速度实在太快”！

而且有意向成为跨国大公司的企业，有必要咨询一个跨国界的伦理权威！

为什么EA伦理代码不顶用了？

Anthropic找宗教界帮忙调教AI，不止是一个营销公关动作，在模型生产上有实际意义：以前的对齐界明星们，他们的伦理代码不顶用了！

💥 有效利他主义的致命缺陷

2010年代发端的“有效利他主义”（Effective Altruism，EA）思潮，在现在的美国名声越来越糟！

厚道点说，EA是“正确的部分不独特，独特的部分不正确”！

“正确的部分不独特”，是EA人们爱对外宣扬“计算福祉效用”观点、自己给非洲穷人发蚊帐治疟疾的成就！但这些观点和成就，经典的发展经济学、制度经济学、通俗基础普世公德里都有！

“独特的部分不正确”，是EA人们在外界普通人不会去看的小论坛和学术期刊上，内部讨论简直令人发指！

拣其中最气人的部分来说：“为了拯救食草动物，该把捕食性动物全杀掉”、“为了拯救高福祉效用个人，可以硬摘低效用个人的器官给他安上”、“婴儿如果生下来会降低父母或自己的福祉，可以杀掉，这叫‘生育后堕胎’”！

这些都是EA人们过去十多年来真聊过的话题！

在2022-2024年，加密货币界天才少年、同时是EA红人的⼭姆·班克曼-佛⾥特（SBF）因诈骗被美国司法部门逮捕并判刑！

SBF入狱，对EA的冲击极大！坊间一直有传闻，说SBF本来无意于加密货币，是被威廉·阿斯克尔说服才入行：“钱在常人手里没用，你把钱都赚来自行分配，才利于人类福祉，是更大的善”！

这说法太有说服力，SBF由此开始在币圈骗钱的生涯！

⚖️ 宗教伦理的千年智慧

而佛教、天主教、犹太教等大宗教的伦理代码库，处理组织内外各种人类的伦理难题和挑战，已经有两千多年！

比如“把人宰了吃肉，能否被三净肉/Kosher认证通过”，此问的结论自然是“不能”！不过这种找碴问题，释迦牟尼本尊和犹太教拉比们先后都做过严格的伦理推断审视！

当下把会遇到各种伦理挑战的AI，直接接入宗教哲学的伦理代码库，省心省事！

而且按开过会的天主教学者的说法，Anthropic已经意识到自己以前推崇的“有效利他主义”不够用、“有盲点”，从各大宗教引进伦理代码的意愿“非常真诚”！

上个月Anthropic跟五角大楼吵架，自家公司的高管们作为老资格EA人，只能复读“科技向善”的套话！

对Anthropic最有技术含量的伦理支持，来自于麦奎尔神父等美国天主教学者主笔的“法庭之友”文书！

AI大潮，再次把一个真相冲上台面：实践伦理学上，大宗教是专业的，科技公司的伦理团队只算票友！不要拿自己的玩票爱好，去挑战千年智慧的专业！

金句总结： 当AI开始思考善恶，人类才发现，最古老的智慧可能才是最新的答案！

互动问题： 你觉得AI应该接受宗教伦理教育吗？还是应该有全新的AI专属伦理体系？

点赞支持： 如果你觉得这篇文章有价值，请点个赞支持一下！

分享扩散： 转发给关心AI未来的朋友们，一起讨论这个重要话题！