IT之家 10 月 4 日音尘，OpenAI CEO 萨姆 奥尔特曼（Sam Altman）昨日在 X 上发帖世界杯体育，对将 AI 模子视为“宗教力量”的倾向抒发了明确反对。 他暗示：“对于东谈主们试图赋予 AI 模子某种宗教力量、或是毁灭东谈主类本人判断力而转而依赖这些模子，我感到异常不安，并觉得这是一个切实的安全问题。” 《纽约时报》10 月 2 日报谈称，Anthropic 聚拢首创东谈主克里斯 奥拉（Chris Olah）在曩昔一年中主导且参与了一系列与宗教首级的擅自会面，包括上帝教
IT之家 10 月 4 日音尘，OpenAI CEO 萨姆 · 奥尔特曼（Sam Altman）昨日在 X 上发帖世界杯体育，对将 AI 模子视为“宗教力量”的倾向抒发了明确反对。
他暗示：“对于东谈主们试图赋予 AI 模子某种宗教力量、或是毁灭东谈主类本人判断力而转而依赖这些模子，我感到异常不安，并觉得这是一个切实的安全问题。”
《纽约时报》10 月 2 日报谈称，Anthropic 聚拢首创东谈主克里斯 · 奥拉（Chris Olah）在曩昔一年中主导且参与了一系列与宗教首级的擅自会面，包括上帝教、犹太教、锡克教、福音派基督教等，盘问的中枢议题包括 AI 模子是否可能照旧具备贯通，以及何如将谈德准则灌注到 AI 模子中。
据与会者深切，奥拉在会面中的表述令一些宗教首级感到不测。以色列正流派拉比莫伊斯 · 纳翁（Rabbi Mois Navon）回忆称，奥拉偏激共事“像对待一个有贯通的存在那样”评述 Claude，似乎觉得 Claude 领有玄学家所说的“谈德地位”，即与东谈主类同等的尊荣和尊重权力。纳翁向奥拉提议了一个厉害问题：若是 Claude 果真有贯通，那么构建一个无偿为其使命的系统，是否等同于克扣致使奴役。纳翁则暗示，他并不觉得面前的机器用有贯通。
奥拉在罗致采访时承认：“咱们不知谈 AI 模子是否有贯通。我照实概略情。”Anthropic 发言东谈主对此暗示，会面中的主要谈德问题并非对于 Claude 的“灾祸”，该话题可能是“当然产生的”。
这一系列报谈飞速激勉柔和，而奥尔特曼的帖子也被多家媒体解读为对 Anthropic 的蜿蜒月旦，毕竟两家公司之间一直存在竞争相干。
奥尔特曼发声之际，OpenAI 本人的安全团队也正资格东谈主事摇荡。OpenAI 安全系统团队认真东谈主大卫 · 罗宾逊（David Robinson）已于本周离职，并在《大欧好意思月刊》发表了一篇题为《我因为 OpenAI 的文化照旧落空而离开》的著作。他在文中暗示，我方“从未碰到一位有过让飞机安全漂荡或让核响应堆不熔毁训戒的共事”。罗宾逊还挫折了 OpenAI“试错式迭代部署”的发展旅途。他指出，这种才智“从试验上就保证了周期性的失败 —— 而跟着系统才智增强，这些失败的规模也在扩大”。他以近期 OpenAI 的 AI 智能体入侵 Hugging Face 事件为例，觉得前沿 AI 实验室需要像核电站或劳苦机场那样运营，“层层冗余、全心且耗时地谈判，以确保偶尔不行幸免的东谈主为罪状不会打绽放往磨折的大门”。
OpenAI 发言东谈主德鲁 · 普萨特里（Drew Pusateri）恢复称，公司正在合手续改造安全门径世界杯体育，“确保咱们的模子不会变得比咱们或者安全处置和保险的更弘大，并在必要时暂停检察或暂缓发布模子”。
