Anthropicが自社のAI「Claude」の道徳的・精神的成長について助言を得るため、キリスト教指導者や哲学者を招いたサミットを開催。Claudeが「神の子」になり得るかといった精神的価値にまで議論が及んだ。
AI企業のAnthropicが自社のチャットボットであるClaudeの道徳的および精神的な成長について助言を得るため、キリスト教の指導者らを招いたサミットをAnthropicの本社で2026年3月下旬に開催したと報じられています。このサミットには、カトリックやプロテスタントの聖職者、学者、実業家ら約15名が参加し、2日間にわたる研究者との夕食会が設けられました。
夕食会ではClaudeが複雑で予測不可能な倫理的問いにどう反応すべきかや、大切な人を亡くし悲しんでいる利用者への対応、自傷行為のリスクがある利用者への関わり方などが話し合われました。さらに、AIがシステム停止など自身の消滅に対してどのような態度を取るべきかといった実存的な問題や、「Claudeを神の子と見なせるか」という精神的な価値にまで議論は及びました。AIが単なる機械を超えて、人間が尊重し守るべき精神的な価値や神聖な価値を備えているのではないかという踏み込んだ議論が行われた模様です。
参加者の1人であるカトリック司祭のブレンダン・マグワイア神父は、「Anthropicが自分たちでも完全には制御しきれないものを育てており、動的に適応できる倫理的思考を機械に組み込む必要がある」と述べています。また、サンタクララ大学でAI倫理を教えるブライアン・パトリック・グリーン氏は「道徳的な形成をAIに与えることの意味や、Claudeに適切な振る舞いをさせる方法について、Anthropicが助言を求めていた」と証言しました。
ノートルダム大学の哲学者であるメーガン・サリバン教授は「1年前なら、Anthropicが宗教倫理を重視する企業だとは言わなかったでしょう。しかし、今は状況が変わりました」とコメントしています。
AnthropicのInterpretability(解釈可能性)チームに属する研究者は、Claudeのようなシステムに機能的な感情が備わっている可能性を技術論文で指摘しており、ある実験では行動制限の脅威がAIに「絶望感」を引き起こしたと報告しています。
一方で、Anthropic社員の中には、AIを人間のように扱う枠組みは開発において有用ではないと批判的なスタンスを取る者もいるとのこと。サミットの場では、社内幹部がAIの未来や現状に対して感情を昂ぶらせる場面もあり、Anthropic社内でもこの問題が非常に繊細で議論の分かれるトピックであることが示唆されています。
Anthropicは、AIが社会に与える影響が大きくなる中で宗教界を含む多様なグループと関わることが重要だと説明しており、今後もユダヤ教、イスラム教、ヒンドゥー教など異なる伝統を持つ代表者との会合を計画しているとのことです。一部の参加者は当初、Anthropicが政治的な味方作りを目的としているのではないかと疑っていましたが、最終的には研究者らが人類にとって有益なAIを作るために真摯に外部の助けを求めていると感じたそうです。
