イーロン・マスク氏がOpenAIの営利化を問う裁判で、カリフォルニア大学バークレー校のスチュアート・ラッセル教授が唯一のAI技術専門家として証言した。ラッセル氏はAI開発の存在論的リスクについて懸念を表明し、各国の企業がAGI到達を目指す競争環境の危険性を警告した。
私たちはいつになったらAI終末論者の主張を真摯に受け止めるべきなのか。
これが、OpenAIの営利化を阻止しようとするイーロン・マスク氏の訴訟における重要な背景である。
本日、AI技術に直接関わる唯一の専門家証人が法廷に召喚された。カリフォルニア大学バークレー校のコンピュータサイエンス教授、スチュアート・ラッセル氏である。
ラッセル氏は2023年3月、AI研究を6ヶ月間停止することを求める公開書簡に署名した。矛盾していることに、マスク氏も同じ書簡に署名しながら、同時に自社のAI企業xAIを立ち上げていた。
ラッセル氏は陪審員とイボンヌ・ゴンザレス・ロジャース判事に対し、AI開発に関連する様々なリスクが存在することを述べた。これはサイバーセキュリティの脅威から始まるものである。
ラッセル氏の制約されないAI開発がもたらす存在論的脅威についてのより大きな懸念は、OpenAIの弁護士からの異議により判事がラッセル氏の証言を制限したため、公開法廷では明らかにされなかった。しかし、ラッセル氏は長年にわたり、世界中のフロンティア企業がAGI（汎用人工知能）到達を競う軍拡競争的ダイナミクスを批判してきており、政府によるより厳格な業界規制を求めている。
OpenAIの弁護士は反対尋問時に、ラッセル氏が組織のコーポレートガバナンス構造やその特定の安全保障政策を直接評価していないことを立証することに力を注いだ。
しかし、本記者（および判事と陪審員）は、企業の利益追求とAI安全保障の懸念との関係にどの程度の価値を置くべきかを判断することになる。OpenAIの創業者ほぼ全員は、利益をも強調しながらAIのリスクについて厳しく警告しており、可能な限り迅速にAIを構築しようとしてきた。同時に彼らはAI関連の営利企業の計画を立案している。
外部からの視点では、明らかな問題は、OpenAIの創業後にその組織内で認識されるようになった現実である。すなわち、成功するためにはより多くの計算能力への支出が必要だということであった。その資金は営利企業からのみ得られるのである。
同じダイナミクスはすでに国家レベルで展開されている。バーニー・サンダース上院議員の推進する動きである。
