米政府とAnthropicのCEO・ダリオ・アモデイ氏は4月17日、AI安全性をめぐる対立以来初めて協力関係について協議した。新モデル「Mythos」のサイバー攻撃能力への懸念が高まる中、両者はイノベーションと安全性のバランスについて話し合った。
米政府とAnthropicのCEOダリオ・アモデイ氏は4月17日（現地時間）、同社のAIモデルの利用をめぐって国防総省との間に生じた対立以来、初めて協力関係について協議した。
国防総省は2月、Anthropicが自律型兵器や国内監視へのAI利用に対するガードレールの撤廃を拒否したことを受け、同社をサプライチェーンリスクに指定し同社技術の利用を大幅に制限していた。
同氏とホワイトハウス職員との会合は、同社が4月7日に発表した「Claude Mythos Preview」がサイバー攻撃を大幅に強化するとの懸念が高まる中で開かれ、両者が信頼関係の再構築に向けて動き始めている可能性を示唆している。
米政府や世界各国の中央銀行、各業界は、複雑なサイバー攻撃をより簡単かつ迅速に実行可能にするMythosの能力について、理解を深めようとしている。
レガシーシステムを抱える銀行業界は特に脆弱な立場にある。米国やカナダ、英国の少なくとも3カ国の政府当局者が、Mythosがもたらす脅威について銀行幹部と協議した。「Axios」の報道によれば、スコット・ベッセント財務長官がスージー・ワイルズ首席補佐官と共にアモデイ氏との会合に参加したという。
ホワイトハウスはAnthropicとの会合を「生産的かつ建設的」と評し、「本会合では協力の機会や、この技術の拡大に伴う課題に対処するための共通のアプローチとプロトコルについて議論した」と声明を発表した。
両者はイノベーションと安全性のバランスについても話し合った。「引き続き対話を続けることを期待しており、他の主要なAI企業とも同様に協議する予定だ」とホワイトハウスは述べた。
Anthropicも同会合を「生産的」と評し、「サイバーセキュリティやAIにおける技術競争における米国のリード、AIの安全性といった重要な共通優先事項についてどのように協力できるかを議論した」とコメントした。
Mythosは現在、世界の重要なソフトウェアの安全性を高める取り組み「Project Glasswing」の一環として、一部の企業に限定公開されている。同プロジェクトの参加企業はMythosを使用してサイバーセキュリティの脆弱性を探索できる。
Anthropicは公式ブログで、同モデルの自律的に行動する能力について「コーディングとエージェンティックタスクにおいて同社史上最も高い性能を持つ」と述べた。
しかし、同モデルは高度なコーディング能力によって、サイバーセキュリティの脆弱性を特定し、それを悪用する方法を考案する能力を持ち得ると専門家らは指摘している。企業向けAIセキュリティ企業Guardrail TechnologiesのCEO、TJ・マーリン氏によれば、最新技術と数十年前のソフトウェアが混在するシステムを運用する銀行などの金融機関は多くの脆弱性にさらされる可能性があるという。
米トランプ大統領はAnthropicと国防総省の対立の際、SNS「Truth Social」で同社を激しく非難し、「Anthropicの極左連中は国防総省を恫喝しようとして致命的な間違いを犯した」と投稿していた。4月17日に記者団からAnthropicとの会合について問われたトランプ氏は、「全く知らない」と答えた。
