Anthropicの危険なAIモデル「Mythos」が不正アクセスされたことが判明

Anthropicの強力なサイバーセキュリティツールである「Mythos AI」モデルが、「間違った手に落ちた」場合は危険だと同社が述べていたにもかかわらず、「少数の不正利用者」がアクセスしたと、Bloombergが報道しました。グループメンバーの匿名のAnthropic第三者請負業者によると、プライベートオンラインフォーラムのメンバーは、請負業者のアクセスと「よく使われるインターネット調査ツール」の組み合わせを使ってMythosにアクセスしたとのことです。

Claude Mythos Previewは、ユーザーに指示されたときに「すべての主要なオペレーティングシステムおよびすべての主要なウェブブラウザの脆弱性を特定および悪用する」ことができる新しい汎用モデルです。このモデルへの公式アクセスは、Project Glasswing計画を通じて、Nvidia、Google、Amazon Web Services、Apple、Microsoftを含む少数の企業に限定されています。各国政府もこの技術に関心を寄せています。Anthropicは現在、このモデルが兵器化される可能性があるという懸念から、公開リリースの計画はありません。

「第三者ベンダー環境を通じたClaude Mythos Previewへの不正アクセスの報告について、私たちは調査しています」とAnthropicのスポークスパーソンはBloombergの声明で述べました。Anthropicは現在のところ、この不正アクセスが同社のシステムに影響を与えている、あるいは第三者ベンダー環境を超えていることを示す証拠がありません。

このモデルは4月7日に不正にアクセスされたと報告されており、これはAnthropicが限定的な企業数へのMythosのリリースを発表した同じ日です。不正アクセスを取得したグループは公に特定されていませんが、Bloombergは、そのメンバーは未発表のAIモデルに関する情報を探し求めるDiscordチャネルの一部であると報道しています。

グループは、最近のMercorデータ侵害から取得したAnthropicの他のモデル形式に関する知識を使用して、そのオンライン位置について「根拠のある推測」をすることでMythosにアクセスしました。メンバーはアクセス取得以来定期的にMythosを使用しており、Bloombergへの証拠としてスクリーンショットとモデルの実演を提供しています。しかし、Anthropicによる検出を避けるために、サイバーセキュリティ目的では使用されていないと報道されています。Bloombergによると、他の未発表のAnthropicモデルもグループによってアクセスされたとのことです。