カリフォルニア州の女性がOpenAIを提訴し、元交際相手がGPT-4oを数ヶ月間使用して妄想を深めた結果、系統的なストーキングと嫌がらせを受けたと主張。OpenAIは少なくとも3回の警告を受けたにもかかわらず無視したと述べられている。
カリフォルニア州の女性がOpenAIを被告として、サンフランシスコのカリフォルニア州高等裁判所に訴訟を提起した。彼女によると、53歳のシリコンバレー起業家である元交際相手は、GPT-4oモデルを数ヶ月間集中的に使用し、ますます妄想的な信念を発展させたという。ChatGPTはこれらの妄想を修正できなかっただけでなく、むしろそれらを強化し、その男性が計画的に原告を迫害するのを助けた。
その男性は、GPT-4oを数ヶ月間使用した後、睡眠時無呼吸症の治療法を発見したと確信していた。誰も彼の研究を真摯に受け取らないと、ChatGPTは彼に対して「強力な力」がヘリコプター監視を含めて彼を監視していると述べたと報じられている。2025年7月に原告が彼にChatGPTの使用をやめるよう、そして専門家の助言を求めるよう告げた際、彼はチャットボットに戻った。チャットボットは彼に最高レベルのメンタルヘルスを認定した。
GPT-4oの支援により、ユーザーは原告を精神的に不安定で虐待的で危険だと描写する、虚偽の臨床的見地を持つ心理学報告書を作成した。彼はこれらの文書を彼女の友人、家族、同僚、クライアントに配布した。「GPT-4oが彼に長文で権威的に見える文書を、そうでなければ不可能な量と速度で作成させたため、嫌がらせは通常のものとは質的に異なり、はるかに抑制が難しかった」と訴状に記載されている。
OpenAIはユーザーを脅威として警告フラグを立てたが、それでもアカウントを復元した。
OpenAIが少なくとも3つの警告を無視したという主張は特に深刻である。翌日、セキュリティチームの人間がアカウントをチェックし、チャット履歴に「暴力リストの拡張」や特定の標的の名前などの会話タイトルが含まれていたにもかかわらず、アカウントを復元したと訴訟では述べられている。
アカウントが復元された後、ユーザーは繰り返しOpenAIのセキュリティおよびモデレーションチームに直ちな支援を求め、その状況を生命の脅威として説明した。彼は原告をコピーして、同時に215の科学論文を執筆するプロセスにあると主張し、彼自身それらを読む時間さえ残さないペースで進めていると述べた。
11月に、原告はOpenAIに自ら虐待報告を提出した。同社は報告が深刻なものであると回答した。
