コロンビア大学などの研究チームが約250万件の生命医学論文を調査し、AIによる架空引用文献が2023年比で12倍以上に急増したことを『Lancet』誌に発表。診療ガイドラインの根拠となるレビュー論文での被害が特に深刻で、医療上の意思決定の信頼性を根底から脅かしている。
250万件の生命医学論文を対象とした監査により、査読済み研究における架空の引用文献が組織的な問題となっていることが明らかになった。2023年以降、その発生率は12倍以上に増加している。
コロンビア大学などの研究機関に所属する研究者たちが、生命医学論文における引用文献の過去最大規模のレビューを『The Lancet』誌に発表した。Maxim Topaz氏が率いるチームは、2023年1月から2026年2月にかけてオープンアクセスアーカイブのPubMed Centralに掲載された247万件の論文を調査。確認した9,710万件の引用文献のうち、4,046件が捏造されたものとして検出された。
2023年を通じて発生率は約1万論文あたり4件で安定していた。しかし2024年半ばから急上昇し、2025年末には51.3件に達し、2026年の最初の7週間では56.9件を記録した。これはベースラインの12倍以上に相当する。
研究者たちは、この急増が生成AI（Generative AI）の広範な普及と関連していると見ている。
研究チームは、組織的な「論文工場（paper mill）」活動を示すパターンも発見した。同じ外科系学術誌に掲載された11本の論文に2名の著者が繰り返し登場しており、架空の引用文献が合計15件確認された。
監査時点で、問題が検出された論文のうち98.4%は出版社から何の対応も受けていなかった。最も深刻な影響を受けたのはレビュー論文で、他の論文タイプと比べて架空引用の発生率が57%高かった。研究者たちは、レビュー論文はしばしば診療ガイドラインの根拠として用いられるため、この点が特に憂慮されると指摘している。架空の引用文献を含む論文がガイドラインに引用された場合、治療上の意思決定を支えるエビデンスの連鎖全体が損なわれる恐れがある。
科学コミュニティも対応を始めているが、その取り組みはまだ断片的だ。arXivは、ハルシネーション（hallucination）された引用文献を含む未検証のLLM出力を論文に使用した著者に対して制裁を強化し、違反者に1年間の投稿禁止を課す方針を示した。NeurIPS 2025の採択論文を分析した結果、AIの一流カンファレンスでさえも架空の引用文献を確実に検出することはできないことが示されている。対策の一つとして、引用文献の自動チェックシステムである「CiteAudit」というオープンソースツールが挙げられているが、商用の言語モデルが自らの引用エラーを検出する能力がいかに低いかも同時に示している。
研究チームは4つの対策を推奨している。査読前の引用文献の自動チェック、論文データセットへの整合性メタデータの付与、既発表論文の遡及的スクリーニング、そして追加の措置だ。
