RAGも「モデル崩壊」を起こすのか？ AI生成データの再検索が招く推論時の劣化

何が起きたか

AIが生成したテキストがウェブ上のコンテンツの大部分を占めるようになる中、AIアシスタントが自身の過去の生成物を検索し、それを条件として新たな回答を生成するというフィードバックループが形成されつつある。これまで、モデルの生成物を再帰的に「学習（トレーニング）」させると、出力の多様性が失われ分布が偏る「モデル崩壊（Model Collapse）」が起きることが広く知られていた。しかし、パラメータの更新を伴わない「推論（インファレンス）」の段階、すなわちRAG（検索拡張生成）においても同様の崩壊が起きるのかについては、十分に検証されていなかった。

2026年10月1日にACL Anthologyで公開された論文『Does Retrieval Augmented Generation Collapse When It Retrieves AI-Generated Documents?』（Riddhimaan Senapati, Gregory Druck, Chang Zengら著）は、この問題に正面から取り組んだ実証研究である。研究チームは、LLMがRAGを通じて自身の生成物を検索・参照する際に、推論時における崩壊がどのように現れるかを測定した。

実験では、オープンソースLLMを用いて、再帰的な検索ラウンドを重ねた際の回答の変化を追跡した。その結果、直接的な汚染環境下では、回答がごく狭い範囲のトピックや表現に急速かつ一貫して収束していく「回答の崩壊（Answer Collapse）」が確認された。一方で、現実的な検索環境（競合する検索結果が存在する状況）では、崩壊の進行は遅く、部分的であり、使用するモデルの特性に依存することも判明した。さらに、この推論時の崩壊は、事実に基づくマルチホップQA（複数の情報を組み合わせて答える質問応答）における下流タスクの精度を低下させる可能性があることも示された。ただし、この精度低下の影響はモデル間で一貫しているわけではなく、特定の条件下で顕著になるという。

なぜ人間証明の文脈で重要か

この研究結果は、「人間であることを証明する技術（Proof of Human）」や「データの来歴証明（Provenance）」が、AIモデルの学習フェーズだけでなく、運用・推論フェーズにおいても不可欠であることを示している。

これまで、モデル崩壊を防ぐための主な対策は、事前学習やファインチューニングのデータセットからAI生成物を排除し、人間が作成した高品質なデータを確保することに主眼が置かれていた。しかし本論文が示すように、RAGを用いたシステムがウェブ上の情報を動的に検索して回答を生成する場合、検索先のウェブサイトがAIによって生成された「スロップ（Slop：粗悪なAI生成コンテンツ）」で汚染されていれば、モデル自体のパラメータが健全であっても、出力結果は崩壊してしまう。

論文の著者が「AI生成コンテンツがオープンウェブに溢れ続ける中、崩壊に強い検索設計（collapse-resistant retrieval design）は、信頼できるAIアシスタントの前提条件となる」と指摘している通り、検索システムは「どの情報が人間によって書かれたものか」を識別できなければならない。ここで重要になるのが、C2PAのようなコンテンツ来歴証明技術や、ドメインの所有者が人間であることを暗号学的に証明する仕組み、あるいはWorld IDのような生体認証に基づく「人間の証明」をウェブコンテンツのメタデータに紐づけるアプローチである。

もしRAGシステムが、検索結果の中から「人間が作成したと暗号学的に証明されたデータ」を優先的に取得したり、AI生成データに適切な重み付けを行ったりすることができれば、推論時のモデル崩壊を防ぐことができる。逆に言えば、人間証明のインフラがウェブ全体に普及しなければ、次世代の検索エンジンやAIエージェントは、自らが作り出した情報の海の中で方向感覚を失い、多様性や正確性を担保できなくなるリスクを抱えている。

残る論点

本研究はRAGにおける推論時のモデル崩壊を実証した重要な一歩であるが、いくつかの論点と限界（Limitations）が残されている。

第一に、現実のウェブ環境における汚染の動態は、シミュレーションよりもはるかに複雑である点だ。論文でも触れられているように、現実的な検索環境では崩壊の進行が遅く、モデル依存性が高い。実際の検索エンジン（GoogleやBingなど）は、単なるテキストの類似度だけでなく、ドメインの権威性や被リンク数、ユーザーのクリック行動など、多様なシグナルを用いてランキングを決定している。これらの既存の検索アルゴリズムが、AI生成コンテンツのフィードバックループをどの程度緩和できるのか、あるいは逆に増幅してしまうのかは、さらなる大規模な実証研究が必要である。

第二に、マルチホップQAにおける精度低下のメカニズムの解明である。実験では精度低下が確認されたものの、その影響がモデル間で一貫していなかった。これは、特定のLLMが持つ内部知識（事前学習で得た知識）と、RAGによって外部から与えられたコンテキスト（AI生成物を含む）との間で、どのような競合や上書きが発生しているのかが完全に解明されていないことを意味する。

第三に、AI生成コンテンツを完全に排除することが常に正解とは限らないという点だ。Times Higher Educationが報じたように、学術プラットフォーム（arXivなど）ではAIによる粗悪な論文の大量投稿が問題視されている一方で、AIを活用したコーディングや数学の証明（AlphaProofなど）は人間の能力を補完し、質の高いデータを生み出す可能性も秘めている。RAGシステムにおいては、「AIが生成したか否か」という二元論だけでなく、「そのAI生成物が人間の専門家によって検証・承認されたものか（Human-in-the-loop）」という、よりきめ細かい来歴情報と人間証明の組み合わせが求められるようになるだろう。