記事一覧

一次情報をもとに書いた記事のアーカイブです。テーマとキーワードで絞り込めます。

6 entries

AI生成テキストを「人間が書いたように」書き換えて検出器を回避するヒューマナイザー。最新の研究で、これらのツールが検出を逃れる過程で、数字や固有名詞などの重要な事実を密かに歪めていることが実証された。人間証明の技術的限界を示す重要な報告だ。

LLMが自身の生成物を再学習することで起きる「モデル崩壊」。最新の研究により、学習時だけでなくRAG（検索拡張生成）を用いた推論時にも同様の崩壊が起きることが実証された。AI生成コンテンツがウェブに溢れる中、人間のデータを証明する技術の重要性が推論フェーズにも及んでいる。

OpenAIは2026年11月4日、「ChatGPT Images 2.6」のシステムカードを公開し、C2PAメタデータとGoogleの電子透かし「SynthID」を組み合わせた多層的な来歴証明の導入を発表した。AI生成コンテンツの出所透明性を高める狙いがある。

紛争地帯のジャーナリストや内部告発者が、身元を明かさずにデジタルメディアの真正性を証明できる技術が登場した。Microsoft ResearchはNISTのワークショップで、ゼロ知識証明を用いてC2PAのプライバシー課題を解決するプロトタイプを発表した。

生成AIによるディープフェイクが普及する中、写真の信頼性をどう担保するか。最新の論文は、C2PAなどの来歴技術が生産履歴を証明できても、出来事の「真実性」までは保証できないと警告している。

AIエージェントが人間のブラウザ操作を高度に模倣するなか、行動シグナルから人間とボットを継続的に区別するAPI「Proof of Human」が公開された。CAPTCHAのようなパズルを不要にし、背後で動作する。