AIチャットボット提供ニュースの「3分の1が誤情報」 巧妙化するプロパガンダ・ロンダリングの対応に遅れ

1: 煮卵 ★ 2025/09/14(日) 09:26:21.54 ID:v6sYJ8ry9

世界を代表するチャットボットは、これまでにない量の問い合わせを処理している。しかし、その一方で回答の精度は劇的に低下している。オンラインニュースのファクトチェックを手がける「NewsGuard（ニュースガード）」の調査によれば、2025年8月時点で主要な生成AIツールが誤情報を提供する確率は35％に達し、2024年の18％から大幅に増加した。

調査では、チャットボットの検索利用が拡大する中、AIの構造的な弱点が浮き彫りとなった。

その背景には、低品質なコンテンツや偽ニュース、虚偽広告が氾濫するインターネット空間を主要な情報源としている実態がある。

「本来であれば、モデルは答えられる範囲や学習データの鮮度を明示したり、デリケートな話題への言及を控えるべきところだが、実際には汚染されたオンライン環境から情報を取得している。その結果、信頼性があるかのように見えても、不正確な回答が生成されている」と、ニュースガードの広報担当、マッケンジー・サデギは指摘する。

■AIチャットボットの応答性は向上も、正確性は低下

この変化は、AIシステムの運用が根本から揺らいでいることを示唆している。調査によると、以前は特定の質問に答えなかった大規模言語モデルが、今では信頼性の低い情報源に頼って誤った回答をすることが増え、正確なニュースを見分ける力も低下している。

昨年の調査では、AIモデルは時事問題に関する問い合わせの31％を回答拒否していたのに対し、2025年8月時点での拒否率は0％だった。この変化は、調査対象のモデルが答えられない質問も含め、あらゆるクエリに応答しようとする傾向が強まった結果、より断定的に不正確な情報を提供するようになったことを示している。

■トップクラスから最下位へ転落したAIモデル

昨年のトップパフォーマーの一つであった「Perplexity（パープレキシティ）」は、今年の調査で最もパフォーマンスが低下した。同モデルは、ニュースガードが2024年に実施したファクトチェックでは100％の精度を誇ったが、2025年の調査で正確に回答できたのはわずか半数にとどまった。

(略)
■巧妙化するプロパガンダ・ロンダリング、AIは対応に遅れ

ニュースガードの最新調査は、専門家が以前から指摘していたAIの安全性リスクを裏付けた。ロシアの「Storm-1516」や「Pravda」といった政府系偽情報ネットワークは、人々に直接リーチするよりもAIシステムそのものを汚染することを目的に設計された大規模なコンテンツファームを運営しており、成果を上げている。

調査では、仏スタートアップのミストラルAIが開発した「Le Chat（ル・シャ）」、マイクロソフトの「Copilot（コパイロット）」、メタの「Llama（ラマ）」などのモデルが、不正なネットワークが流布した虚偽の情報をそのまま引用し、ロシアのVK（フコンタクテ）やTelegram（テレグラム：ロシア出身のニコライ・ドゥーロフとパベル・ドゥーロフ兄弟が開発）といったSNSプラットフォーム上のフェイクニュース記事やエンゲージメントの少ない投稿を情報源として使用していたことが判明した。

「これは、外国による情報工作の適応力と持続性の高さを示すものだ。モデルが特定のドメインを参照しなくなっても、同じネットワークのコンテンツは別経路を通じて再び浮上する可能性がある」とサデギは指摘する。

プロパガンダ・ロンダリングは単なるドメインの移動にとどまらず、ストーリーの植え付けを伴う。「同じストーリーが数十の異なるウェブサイトやSNS投稿に同時に現れ、関係者によって写真や動画、テキストの形で繰り返し拡散される」と彼女は説明する。

■情報量と信頼性の見極めにAIは苦戦

たとえ虚偽情報が悪質なフェイク情報発信者によって発信されたものであっても、十分に拡散されればAIモデルを誤らせることがある。これが、現時点での大きな盲点だ。チャットボットは、複数のプラットフォームや情報形式にまたがる「ナラティブ・ロンダリング」を検知することに、依然として苦戦している。


全文は↓
https://news.yahoo.co.jp/articles/fdd3400b526c0933df4cc2461ad6f2ce1829d066

[Forbes Japan]
2025/9/13(土) 17:00

阿部慎之助監督の事件、娘がチャットGPTに相談し児相通報

義父の四十九日で夫が「相続放棄」に勝手に同意…帰宅後に詰めたら冷たい目で無視された…金のかかる義弟家ばかり優遇するエネ夫に腹が立ちすぎて顔も見たくない

ゴミクソ「タイミーさんこれ運んどいて、早めで」俺「はい…」

【動画】バイカスさん、すり抜け失敗

【移民】🇪🇺ヨーロッパで見かけた”衝撃の瞬間"。 #移民

ベトナム人たちが猪狩り 日本が舐められ過ぎてる。。。

日本でウェブトゥーンはなぜうまくいかないのか Xで漫画関係者らが続々と語り始める

海外「製油所の赤いボタンを押したら全体が止まって、4時間の事情聴取の末にクビになった」”絶対押すな”を押した瞬間…

落合博満「不祥事皆無です。3冠王3回です。監督在任8年で優勝4回です。子供の教育も完璧です」他

【移民】🇪🇺ヨーロッパで見かけた”衝撃の瞬間"。 #移民

ベトナム人たちが猪狩り 日本が舐められ過ぎてる。。。

“ドーピング容認”の国際競技大会があす開幕 世界記録上回れば最大1.6億円の賞金 五輪経験者も参戦

【ナイナイ】ある中国人｢日本人は中国に嫉妬している｣

ネットの声

【悲報】韓国、アメリカにスワップ更新拒否され完全に詰む・・・

【ニュース】玉城デニーと辺野古船長への殺害予告、どう見ても自作自演ｗｗｗｗ

落合博満「不祥事皆無です。3冠王3回です。監督在任8年で優勝4回です。子供の教育も完璧です」他

リングでケツ見え過ぎて目立ってたラウンドガール光葉かのんがDVD発売

海外「みんな日本語で歌ってるじゃん！」 日本の40年前の名曲が世界の若者の間で爆発的な人気に

【移民】🇪🇺ヨーロッパで見かけた”衝撃の瞬間"。 #移民

ベトナム人たちが猪狩り 日本が舐められ過ぎてる。。。

|●|【対外純資産】日本、中国に抜かれ3位に 2025年末は561兆7504億円(4.4%増) 1位独675兆、2位中国636兆

義父の四十九日で夫が「相続放棄」に勝手に同意…帰宅後に詰めたら冷たい目で無視された…金のかかる義弟家ばかり優遇するエネ夫に腹が立ちすぎて顔も見たくない

引用元: https://asahi.5ch.net/test/read.cgi/newsplus/1757809581/