情報源の信頼性をどう見極めるか（AIの限界とファクトチェック）

リサーチの過程で「この記事は信頼できる情報源か」をAIに直接尋ねたくなる場面は多いはずです。実際に尋ねればもっともらしい答えが返ってきますが、その判断根拠がどこまで確かなのかは、意外と検討されていません。AIは情報源の信頼性そのものを検証しているのではなく、文章の書き方や出典の有無といった表層的な特徴から推測しているにすぎない、という前提を押さえておく必要があります。

なぜ「AIに聞けば分かる」では済まないのか

AIチャットに URL やテキストを渡して「これは信頼できますか」と聞くと、多くの場合、発行元の知名度や文章の構成、引用の有無などをもとにした評価が返ってきます。これは一定の目安として有用ですが、AIがそのウェブサイトの運営実態を調査したり、記載されている数字の出典に実際に当たったりしたわけではありません。総務省と経済産業省が2024年に公表した「AI事業者ガイドライン」でも、生成AIの出力は事実性が保証されたものではなく、利用者側での確認が前提とされています※1。

一次情報への到達可能性という観点も見落とされがちです。ロイタージャーナリズム研究所の年次調査（Digital News Report）は、オンラインニュースに対する信頼度が国や世代によって大きく異なり、単一の基準で「信頼できる/できない」を切り分けることの難しさを繰り返し示しています※2。AIに単純な二択の判定を求めること自体が、この複雑さを見えなくしてしまう危険があります。

AIが信頼性判断を誤りやすい典型パターン

もっとも典型的なのは、実在しない、あるいは実際の内容と異なる出典を提示してしまう現象です。OpenAIが公開したGPT-4のシステムカードは、モデルが自信を持ってもっともらしい誤情報を生成しうることを課題として明記しています※3。信頼性を尋ねた回答の中に具体的な統計や研究名が含まれている場合、その存在自体を疑ってかかるくらいがちょうどよいでしょう。

もう一つのパターンは、文章の「見た目の権威性」に引きずられることです。専門用語が多く、体裁の整った文章ほど信頼できると判断しやすいのは人間もAIも同じ傾向を持ちますが、体裁の良さと内容の正確さは別の軸にあります。逆に、一次資料や公的統計そのものは、読みやすさよりも正確さを優先しているため、AIの評価基準では過小評価されることがあります。

信頼できる情報源を見極める基準

実務で有効なのは、AIの評価をそのまま受け取るのではなく、確認すべき項目のチェックリストとして使うことです。具体的には、発行元が実在する組織か、著者や監修者が明示されているか、一次データや調査方法へのリンクがあるか、発表日や更新日が確認できるか、といった項目です。これらはジャーナリズムや学術分野で長く使われてきた基準であり、AIに聞く聞かないにかかわらず有効です。

AIにはこれらの項目を洗い出させ、実際の確認は自分で行う、という役割分担にすると、AIの限界を補いながら作業時間を短縮できます。たとえば「この記事に一次データへのリンクや出典の記載があるか確認して」という具体的な依頼であれば、AIは文章中の該当箇所を探す作業として比較的得意な部類に入ります。

AIをファクトチェックの補助に使う実践手順

ステップ1 主張を事実確認できる単位に分解する

「この記事全体は信頼できるか」ではなく、「この数字の出典は明示されているか」「この引用は原文と一致しているか」など、検証可能な単位に分けて尋ねます。

ステップ2 出典の有無と種類をAIに洗い出させる

記事内の主張ごとに、根拠として挙げられている出典が一次資料(公的統計、研究論文、公式発表)なのか、二次資料(他メディアの記事の引用)なのかを分類させます。

ステップ3 一次資料が確認できる主張だけを採用する

出典が二次資料止まりだった主張は、そのまま採用せず、可能であれば一次資料まで自分でたどります。AIに「この出典の一次資料が公開されているか探して」と依頼するのも一つの手ですが、検索結果の正確性は自分で確認してください。

限界：AIに任せてはいけない場面

しかし、AIによる信頼性判断を最終判断として使ってよい場面は限られています。医療・法律・金融など、誤った情報が実害につながる分野では、AIの評価はあくまで一次スクリーニングにとどめ、専門家や公的機関の一次情報で必ず裏づけを取る必要があります。本稿の内容も専門的な助言の代替ではありません。

もっとも、これはAIが「使えない」という意味ではありません。スタンフォード大学人間中心AI研究所(HAI)が毎年公表しているAI Indexの報告書でも、生成AIモデルの性能は急速に向上し続けている一方、事実性や引用の正確性に関する評価軸では依然として課題が残ることが指摘されています※4。得意な部分(項目の洗い出し、文章構造の分析)と不得意な部分(事実そのものの検証)を切り分けて使うことが、現時点でのもっとも現実的な付き合い方です。

今後の展望と残る不確実性

各社は出典表示機能やウェブ検索連携の精度向上を進めており、今後、AIが提示する出典の正確性は改善していくと見込まれます。ただし、どの程度改善が進むかは各社の技術開発のペースやモデルの世代によって幅があり、現時点で一律の見通しを立てることはできません。2026年時点の情報として本稿を書いていますが、各ツールの公式ヘルプページで最新の機能範囲を確認することをおすすめします。

情報源の信頼性を見極める作業そのものを、より体系立てて学びたい場合は、AIの検索特性の違いを扱ったAI検索と従来の検索エンジンの使い分けや、複数ソースの矛盾を分析する複数ソースの内容をAIで分析し矛盾点を洗い出す手順もあわせて確認してください。

参考文献

1. ※1. 総務省・経済産業省. "AI事業者ガイドライン." 2024年4月
2. ※2. Reuters Institute for the Study of Journalism, University of Oxford. "Digital News Report 2024."
3. ※3. OpenAI. "GPT-4 System Card." OpenAI, 2023
4. ※4. Stanford Institute for Human-Centered AI (HAI). "AI Index Report 2025." Stanford University, 2025