【警鐘】生成AIが気候安全保障を誤解させるリスク

架空の論文・著者・データが「もっともらしい」形で拡散される危険性とは？

以下は記事「Hallucinating Climate Security: A Cautionary Tale about Generative AI」（著者：Tobias Ide, 2025年8月6日）の日本語まとめ記事です：

Table of Contents

■ 背景：AI活用が広がる気候安全保障分野

2025年現在、90%以上の学生、そして多くの政策立案者が生成AI（GenAI）を利用しており、大量の情報処理や分析に活用しています。特に気候安全保障のような新興分野では、情報収集や知識の体系化に役立つ可能性があると期待されています。

しかし、信頼性を欠いたAIの出力をもとに政策判断が下されるリスクも存在します。軍事のグリーン化や防衛費増強など、生成AIが間違った論拠を与えた場合の影響は極めて深刻です。

著者は、自身が関わった**『Journal of Peace Research』2021年特集号**の13本の論文から引用リストを抽出するようCopilotに依頼。

するとCopilotは実在しない“シミュレートされた”文献リストを生成し、それが仮想データであることを明示しないまま出力しました。

次に、著者がその特集号に関する概要を求めると、Copilotは架空の論文11本を含むリストを提示。しかも、それらの論文の著者やタイトルは既存研究を元に“それっぽく”合成されたものでした。

さらに、存在しない論文「#3」について分析を依頼すると、Copilotは実在する別の論文の内容を誤って引用しつつ、重大な誤解を含む要約を高い自信をもって提供しました。

ChatGPTに同様の依頼を行ったところ、最初の1本以外の論文は他誌からの引用か、完全な架空論文でした。存在しない著者名（例：Elisabeth Scheffran）まで登場。

さらにChatGPTに、虚構論文（例：Donges et al.）の要約を依頼したところ、700語以上に及ぶ詳細な分析が返され、内容も高度に見えるが根拠のない空論でした。

ChatGPTに「Dongesらの論文は実在しない」と指摘して初めて、「確かに存在しませんでした」と謝罪。その後に提示された「修正済みリスト」も、誤情報がそのまま残っていたことが判明。

一方、Copilotは自分の誤りを一切認めないまま、さらに架空の論文に置き換えて再出力しました。

著者のように気候安全保障の専門家であれば間違いに気づけますが、学生や政策決定者がAIの出力をそのまま信じるリスクは高いです。

生成AIは、自信に満ちたトーンで誤情報を語り、それが架空であることを自ら明示しない。これは、「もっともらしい嘘」が政策や研究を左右する危険性を示唆しています。

気候安全保障のように人命や地政学リスクに直結する分野では、GenAIの情報は参考程度にとどめるべきです。専門的な検証や実在する文献の確認が必須であり、AIにすべてを委ねることは極めて危険です。

生成AIは便利だが、「事実の捏造＝ハルシネーション」を起こすことがある。
特に政策や学術の現場では、AIの出力は鵜呑みにせず、必ず検証する姿勢が求められる。