Civic AIOpen Coral Network

コラム

生成AIの答えを、どう確かめるか一次情報にさかのぼる情報リテラシー

生成AIは便利な一方で、もっともらしい誤りを含む答えを返すことがあります。AIの答えやインターネット上の情報を確かめるために、日常で使える手順をまとめました。

AIリテラシー・Open Coral Network 編集部・公開:・約3分で読めます

カフェで、スマホの AI の答えを見せる人と、出どころを尋ねる人
AI の答えを確かめる。

文章の要約や調べものの手がかりとして、生成AIを使う機会が増えています。一方で、生成AIは自然な文章で、誤った内容を答えることがあります。こうした現象は「ハルシネーション」と呼ばれ、AIが文章を作る仕組みと深く関わっています。

AIを避けるのではなく、上手に付き合うために必要なのが、情報を確かめる力です。本記事では、生成AIの答えやインターネット上の情報に接するときに、日常で使える確かめ方を整理します。

なぜAIは誤った答えを返すのか

文章を生成するAI(大規模言語モデル)は、大量の文章から言葉のつながり方を学び、質問に対して「続きとして自然な文章」を組み立てます。事実を一つずつ調べて答えているわけではないため、文章が自然であることと、内容が正しいことは別の問題です。

そのため、実在しない論文や記事を、もっともらしい題名や著者名を付けて示したり、古い情報を最新のことのように説明したりすることがあります。検索結果を参照して答えるAIもありますが、参照した情報そのものが誤っている場合もあります。

確かめるための5つの手順

情報を確かめるときは、次の手順を意識すると判断しやすくなります。

  1. 「事実」と「意見」を分ける。 文章の中から、数字や日付、出来事など、確かめられる事実の部分を取り出します。「〜すべきだ」「〜と考えられる」といった意見や推測とは分けて扱います。
  2. 出どころ(一次情報)をたどる。 その事実を最初に発表したのは誰かを探します。統計なら官公庁の公表資料、研究なら論文、制度なら法令や担当する省庁の発表が一次情報にあたります。AIが出典を示した場合も、実際にその資料を開き、本当にそう書かれているかを確かめます。
  3. 日付を確かめる。 制度や数字は年によって変わります。いつの時点の情報なのか、より新しい発表が出ていないかを確認します。
  4. 複数の情報源で照らし合わせる。 互いに独立した複数の情報源が、同じ内容を伝えているかを確かめます。同じ記事を引用し合っているだけの場合は、独立した情報源とはいえません。
  5. すぐに広めない。 驚きや怒りを感じる情報ほど、確かめる前に共有したくなるものです。少し時間を置き、確かめられてから共有しても遅くはありません。

AIを、確かめる作業の手助けに使う

AIは、確かめる作業そのものの手助けにも使えます。たとえば、長い文章から確かめるべき主張を書き出してもらう、ある分野で一次情報にあたる資料の種類を挙げてもらう、といった使い方です。

ただし、その場合も、最後に資料を読んで判断するのは人です。AIに「この情報は正しいですか」と尋ね、返ってきた答えをそのまま信じてしまうと、確かめたことにはなりません。AIは調べる道筋を示してくれる道具であり、判断を代わりに引き受けてくれるものではない、と考えておくと安心です。

画像や動画にも注意を

生成AIは、文章だけでなく、写真のように見える画像や、実在の人物が話しているように見える動画も作ることができます。印象の強い画像や動画を見かけたときは、最初に発信したのは誰か、ほかの信頼できる媒体でも伝えられているかを確かめましょう。画像検索の機能を使って、同じ画像が以前にどのような文脈で使われていたかを調べる方法もあります。

子どもから大人まで、学びの場で

情報を確かめる力は、特別な知識がなくても身につけられます。大切なのは、「この情報はどこから来たのか」「いつの情報か」と問いかける習慣です。子どもと一緒にAIを使うときも、答えを見て終わりにせず、「本当かな。どうやって確かめようか」と声をかけることが、学びのきっかけになります。

当法人は、AI講座や中学生向けのAIプログラミング講座など、AIを学ぶ場づくりに取り組んでいます。AIを便利に使うことと、その答えを確かめることは、これからの学びの両輪だと考えています。

この記事について

本記事の作成には生成AIを補助的に使い、編集部が内容を確認しています。

内容に誤りやお気づきの点があれば、お問い合わせフォームからお知らせください。確認のうえで訂正し、更新日を記載します。

AIを学ぶ場

講座
AIの勉強会など
費用
参加登録は無料です。集まりの参加費は、回ごとに案内でお知らせします
日程
決まりしだい、参加登録をした方にお知らせします
集まりと勉強会

ほかのコラム

参加登録

次の集まりの案内を、メールで受け取れます。

必要なのは、お名前とメールアドレスだけです。参加登録は無料です。

無料で参加登録する