BLOG

AIは嘘をつく?ChatGPTの「ハルシネーション」に騙されない3つのチェック法

〜AIの間違い方は、発達障害の私に少し似ている?〜

「AIが言っているから、これが正解に違いない」

そう思って、そのまま信じてしまったことはありませんか?

実はそれ、少し危険かもしれません。

こんにちは。
ディーキャリアITエキスパート立川オフィスのピアスタッフ、かまちです。

ChatGPTなどの生成AIは、私たちの仕事を劇的に効率化してくれるとても便利な道具です。

ですが、その道具には
「ハルシネーション」という弱点があります。

ハルシネーションとは、
AIがもっともらしい嘘をつく現象のことです。

実はこのAIの「間違い方」、発達障害を持つ私から見ると、どこか親近感を覚える現象でもあるのです。

AIが「嘘をつく」のはなぜ?

AIはなぜ、堂々と間違ったことを言ってしまうのでしょうか。

それは、AIが大量の情報を処理する中で
「情報の取り違え」を起こしてしまうからです。

AIは基本的に、

  • 正しいかどうか
  • 事実かどうか

よりも

「文章として自然かどうか」

を優先して回答を作ります。

そのため

  • Aという事実
  • Bという情報

無理やり結びつけてしまうことがあります。

これが
AIのハルシネーション(もっともらしい嘘)です。

発達障害の感覚に少し似ている?

ここで少し、個人的な話をします。

発達障害の特性として、
頭の中にたくさんの情報が入ってくると、

「あれ?これはどこで見た情報だっけ?」

と、情報の整理が追いつかなくなることがあります。

つまり

  • 情報が多すぎる
  • 整理が追いつかない
  • 結びつきがズレる

という現象です。

AIのハルシネーションも、
ある意味では

「情報処理のオーバーフロー」

のようなものだと感じています。

そう考えると、AIは

完璧な存在ではなく、凸凹のある道具

なのかもしれません。

AIに騙されない「3つのチェック法」

AIはとても便利ですが、
10回に1回くらいは間違えると思って使うと安全です。

そこでおすすめなのが
AIの回答を確認する3つのチェック法です。

ソースの現物を確認する

AIが出した

  • リンク
  • 書籍
  • 研究

は、本当に存在するか確認しましょう。

方法は簡単です。

そのタイトルをそのまま検索するだけ。

AIは
存在しない論文や記事を作ることがあります。

別のAIで比較する

同じ質問を

  • ChatGPT
  • Gemini
  • Copilot

など別のAIにも聞いてみます。

もし回答が大きく違う場合は、

どちらも間違っている可能性

があります。

情報の日付を確認する

AIの情報は
過去のデータが元になっています。

そのため

  • 法律
  • IT技術
  • 制度

などは最新情報とズレることがあります。

もし

1年以上前の情報

だった場合は、

  • 公式サイト
  • 最新記事

などの一次情報を確認する習慣をつけると安心です。

AIを信じすぎないことは「強いスキル」

今この記事を読みながら

「AIも間違えることがあるんだな」

そう感じた方もいるかもしれません。

実は

AIを一度疑い、裏を取る行動

それ自体が
とても大切なスキルです。

AIは「80%の下書き」

AIを使うときは、
こんなイメージを持つと上手くいきます。

AIの答えは

80%の下書き。

残りの20%を人間が確認する。

この20%の検証こそが

  • 情報の信頼性
  • 仕事の精度
  • 周囲からの信頼

を高めてくれます。

AIを使いこなすのは人間

AIはとても便利な道具です。

ですが、最終的な判断をするのは
人間である私たちです。

「AIも間違えることがある」

この前提を持つだけで
テクノロジーとの付き合い方は大きく変わります。

ディーキャリアITエキスパート立川オフィスでは、

ITスキルだけでなく
こうした「情報の扱い方」も大切にしています。

AIをただ使うのではなく、
賢く使いこなす力を一緒に身につけていきましょう。

まずは今日、

AIの回答を1つだけ
検索エンジンで確認してみてください。

そのたった3分の行動が、
あなたの情報の精度と信頼を大きく変えてくれるはずです。

\ SNSでも発信中 /

[X] 支援員の日常やイベント情報を最速でお届け!現場の「今」をリアルタイムにつぶやいています。


[Instagram] 活動の様子を写真でご紹介。施設の雰囲気や工夫を視覚的にチェック!


[LINE] 個別の質問やご相談はこちらから。1対1のチャットなので、周りを気にせず気軽にお送りください!※登録しても他の方に名前は見えませんのでご安心ください

凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凸凹凸凹凸凹凸凹

就労移行支援事業所

【ディーキャリアITエキスパート立川オフィス】

◆お問い合わせ/ご見学のお申込みはコチラ

〒190-0012
東京都立川市曙町2-34-6 小杉ビル6階

JR「立川駅」より徒歩4分

多摩モノレール「立川北駅」より徒歩4分

TEL: 042-506-1252

受付時間: 平日10:00~18:00の間

E-mail:it-tachikawa@dd-career.com

◆ディーキャリアITエキスパート立川オフィス のご紹介はこちらから

【ディーキャリア ITエキスパート立川オフィス】ご紹介
就労移行支援事業所ディーキャリアITエキスパート立川オフィス

◆同法人 ディーキャリア所沢オフィスのご紹介はこちらから

【ディーキャリア 所沢オフィス】ご紹介
就労移行支援事業所ディーキャリア所沢オフィス

凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凸凹凸凹凸凹凸凹

■この記事を書いた人は?■

ディーキャリアITエキスパート立川・所沢オフィス編集部

普段は、ディーキャリアITエキスパート立川オフィス、所沢オフィスでそれぞれ支援員として勤務。
主にオフィスの日常やイベント情報、発達障害、注意欠如・多動性障害(ADHD)、自閉症スペクトラム障害(ASD)、限局性学習障害(SLD)、精神障害、特性への工夫、障害者雇用、セルフケア、ライフハック、日々の支援員の気づきなど、さまざまな情報を発信しています。
凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凹凸凸凹凸凹凸凹凸

ITエキスパート立川オフィスのブログ一覧
  1. 発達障害の私が思う、あいまいについて

  2. 発達障害の私、思う環境変化に弱いについて

オフィス情報

ITエキスパート立川オフィス

JR「立川駅」より徒歩4分
042-506-1252