AIは平気で嘘をつきます。とくに危ない4つの場面

この記事で分かること

ハルシネーションという言葉

AIが事実でないことを書いてしまうことを、ハルシネーションと呼びます。もとは「幻を見る」という意味の言葉です。

覚えなくて大丈夫です。この記事では「AIの作り話」と呼びます。

なぜ、作り話をするのか

AIは、物事を「知っている」わけではありません。

やっているのは、「次に来そうな言葉を選び続ける」ことです。たくさんの文章を読んで、言葉のつながり方を覚えた機械だと思ってください。

AIは辞書ではありません。とても上手な「文章の続きを書く機械」です。

だから、答えを知らないときでも止まりません。それらしい言葉を続けてしまいます。

そして困ったことに、その文章はとても自然です。「たぶん違うと思いますが」とは書いてくれません。本当のことを書くときと、まったく同じ調子で書きます。

とくに危ないのは、この4つです

ここがいちばん大事なところです。AIはどこでも同じように間違えるわけではありません。間違えやすい場所が決まっています。

① 専門的なこと

その業界の人しか知らないこと。法律、規格、業界の慣習、専門の用語。

こういう情報は、世の中に出回っている文章が少ないのです。AIが読んだ量も少ない。少ないほど、作り話になります。

② その会社・お店だけのこと

あなたのお店の営業時間、創業年、商品の名前、担当者の名前。

これはAIが読んだことのない情報です。知らないのに聞かれるので、それらしく作ります。

自分の会社のことを聞いて、堂々と間違った答えが返ってきた——という経験をお持ちの方は多いはずです。

③ 数字

値段、日付、人数、統計。数字はいちばん作られやすいところです。

「2026年の調査では、約7割が」のような文が出てきたら、疑ってください。その調査は存在しないかもしれません。

④ 固有名詞の組み合わせ

「袋井市の◯◯というお店」のような、地名と店名の組み合わせ。

存在しない店名を作ったり、別の市のお店をこちらのものとして書いたりします。

見分け方は、ひとつだけ覚えてください

こう考えると、迷わなくなります。

AIに「思い出させる」のは危ない。「渡したものを加工させる」のは安全。

AIの記憶から引っぱり出させる仕事は、作り話が混じります。

こちらが材料を渡して、それを直させる仕事は、ぐっと間違えにくくなります。渡したものをもとに書くからです。ただ、短くするときに数字や名前が変わることもあるので、できあがりは読み返してください。

左側は、こちらが材料を渡しています。右側は、AIの記憶に頼っています。

お店で使うときの、確認の手順

こんな場面が、いちばん危ないです

• お客様への案内文に、AIが書いた日付や料金をそのまま載せる　　間違っていたら、信用の問題になります
• ホームページの「よくある質問」をAIに書かせる　　自分の店の答えを、AIは知りません（作り方はお店の「よくある質問」の作り方）
• 専門的な説明をAIに書かせて、お客様に渡す　　業界の人が読むと、間違いに気づきます
• お客様からの質問に、AIの答えをそのまま返す　　いちばんやってはいけないことです

それでも、AIは使ったほうがいいです

ここまで読んで、こわくなったかもしれません。でも、使わないほうが損です。

作り話がいちばん起きやすいのは、AIの記憶に頼ったときです。材料を渡して加工させる使い方なら、まちがいはぐっと減ります。

そして、その使い方こそが、お店でいちばん役に立ちます。文章を短くする。やさしく言いかえる。3案に書き分ける。毎日の手間が、はっきり減ります。

こわがってやめるのではなく、危ない場所を避けて使う。それだけです。

よくあるご質問

有料のAIなら、嘘をつきませんか？

減りますが、なくなりません。

有料版のほうがまちがいが減るといわれますが、公式に数字が出ているわけではありません。ただし、専門的なことと、その会社だけのことは、有料でも間違えます。知らないものは知らないからです。

お金で解決する問題ではありません。確認する習慣のほうが大事です。

インターネットで調べてくれるAIなら大丈夫ですか？

かなり良くなります。

検索しながら答えるAIは、出典（どこに書いてあったか）を示してくれます。そのリンクを開いて確かめられるのが大きな違いです。

ただし、探してきたページ自体が間違っていることもあります。最後は自分の目で見てください。

「間違えないで」と頼めば、正確になりますか？

なりません。

AIが自分の答えを確かめる仕組みは、まだ十分ではありません。じっくり考えるモードでも、まちがいは0になりません。「間違えないで」と頼むだけでは、防げないのです。

ただし「分からないことは、分からないと言ってください」と頼むのは、少し効果があります。試してみてください。

同じことを2回聞いて、答えが違うのはなぜですか？

AIは毎回、言葉を選び直しているからです。

じつはこれが見分け方として使えます。大事なことは2回聞いてみてください。答えが変わるなら、AIもよく分かっていない証拠です。

確かなことは、何度聞いても同じ答えが返ってきます。

AIが書いた文章を、そのまま自分の名前で出していいですか？

出すこと自体は問題ありません。ただし内容の責任は、出した人が負います。

「AIが書いたので」は、お客様には通じません。だから必ず読んで、確かめて、直してから出してください。

うちの業界のことを、正しく覚えさせられませんか？

その場で教えることはできます。

前の記事でお伝えした【背景】に、正しい情報を書いて渡す方法です。そのやりとりの中では、渡した情報を使ってくれます。

いまのChatGPTやClaudeには、前の会話で知ったことを覚えておく機能（メモリ）もあります（AIは、あなたのことを覚えてくれます）。ただ、何を覚えているかは分かりにくく、メモリを切っているときは忘れています。だから大事な背景はメモに保存して、貼り付けるのが確実です（やり方はスマホのメモに「わたしのこと」を書いておく）。

結果：できたか、確かめる

こうなっていれば、できています。

• 自分がよく知っていることをAIに聞いて、まちがいを1つ見つけた
• 答えの中の数字・日付・名前を、自分で確かめた
• 「どこに書いてありましたか」と聞いて、出典を開いてみた
• 大事なことを2回聞いて、答えが同じか見た

それでも迷ったら：まちがいが見つかったら、それは失敗ではありません。AIの「くせ」が分かった、ということです。

あわせて読む

AIに何を頼めばいいのか。目的・背景・制約・出力の4つ
背景をたくさん渡すことが、作り話を防ぐ対策にもなります。

AIの有料版、一度は試してほしい
無料版との違いと、お店での使い分け方。

一人でやらなくても大丈夫です

読んでもうまくいかないときは、聞いてください。責めたりしません。オンラインでもお手伝いできます。お店までうかがうこともできます（袋井市の外は、交通費をいただきます）。初回のご相談は無料です。

2026年10月に内容を新しくしました。