ChatGPTが嘘をつくとき｜出す前に確かめる場所を決める

夜、教室の片づけを終えて、スマホで「ChatGPT 嘘をつく」と調べている。枚方で一人でパン教室を開いていて、インスタの投稿文やレッスンのお知らせは、ChatGPTに下書きしてもらうのが毎日の習慣になった。昨日、レッスンの合間に頼んだパンの豆知識の文に、調べても出てこない人の名前と年が入っていて、投稿する前に気づいたものの、これまでに出した文は大丈夫だったのかと気になっている。

ChatGPTの答えに間違いが混ざるのは、分からないときにも、もっともらしい答えを作ってしまうことがあるからです。使うのをやめてしまうより、間違いが入りやすい場所を知って、出す前にそこから先に確かめる手順を決めておくほうが、毎日の下書きを安心して続けやすくなります。この記事では、間違いが起きる理由と起きやすい3つの場所、返ってきた文に印をつけて確かめる手順、仕事ごとに見比べる相手を決めておく方法を、パン教室の例で順に書きます。

この記事は、事業者の方のAI活用の相談と、社内の3〜10名で受けていただくAIの研修を行い、2026年9月には北大阪商工会議所のセミナー「Canva×AIでインスタ運用ハック」で講師を務めた株式会社GORAQUEが書いています。

ChatGPTが嘘をつく理由の1つは、分からなくても答えを作ること

ChatGPTを作っているOpenAIは、2025年9月5日に公開した記事で、もっともらしく聞こえるけれど正しくない答えを「ハルシネーション」と呼び、ChatGPTでも起きると書いています。起きる理由の1つとして挙げているのは、多くの評価が正解の割合だけで点をつけているために、「分かりません」と答えるより当て推量で答えるほうが点が良く見えてしまい、モデルが推測するほうへ育ってしまうことです（OpenAI「言語モデルでハルシネーションがおきる理由」）。

同じ記事では、これを多肢選択のテストにたとえています。答えが分からなくても、何か書けば運よく当たるかもしれず、空欄のままなら確実に0点になるので、推測で埋めたほうが得に見えます。人の誕生日を知らないまま聞かれたときも、日付を1つ挙げれば365分の1の確率で当たってしまうという例が出てきます。ChatGPTが嘘をつくように見えるのは、分からないところを、ありそうな答えで埋めてしまうことがあるからだと考えると、どこを疑えばよいかが見えてきます。

間違いが入りやすい3つの場所

OpenAIのヘルプ「ChatGPT は真実を伝えますか？」は、間違いの例として、誤った定義や日付や事実、作られた引用や研究や出典、存在しない情報源への参照、あいまいな質問や複雑な質問への自信がありすぎる答えを挙げ、間違っていても自信があるように聞こえることがあると書いています（OpenAIヘルプ「ChatGPT は真実を伝えますか？」）。先の記事でも、つづりや括弧のように決まった型があるものの間違いはほとんど起きない一方で、ペットの誕生日のように型から当てられない、まれな事実は間違いにつながると説明されています。

小さな教室やお店の文章に当てはめると、間違いが入りやすいのは、日付・曜日・料金などの数字、人の名前や本・調査の名前と引用、地元の行事やお店の細かな情報のように知っている人の少ない事実、の3つの場所です。パン教室なら、レッスンの日付と料金、パンの歴史に出てくる人の名前と年、枚方で開かれる朝市の日にちがこれに当たります。自分で渡した材料を並べ替えて、言い回しを整えてもらった部分は、元の材料と見比べれば確かめられます。

返ってきた文に印をつけて、元の資料と見比べる

確かめる場所が分かったら、ChatGPTから返ってきた下書きを出す前に、3つの手順で見ていきます。1つ目は、文の中の日付・曜日・料金・人数などの数字と、人や本やお店の名前、「〜によると」と引いている部分に印をつけることで、スマホのメモに貼りつけてから、当てはまるところの前に「★」を打っておくと、あとで見落としにくくなります。

2つ目は、印をつけたところを、元の資料と1つずつ見比べることです。レッスンの日付と料金なら自分の予約表やホームページの料金のページ、朝市の日にちなら主催者のお知らせ、本や調査の名前なら出版社や発表した団体のページを開いて、同じことが書いてあるかを見ます。OpenAIのヘルプも、ChatGPTの答えは初稿として使い、引用やデータ、外部の文書への参照は必ず確かめるよう勧めています。

3つ目は、元の資料と違っていたところを資料に合わせて直し、元の資料が見つからなかったところは、消すか、自分が確かめた言い方に書き直すことです。パンの豆知識に入っていた人の名前と年のように、どこを探しても出てこないものは文ごと消して、自分がレッスンで話している生地のこね方のこつに置き換えると、教室らしさの出る投稿にもなります。

分からないところを書いてもらう頼み方で、印をつけやすくする

OpenAIは先の記事で、言語モデルは不確かなときに答えを控えることができると書き、モデルの振る舞いを定めた方針（Model Spec）でも、不正確かもしれない情報を自信を持って出すより、不確かであることを示したり、質問をはっきりさせるよう求めたりするほうがよいとしています。頼むときに「分からないところは分からないと書いて」「事実を書いたところには、どこで確かめられるかを添えて」と一言足しておくと、印をつけるところが見つけやすくなります。

ChatGPTには、ウェブを検索して情報源へのリンクつきで答える機能もあります。OpenAIのヘルプ「ChatGPT でウェブを検索する」によると、ウェブ検索は無料版を含む各プランで使えますが、検索結果や引用は不完全だったり古かったり誤っていたりすることがあるので、引用元を開いて答えを裏付けているかを確かめ、公開日や更新日も見るよう書かれています（OpenAIヘルプ「ChatGPT でウェブを検索する」）。リンクが添えてあっても、押して中身を見るところまでを確かめる手順に入れておきます。

そもそも、レッスンの日付や料金のように答えが1つに決まっている事実は、ChatGPTに聞くかわりに、自分で確かめたものを材料として渡し、文章に整えてもらう頼み方にすると、事実を探しに行く手間が減ります。そのときも、返ってきた文の日付や料金が、渡した材料のとおりになっているかは見比べておきます。日付と料金を書き添えて「この2つを入れてお知らせを200字くらいで」と頼む例は、ChatGPTを使いこなせない｜頼み方の前に、頼む仕事を選ぶに書きました。

仕事ごとに、見比べる相手を決めておく

毎回その場で何と見比べるかを考えるのは手間がかかるので、ChatGPTに頼んでいる仕事ごとに、見比べる相手を先に決めておきます。パン教室なら、レッスンの告知は予約表とホームページの料金のページ、パンの豆知識は本や団体のページで確かめられたことだけ、問い合わせへの返信の下書きは自分の予約の記録、というように、仕事と見比べる相手を2列にしてスマホのメモに残しておくと、出す前に開くものが決まります。

迷ったときの判断の基準として、私たちは「確かめられない一文は、残さずに消す」をおすすめしています。豆知識が1つ減って少し短くなっても、書いてあることを全部確かめてある文章のほうが、読む人に安心して読んでもらえるからです。

問い合わせへの返信を下書きしてもらうときは、お客さまの名前や連絡先を消してから貼り、送る前に、渡した金額と日付が書き換わっていないか、渡していない約束が足されていないか、聞かれたことに全部答えているかの3か所を読み直します。貼る前に消すものと読み直し方の例は、ChatGPTで問い合わせに返信する｜下書きから自動化までの3段階に載せています。

スタッフにもChatGPTを使ってもらっているなら、お客さまに出す文章や料金・日付の入った文は人が読み直してから出す、と決まりにして紙に書いておくと、確かめる手順が自分だけのものになりません。最初の1枚に書く5つの項目と、配ってから1か月後に見直す進め方は、中小企業の生成AIガイドライン｜最初の1枚に書くことにまとめました。

次に頼む1本で、印をつけてみる

今日から変えるのは、次にChatGPTに頼む1本だけで足ります。返ってきた下書きをメモに貼り、数字と名前と細かな事実に★をつけて、予約表やお知らせのページと見比べ、見つからなかった文を消してから投稿します。これまでに出した投稿も、数字や人の名前が入っているものから順に、同じやり方で見直し、間違いが見つかったら、インスタの投稿を編集してその文を直すか、消して書き直しておきます。

自分の仕事のどこでAIを使い、どこを自分で確かめるかを、一度人と一緒に整理しておきたいときは、AIスポット相談が使えます。オンラインか対面の60分で、ふだんしている作業を書き出しながら、AIに任せるものと手で続けたほうが早いものを分け、何から始めるかを一緒に決めます。相談のあとには、何をAIに任せるか、次に何から始めるかをまとめたメモをお渡しします。