ChotGPT Fukuoka | 福岡の会社を"ちょっと"ラクにするローカルDXメディア

「ChatGPTが自信たっぷりに書いてきたけん、そのままお客さんに出したら、書いてあった会社名も日付もぜんぶ間違っとった」——最近、こういう相談が増えてきました。困るのは、AIが堂々と、いかにも本当っぽい顔で間違えるところです。これを幻覚（ハルシネーション）と言います。読みにくい文章なら「あやしいな」と気づけても、きれいに整っとると、つい信じてしまいますよね。この記事では、AIのもっともらしい嘘を出す前に見抜く目印と、数字や固有名詞を安全に裏取りするコツを、現場の例と数字の見方つきで、むずかしい言葉抜きでお伝えします。

この記事のポイント

AIは「分からん」より「それっぽい嘘」を選びがち: ChatGPTは知らないことでも、文章として自然になるよう埋めてしまう仕組みです。自信の強さと正しさは別物と思っておきましょう。
あやしいのは「数字・固有名詞・出典」の3つ: 会社名・人名・日付・金額・URLなどは、AIが一番つくり話をしやすい場所です。ここだけは人が必ず確かめます。
出す前のひと手間で誤情報はぐっと減る: 「出典を言わせる」「聞き方を変える」「人が裏取りする」。この3点を型にすれば、混入はかなり防げます。

なぜAIは平気で“もっともらしい嘘”をつくのか

ChatGPTは、ものごとを「知っとる/知らん」で答えとるわけやのうて、「次に来そうな言葉」をつないで文章をつくる仕組みです。だけん、知らないことでも、空欄を残すより「それっぽく聞こえる言葉」で埋めてしまうことがあります。人間なら「すみません、分かりません」と言える場面でも、AISは自信たっぷりに埋めてくる——ここが一番こわかところです。

「自信の強さ」と「正しさ」は別もの

薬院の士業事務所で、AIに「ある制度の様式名」を聞いたら、実在せん書類名をすらすら返してきて、危うくお客さんへの案内に載せるところやった、という話があります。文章が整っとるほど、人は「ちゃんとした答え」と感じてしまうものです。博多の屋台で、よう喋る大将の話がつい本当に聞こえるのと一緒で、口調の自信と中身の正しさは、まったくの別ものと覚えておくと安全です。

Before / After（よくある手戻り）

Before：整った文章を信じてそのまま送付 → 会社名と日付が間違っとった → お客さんに謝罪し、資料を全部つくり直し
After：送る前に固有名詞と数字だけ人がチェック → 1か所の誤りをその場で修正 → 謝罪も手戻りもゼロで送付完了

手戻りの多くは「AIが間違えること」より「確かめずに出すこと」から生まれます。直すべきは使い方の型です。

あやしい所を見分ける3つの目印

全部を疑いよったら仕事が進みません。だけん、AIがつくり話をしやすい場所を3つにしぼって、そこだけ重点的に見ます。逆に言えば、ここをそろえてチェックするだけで、ほとんどの誤情報は止められます。

具体例：ここが出たら必ず立ち止まる3つ

固有名詞（会社名・人名・商品名・制度名）→ 実在するか、表記が正しいかを人が確認する
数字（日付・金額・件数・割合・統計）→ 出どころを確かめ、元の資料と突き合わせる
出典・URL（参考リンク・◯◯によると）→ そのリンクを実際に開いて、本当に書いてあるか見る

用語ミニ解説：幻覚（ハルシネーション）とは

幻覚（ハルシネーション）とは、AIが事実でないことを、さも事実のように出力してしまう現象のことです。わざと嘘をつきよるわけやのうて、文章を自然につなぐ過程で起きる“クセ”のようなものです。宗像の小さな製造業では「数字と社名が入った文章は、AIの初稿のままでは社外に出さない」と一本ルールを決めたことで、見積書や案内文の差し戻しがぐっと減った、という例があります。

出す前に確かめる手順（コピペOK）

大事なのは、AIに書かせっぱなしにせず、“最後に人がひと手間”を入れることです。むずかしい設定はいりません。次の3ステップを型にするだけで、誤情報の混入はかなり防げます。

手順は3ステップ

(1) AIに「出典・自信の度合い・あやしい箇所」を自分で申告させる
(2) 固有名詞・数字・URLは、人が元の資料や公式サイトで裏取りする
(3) 聞き方を変えて、もう一度同じことを質問し、答えがブレないか見る

そのまま使えるプロンプト例

幻覚チェック出す前の裏取りプロンプト

以下の文章を、社外に出す前にチェックしてください。

【やってほしいこと】
・会社名・人名・制度名などの固有名詞を箇条書きで抜き出す
・日付・金額・件数・割合などの数字を箇条書きで抜き出す
・それぞれについて「出典（何を根拠にしたか）」と「自信の度合い（高/中/低）」を書く
・自信が「中」「低」の項目には、人が確認すべき点を一言そえる

【注意】
・出典が思い当たらない項目は、推測で埋めず「出典なし・要確認」と正直に書く
・実在しない様式名やURLは作らない

【チェックする文章】
（ここに、出す前の文章を貼る）

このプロンプトはあくまで“あたり”をつけるための下調べです。AIの自己申告も間違うことがあるけん、最後の確認は必ず人がやりましょう。特に金額・日付・制度名・URLは、公式サイトや元の資料を開いて、自分の目で突き合わせるのが安全です。

誤情報ゼロを“数字”で見えるようにする

チェックの型ができても、「ちゃんとやれとるか」を感覚だけで判断すると、忙しい日にすり抜けてしまいます。効果は感覚で終わらせず、1つだけ数字を決めて記録すると続きます。狙いはシンプルで、社外に出す文書への誤情報の混入をゼロに近づけることです。

誤情報の混入件数：社外に出した文書で、後から見つかった事実誤りが月に何件か
裏取り実施率：固有名詞・数字を人が確認してから出した文書の割合
差し戻し・謝罪の回数：誤りが原因でのつくり直しや謝罪が月に何件か

KPIは欲張らず1つでOK。たとえば「社外文書への誤情報の混入が月3件→0件」をめざすだけで、現場の安心はぐっと増えます。

まとめと次にやること

AIは「分からん」より「それっぽい嘘」で埋めがち。自信の強さと正しさは別ものです
あやしいのは「固有名詞・数字・出典」の3つ。ここだけは人が必ず裏取りします
「出典を言わせる→人が確認→聞き方を変えて再確認」を型にすれば、誤情報の混入は防げます

次にやること：まずは今日これから社外に出す文書を1つだけ選んで、上のプロンプトで「固有名詞と数字の出典リスト」を作ってみましょう。リストを1枚見るだけで、出す前に直せる安心がぐっと増えます。

うちの場合どうする？と思ったら、ちょっとLINEで聞いてみてください。

LINEで「業種・いま一番の困りごと・だいたいの規模」を2〜3行送ってください。あなたの会社の“最初の一歩”を1つ、具体的に無料で提案します。売り込みはしません。

ちょっとLINEで聞いてみる
＜無料相談＞

ChatGPTがもっともらしい嘘をつく前に、出す前のひと手間で誤情報を防ぐコツ