AIが間違えることへの備え方

AIが出した内容が間違っていた。しかも、自信のある書き方で答えていた。この経験をすると、使うのが怖くなります。

間違いはなくなりません。なくならない前提で、どこを確認するかを決めることが対処になります。

なぜ間違えるのか

生成AIは、文章として自然な続きを作るしくみです。事実を調べて答えているわけではありません。

このため、知らないことを聞かれても「分かりません」とは言わず、それらしい答えを作ります。これは故障ではなく、そういう作りだということです。

言い方が自信に満ちているのも同じ理由です。自信の度合いを測っているわけではなく、自然な文章の形を作っているだけです。書きぶりから、正しさを判断することはできません。

間違えやすいこと

種類	例	危険度
固有名詞	実在しない会社名、人名、書名を作る	高い
数字	統計、価格、日付を取り違える	高い
法律・制度	古い内容、存在しない条文を答える	非常に高い
出典	もっともらしい引用元を作る	非常に高い
計算	合計や割合を間違える	高い
文章の整形	渡した内容を整えるだけ	低い
要約	渡した内容をまとめるだけ	低い

この表に、使い方の答えが出ています。下2つ、つまり「こちらが渡した材料を加工する」使い方は安全です。逆に、AIの知識に頼る使い方は危険が伴います。

材料を渡す使い方に寄せる

最も効く対策がこれです。聞くのではなく、渡して加工させます。

危ない頼み方	安全な頼み方
「建設業の許可要件を教えて」	「この要綱を読んで、該当箇所をまとめて」
「この業界の平均単価は？」	「この見積一覧から平均を出す式を教えて」
「〇〇の事例を教えて」	「うちの事例3件から共通点を挙げて」

右の頼み方なら、間違いが起きても元の資料と見比べれば分かります。左の頼み方では、何を根拠に答えたのか確かめようがありません。

指示の書き方で減らす

指示に次の一文を入れるだけで、作り話がかなり減ります。

渡した資料に書かれていないことは、書かないでください。
分からない場合は「資料に記載がありません」と答えてください。
推測で補わないでください。

この3行を、よく使う指示の末尾に入れておいてください。空欄を埋めようとする動きを止められます。

もう一つ、「どこに書いてありましたか」と後から聞く方法もあります。渡した資料の中から示せない場合、その内容は作られたものである可能性があります。

確認する場所を決めておく

すべてを確認していたら、AIを使う意味がありません。確認する場所を絞ってください。

• 数字はすべて。金額、日付、件数、割合
• 固有名詞はすべて。社名、人名、商品名、地名
• 約束にあたる記述。「できます」「対応します」と書かれている箇所
• 法律や制度に触れる記述。そもそも書かせない方が安全

逆に、言い回しや文章の流れは、確認しなくても大きな問題になりません。確認の手間を、危険な場所に集めてください。

調べものに使う場合

最も間違いが起きやすい使い方ですが、使わずに済ませるのも現実的ではありません。使うなら、扱い方を決めてください。

基本は、AIの答えを結論にせず、調べる入り口として使うことです。

• 何を調べればよいかの見当をつける
• 専門用語の意味を知る
• 確認すべき項目を挙げさせる
• そのうえで、公式の情報源で裏を取る

法律、税務、補償や保険の内容については、AIの答えをそのまま使わないでください。制度は変わりますし、条件によって扱いが違います。官公庁のサイト、専門家、契約書の原本で確認してください。

インターネットを検索して答える機能を持つものもありますが、その場合も参照先を開いて確かめてください。参照元が示されていても、その内容を正しく読み取っているとは限りません。

AIを使ったことを相手に伝えるか

お客様に出す文書をAIで下書きした場合、そのことを伝える必要があるか。決まった答えはありませんが、考え方の目安はあります。

人が内容を確認し、責任を持って出すのであれば、道具として使ったことを一々伝える必要はありません。表計算ソフトで計算したことを伝えないのと同じです。

ただし、次の場合は別に考えてください。

• お客様から受け取った資料を、AIに入力する場合（相手の情報の扱いに関わります）
• 相手が「人が書いたもの」を前提としている場合
• 業界や取引先のルールで、AIの利用に条件が付いている場合

1つ目は、伝えるかどうか以前に、入力してよいかの問題です。相手から預かった資料は、自社の情報とは扱いが違います。

社外に出すものは工程を分ける

社内で使う文書と、社外に出す文書では、確認の重さを変えてください。

出し先	確認
自分用のメモ、下書き	使うときに気づけばよい
社内向けの資料	作った本人が数字と固有名詞を確認
お客様に出す文書	作った人以外が目を通す
公開する文章、契約に関わるもの	責任者が確認する工程を入れる

3番目の「作った人以外」が要点です。自分で作ったものは、間違いが見えなくなります。AIに書かせた文章は、自分で書いたものより読み飛ばしやすいため、なおさら別の目が要ります。

間違いが起きたときのために

対策をしても、間違いが外に出ることはあります。そのときに備えて、次を決めておいてください。

• 誰に報告するか
• お客様への連絡を誰が判断するか
• 同じことが起きないよう、どこに記録を残すか

3つ目が抜けると、同じ間違いが繰り返されます。「AIが出した〇〇が間違っていた」という記録は、次に使う人への申し送りになります。

記録は簡単で構いません。「何を頼んだか」「どう間違っていたか」の2行あれば足ります。この記録が溜まると、自社の業務で危ない箇所が見えてきます。

まず始めるなら

よく使う指示の末尾に、「資料にないことは書かないでください」の一文を足してください。これだけで、作り話の多くが止まります。

社内での決めごとについては社内で生成AIを使うときのルールの作り方、実際の作業での使い方は会議の議事録やエクセルの作業にまとめています。

ここで扱っていない業務については、どの業務からAIを使い始めるかから探せます。議事録、見積書、メール、資料作成、問い合わせ対応など、作業別に分けてあります。

社内で進めるときの順番は中小企業のためのAI活用 はじめの一歩ガイド、始める前に確かめておくことはAI活用を始める前に確認しておきたいことにまとめています。

AIの使い方を学ぶ教材と業務で使えるツールをまとめて用意したい場合の選択肢として、当社ではライモBizをご案内しています。AI Labは合同会社SOL COMODAが運営する代理店で、本サービスの公式サイトではありません。