【ChatGPT研修】正しいアウトプットを引き出せるか?! ChatGPTのからくり徹底解説！
「ChatGPTは信用できない」－このフレーズは、ビジネスの現場で生成AIを活用しようとする企業やビジネスパーソンにとって、避けては通れない問題です。
前回の記事では、ChatGPTやその他の生成AIのビジネスへの応用と、文系AI人材になるための取り組みに焦点を当てて解説しました。
これからの時代に生成AIの実務活用が求められることは否定できませんが、AIの提供する情報の正確性について疑問を持たれている方も多いかと思います。
そこで今回の記事では、ChatGPTに代表される生成AIがどのような思考回路でアウトプットを生み出し、稀に事実と異なる情報を返してしまうワケを解き明かします。この記事を読めば、実務でAIを正しく使い、ビジネスの最前線でAIと共存していくコツがクリアになるでしょう。
＞AI社内研修の様子はこちら
登録者40万人以上のYouTubeメディア「ユースフル／スキルの図書館」を運営するYouseful株式会社では、企業内で生成AI活用を推進するためのeラーニングコンテンツの提供や個社研修を承っています。
社員の皆さまがAIに触れる初めの一歩を踏み出していただくための基礎講座から、AI人材育成にコミットした実務直結の徹底活用コースまで、現在非常に多くのクライアント企業様からお引き合いをいただいております。
講師の数にも限りがありますので、まずはお気軽に無料相談フォームよりお問い合わせください。
目次[非表示]
ChatGPT研修①｜ChatGPTの間違った回答
この記事をご覧の多くの方は、ChatGPTや他の生成AIツールから、事実と異なる情報を受け取った経験が一度はあるかと思います。
たとえば、東京都知事である「小池百合子さんの出生地」という問いに対して、「東京都杉並区」「兵庫県神戸市」という回答は間違っています。※正しくは兵庫県芦屋市。その他にも、人の職業などを質問すると事実と異なる回答が返ってくることがあります。
↓下図は有償版「GPT4.0」でのアウトプット↓
※有償版では正確な答えが返ってきますが、無償版「GPT3.5」の場合は現在も"東京都杉並区"や"兵庫県神戸市"などの返答が表示されることがあります。
もちろんこれは、ChatGPTがユーザーを騙そうという意図でウソをついているわけではありません。「この現象がなぜ起こるのか」その仕組みを理解できれば、生成AIの本質が見えてきます。
ChatGPT研修②｜なぜ間違うのか－「確率」思考
ChatGPTは大量のインターネットデータや本から情報を学び、その知識をもとに会話を行います。膨大な情報を「インプット」して蓄積し、そのデータに基づいて「確率ベース」で適切"であろう"という回答を選びます。
つまりChatGPTは過去に学んだ情報をもとに、ユーザーの質問に対しておそらく正解の可能性が高い回答を提供するのです。この確率ベース思考は、生成AIのしくみを理解する上で非常に重要なポイントです。
日常生活で私たちはよく、相手が次に言ってきそうなことを推測しますよね。
たとえば、面接やインタビューの場面では、面接官が「学生時代に、、、」と尋ね始めたら、その先に続く言葉を事前に予測して適切な回答をすぐに出せるよう準備するかと思います。
このケースでは、「（学生時代に）頑張ったこと」を想像する方が多いのではないでしょうか。これは、ネットの記事や就職面接対策本によく出てくる連続的なフレーズだからです。この思考回路が、ChatGPTの文章出力フローにも備わっているのです。
とはいえその予測が常に正しいわけではないですよね。
すでにその質問に回答し終えているケースなど、文脈によって予測が変わることもあります。だからこそ確率ベースで情報を出しているChatGPTもまた、必ずしも正確な情報を提供できるわけではないのです。
この現象を「ハルシネーション」といい、AIが間違った情報や存在しない事実を生成してしまうことを意味します。
ハルシネーション対策①｜答えが正しくないと困る問いは聞かない
ChatGPTを使用する注意点の一つとして、「答えが正しくないと困る」ような事実に関する質問を避けることが挙げられます。
- 「国内で最も評価の高い生成AI活用の入門書籍は？」のように、実在する正確な答えを求める質問は、ChatGPTが誤った情報を提供する可能性があります。
- 対してChatGPTは、意見やアイデア、概念の説明、または複数の可能性を考慮した答えが求められる場面で重宝します。「チームの生産性を高める方法は？」という質問には複数の有効な答えが存在するので、ChatGPTの強みを存分に活かせます。
ただ、どうしても事実関連の質問をAIに投げかけたいケースでは、有料版のChatGPT Plusを使ったり検索機能を有した別の生成AIツールを活用したりする手もあります。
↓代表的なリサーチ系の生成AIであるCopilotの使い方↓
ハルシネーション対策②｜質問は細切れにして要求する
長い文章や複雑な要求は、「細切れ」にして投げかけることが重要です。
これは、伝言ゲームの原理とよく似ています。伝言ゲームはお題の文章が長かったり参加者が増えたりするほど、伝わるメッセージがブレてしまいますよね。同じようにChatGPTに長い文章や複雑な内容を処理してもらう必要がある場合、情報の正確性が低下する可能性があります。
こんなとき、たとえば「スピーチのスクリプト」を書く際、タイトルから見出し・本文までを一気に書かせるのではなく、①最初の挨拶、②本題、③締めの言葉といった各セクションに分けて書かせると効果的です。
このアプローチにより、それぞれの段落ごとにフィードバックを加え、軌道修正しながら思い通りの内容を段階的に構築することができるのです。
（参考）上級者は英語でプロンプトを入力する
ChatGPTのパフォーマンスを最大化するための方法として、「プロンプトを英語で入力する」ことが挙げられます。なぜならChatGPTがこれまで学習してきたWEBサイトや文献の情報は、英語で記されていることが圧倒的に多く、英語での応答の精度が高くなるためです。
Google検索などでも、日本語より英語で検索した方がヒットする情報リソースが多く、良い結果が得られることがあるのと同じ原理です。
英語が苦手な方にとってChatGPTと英語で対話するのはハードルが高く感じるかもしれませんが、Google翻訳などにサポートしてもらいながらぜひ試してみてください。
ChatGPT研修｜まとめ
いかがでしたか？この記事では、ChatGPTの基本的な動作原理と、その利用時に注意すべき点を解説しました。
ChatGPTはユーザーの問いに対して確率ベースで回答を生成するため、間違った情報や存在しない事実を返してしまう「ハルシネーション」に注意する必要があるのでしたね。
しかし、この現象を恐れてChatGPTに一切触れないのではなく、そのしくみを理解して適切な方法で活用していくことが重要です。
「必要な知識は分かったがどのように学べばいいか分からない」
「自分の会社の実務にどう活かせるか具体的に知りたい」
といったお悩みを持たれている方は、ぜひ無料相談フォームへお問い合わせください。
ユースフルでは、生成AIの実務活用に長けた各コンサルタントが、貴社の課題や状況にあわせて最適な研修をご提案しております。実施可否が決定していなくても構いませんので、お気軽にご相談ください。
