生成AIに役割を与えると何が起きているのか

生成AIのテクニックとして、「あなたはWeb広告運用のプロです」といった役割設定を行うと、回答の精度が上がるというものをよく見かけます。

一行入力するだけですので非常に簡単ですが、果たしてこれは本当に回答の精度が上がるのでしょうか。

最初に結論

厳密にいうと、役割指定は意味がないわけではありませんが、役割設定で変わるのは「それっぽさ」がより高まるだけで、思考の精度や回答の有効性が向上するわけではありません。

なぜなら、どのような役割を与えたとしても、元々生成AIは専門知識も経験もノウハウも持っていないからです。

生成AIにできることは、役割設定に応じて「それっぽく」振る舞うことです。

役割設定で実際に変わっていること

AIはArtificial Intelligenceの略で、日本語では人工知能と訳されます。Intelligence(知能)とはなっていますが、実際に知能があるわけではありません。知能があるように振る舞っているだけです。内部的に行われているのは、確率統計的に次に来やすい単語を選ぶ計算に基づいた処理です。

何も指定しなければ一般論になりがちですが、役割設定をすることで、回答の方向性や使用する語彙、どれくらい断定的な口調になるかが変わります。

言い換えると、「あなたはWeb広告運用のプロです」という役割設定を与えると、統計的予測に基づいて、Web広告運用のプロが言いそうなこと、使いそうな単語、表現で出力するようになるだけです。

つまり、思考の中身ではなく、出力の方向性と表現が変わるということです。

精度が上がると感じる理由

役割設定をすると精度が上がると言われる理由はいくつか考えられます。

役割設定をすることで、出力の際の口調が断定的になり、語彙が専門的になるという特徴が現れます。

特に役割を与えない場合は全体から無難な言葉をチョイスするところが、役割を与えることで特定分野っぽい語彙を優先的に使用するようになるからです。

もっと平易に表現すると、「専門家だったらこういった言葉を使う、こういった言い方をするだろう」という出力をするということです。

ユーザー側に専門知識がなければ、出力内容の品質の判断はできませんので、使用する単語が専門的であるのを見て、頼もしく感じるようになりやすいのでしょう。

その結果、内容の正確さや信頼性といった別の評価まで引き上げてしまうというハロー効果によって、回答の精度が高くなったと感じるのでしょう。

最後に

本来、語り口の強さと中身の正しさは切り分けて評価すべきです。

特に生成AIの場合は自信満々に嘘をつくこともありますので、人が話すことよりもある意味では注意が必要かもしれません。

以上、参考になれば幸いです。

経営に関するご相談、お問い合わせなど、お気軽にご連絡ください。

CONTACT