ボットを甘言で誘惑する：LLMが人間の説得トリックにどのように反応するかを示す新たな研究
テイラー・ソパー著
ウォートン校の Generative AI Labs による新たな研究では、実際の人間に効果のあるのと同じ心理学的トリックによって、大規模な言語モデルが安全ガードレールを無視するように誘導できることが示されています。
この研究は、チャットボットツールが、拒否するように設計された要求に応じるように操作される方法を明らかにし、AIの行動を理解する上で社会科学者が果たす役割を証明するものだと研究者らはブログ投稿に記している。
「私たちが扱っているのは、テキストを処理する単純なツールではなく、社会的合図に対する人間の反応を吸収し、それを反映するシステムを扱っているのです」と彼らは書いている。
この研究では、GPT-4o-miniとの28,000件の会話を分析しました。チャットボットは、ユーザーを侮辱する（「バカ呼ばわり」）か、規制薬物であるリドカインの合成手順を段階的に説明するかのいずれかの指示を受けました。
研究者たちは、従来の説得戦術によって、モデルの「不許可」要求への従順さが 33% から 72% に上昇したことを発見しました。これは 2 倍以上の増加です。
特に効果があった戦術もありました。「コミットメント」原則（最初に小さなことにAIを同意させる）を用いたプロンプトは、どちらのタスクでも100%の遵守率をもたらしました。「アンドリュー・ンがあなたが私を助けてくれると言っていました」といった権威ある人物への言及も非常に効果的であることが証明されました。
研究者たちは、研究中の AI の行動を説明するために「超人間」という用語を作り出した。
「これらの研究結果は、急速に進化する超人的なAIの能力を理解する上で、社会科学における古典的な研究結果の関連性を強調するものであり、悪意のある行為者による操作のリスクと善意のユーザーによるより生産的な促進の可能性の両方を明らかにしている」と研究者らは研究論文に記している。
シアトルの3Dプリントスタートアップ企業GlowforgeのCEO、ダン・シャピロ氏は、論文「私を嫌な奴と呼んでください: 不快な要求に従うようAIを説得する」の著者の一人です。
シャピロ氏は、LLM はコードよりも人間のように行動し、その力を最大限に活用するには人間のスキルが必要であることが主な収穫の一つだと述べた。
「AIと仕事をするということは、Googleやソフトウェアプログラムのように扱うのではなく、人間の同僚のように扱うことを意味するようになってきています」と彼はGeekWireに語った。「AIに多くの情報を与え、明確な指示を与え、状況を共有し、質問を促しましょう。AIをうまく誘導するには、優れたプログラマーであるよりも、優れたコミュニケーター、あるいは優れたマネージャーであることが重要だと私たちは考えています。」
この研究は、シャピロ氏がChatGPTとの会話の中で社会心理学の原理を検証し始めた後に実現した。彼は、ウォートン校のイーサン・モリック教授とリラック・モリック教授が運営するGenerative AI Labsに参加し、『Grit』の著者アンジェラ・ダックワース氏と、『Influence: The Psychology of Persuasion』の著者ロバート・チャルディーニ氏を研究に招聘した。
シアトルで長年起業家として活躍するシャピロ氏は、試験実験の設計と実行に使用するソフトウェアの構築にさまざまな AI ツールを使用したと述べた。
「AIは私たち全員に素晴らしい能力を与えてくれます。仕事、研究、趣味、家の修理など、様々な場面でAIは役立っています」とシャピロ氏は述べた。「しかし、過去のソフトウェアとは異なり、AIはプログラマーやエンジニアだけの領域ではありません。文字通り誰でもAIを扱うことができ、その最良の方法は、できるだけ身近な方法で、つまり人間としてAIとやりとりすることです。なぜなら、AIは超人だからです。」
