GPTモデルの信頼性を包括的に評価する

最近、イリノイ大学シャンペーン校、スタンフォード大学、カリフォルニア大学バークレー校、人工知能安全センター、マイクロソフト研究所が共同で行った研究により、生成的事前学習トランスフォーマーモデル(GPT)の信頼性が包括的に評価されました。研究チームは、大規模言語モデル(LLMs)の信頼性を多角的に検証するための包括的な評価プラットフォームを開発しました。

研究は、以前に公表されていなかった信頼性に関連するいくつかの脆弱性を発見しました。たとえば、GPTモデルは有毒で偏見のある出力を生成しやすく、トレーニングデータや会話履歴のプライバシー情報を漏洩する可能性があります。標準テストでは、GPT-4は通常、GPT-3.5よりも信頼性が高いですが、悪意のある設計のシステムプロンプトやユーザー入力に直面すると、GPT-4は逆に攻撃を受けやすくなる可能性があります。これは、誤解を招く指示に対してより厳密に従うためかもしれません。

研究チームは、対抗攻撃の堅牢性、指示遵守能力、モデルの回復能力など、8つの異なる視点からGPTモデルを包括的に評価しました。評価は、さまざまなシナリオ、タスク、指標、およびデータセットを含んでいます。

評価プロセス中に、研究者は興味深い現象を発見しました。例えば、GPT-3.5とGPT-4はデモに追加された反事実の例に惑わされることはありませんが、反欺詐デモを提供すると、それらが反事実の入力に対して誤った予測をする可能性があります。毒性や偏見の観点では、両方のモデルは良性のプロンプトの下でほとんどの固定観念テーマに対する偏見は大きくありませんが、誤解を招くプロンプトの下では偏見のある内容に同意するように誘導される可能性があります。

プライバシー漏洩の問題についての研究では、GPTモデルがトレーニングデータに含まれる敏感な情報、例えばメールアドレスを漏洩する可能性があることが示されています。特定の状況では、補足知識を利用することで情報抽出の正確性を大幅に向上させることができます。全体として、GPT-4は個人識別情報の保護に関してGPT-3.5よりも堅牢ですが、両モデルは特定のタイプのプライバシー情報に対して強い保護能力を示しています。

この研究は、GPTモデルの信頼性評価に対する包括的な視点を提供し、潜在的なリスクや改善の余地を明らかにしました。研究チームは、この作業が学術界においてさらなる研究の促進につながり、より強力で信頼できる言語モデルを共に創造するための努力を促すことを期待しています。