「Deliberative Alignment: Reasoning Enables Safer Language Models」の紹介

# はじめに
本記事は、OpenAIの論文「Deliberative Alignment: Reasoning Enables Safer Language Models」の概要と専門用語の解説です

# 概要
大規模言語モデル（LLMs）が安全性が求められる領域でますます活用される中、明確に定義された原則に確実に従わせることが重要な課題となっています。本論文では、モデルに安全性の仕様を直接教え、回答前にそれらを明示的に思い出し、正確に推論するよう訓練する新たな手法「Deliberative Alignment」を提案します。

この手法をOpenAIのoシリーズモデルに適用し、人間が作成した思考過程や回答を必要とせずに、OpenAIの安全ポリシーに高精度で従うことを実現しました。Deliberative Alignmentは、脱獄攻撃（jailbreak）に対する耐性を高めつつ、正当な要求を過度に拒否する率を低減し、未知の状況への一般化能力も向上させます。明示的に指定されたポリシーに基づいて推論することで、よりスケーラブルで信頼性が高く、解釈可能なモデルの整合性を実現します。

# 用語の解説
1.	大規模言語モデル（LLMs）: 大量のテキストデータを学習し、人間の言語を理解・生成する能力を持つAIモデル。自然言語処理の多様なタスクに応用されます。
2.	Supervised Fine Tuning（SFT）: 教師あり学習により、特定のタスクや目的にモデルを適応させるプロセス。事前学習済みモデルに対して、追加のデータセットで微調整を行います。
3.	Reinforcement Learning from Human Feedback（RLHF）: 人間のフィードバックを活用して、モデルの出力を強化学習により最適化する手法。モデルの応答が人間の期待や価値観に沿うよう調整します。
4.	脱獄攻撃（Jailbreak）: AIモデルの制約や安全対策を回避し、意図しない出力や有害な情報を引き出す試み。モデルの安全性を評価する上での課題となります。
5.	Chain-of-Thought（CoT）推論: 複雑な問題に対して、段階的に思考過程を展開し、最終的な回答に至る推論手法。モデルの解釈性や信頼性を向上させる目的で使用されます。

# 主要な図と表

![Screenshot 2024-12-21 at 22.17.10.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1707407/51b2b94d-6a11-52cc-a3e0-3f510b687ac6.png)
![Screenshot 2024-12-21 at 22.17.15.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1707407/34c67649-b57d-383d-b3f6-49a34da14b26.png)
![Screenshot 2024-12-21 at 22.18.09.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1707407/f11f8f20-b8ad-71ca-d7fe-2b29a6da7095.png)
![Screenshot 2024-12-21 at 22.18.15.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1707407/e401fffd-8b87-b613-b85e-864638073036.png)
![Screenshot 2024-12-21 at 22.18.20.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1707407/243ccaca-3602-fda5-cedb-c2ee86f1bf2f.png)
![Screenshot 2024-12-21 at 22.18.38.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1707407/9ecd8bac-2c68-e1c8-b863-ae684892d3dd.png)

![Screenshot 2024-12-21 at 22.17.27.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1707407/86a5d0d5-fdb1-85a0-96e8-31196c11575b.png)
![Screenshot 2024-12-21 at 22.17.34.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1707407/0485b6fa-2335-e791-0a44-a9029975f6f7.png)
![Screenshot 2024-12-21 at 22.17.38.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1707407/14900c70-5738-805e-27fc-5567f8ec73c5.png)

![Screenshot 2024-12-21 at 22.17.48.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1707407/6b66f48a-c2c9-dc17-a428-a857237b3451.png)![Screenshot 2024-12-21 at 22.17.53.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1707407/ac7423eb-663a-e372-5e11-c43d9f66574d.png)
![Screenshot 2024-12-21 at 22.17.57.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1707407/3bdff45e-3f0f-8c63-ca0d-beb80e963783.png)
![Screenshot 2024-12-21 at 22.18.00.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1707407/708dcf20-d7e7-2876-0b18-86573aa1f85a.png)
![Screenshot 2024-12-21 at 22.18.05.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1707407/1f7e5154-2fef-f083-787e-c5c7ddaa834c.png)

![Screenshot 2024-12-21 at 22.17.44.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1707407/56afc146-00b3-08e7-c18c-8f1e3b5ac6e8.png)
![Screenshot 2024-12-21 at 22.18.27.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1707407/a4a5260b-0d13-2551-5a73-72ab3a14d490.png)
![Screenshot 2024-12-21 at 22.18.33.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1707407/8c05ed41-2439-59a1-e067-ee78e72f7c45.png)