Optunaを用いたプロンプトエンジニアリング


# 目次

1. [はじめに](#はじめに)
2. [お題：架空のコンペ『LLM Prompt Reverse』](#お題架空のコンペllm-prompt-reverse)
3. [実装方法](#実装方法)
    1. [指標を明確にする](#1-指標を明確にする)
    2. [候補プロンプトをリストアップ](#2-候補プロンプトをリストアップ)
    3. [ベースプロンプトを決定](#3-ベースプロンプトを決定)
    4. [プロンプトを要素に構造化して最適化](#4-プロンプトを要素に構造化して最適化)
        - [プロンプトクラスの実装例](#プロンプトクラスの実装例)
        - [Optunaによる最適化](#optunaによる最適化)
4. [参考にしたもの](#参考にしたもの)
5. [ソースコード](#ソースコード)



# はじめに

大規模言語モデル（LLM）の精度や効率性を高めるためには、プロンプトの最適化が欠かせません。本記事では、Optunaを活用してプロンプトエンジニアリングを効率化する手法を紹介します。架空のコンペ "LLM Prompt Reverse" を題材に、具体的な実装方法とともに、簡便で実務やコンペに適したプロンプト最適化の方法を提案します。


# お題：架空のコンペ『LLM Prompt Reverse』
### タスク概要
- **目標**: 入力として与えられた文字列を反転させる。
- **指標**: 正解文字列(反転した文字列)とLLMが予測した文字列の編集距離を最小化する。

詳細は以下の記事をご覧ください。

https://qiita.com/Isaka-code/items/d09b2b4b031f1c856b7e




# 実装方法

プロンプト最適化を以下の手順で進めます。

1. 指標を明確にする
2. 候補プロンプトをリストアップ
3. ベースプロンプトを決定
4. プロンプトを要素に構造化して最適化

### 1. 指標を明確にする
まず、最適化の指標を明確に定めます。本タスクでは、**編集距離**を指標とし、これを最小化するプロンプトを目指します。定性的な指標が必要な場合、[Preferential Optimization](https://optuna-dashboard.readthedocs.io/en/latest/tutorials/preferential-optimization.html)を利用した方法も有効です。


### 2. 候補プロンプトをリストアップ
初期段階では、どのプロンプトが良い結果をもたらすかは分かりません。そのため、たとえば以下の方法で候補をリストアップします。
- **生成AIに案を出させる**
- **人間が直感的に考える**
- **Kaggleのディスカッションや公開ノートブックから収集する**

今回は、ChatGPTを用いてプロンプトの候補をリストアップしました。

```python
prompt_candidates = [
    "Reverse the string:\n{string}",
    "Please reverse the following string:\n{string}",
    "Turn this string around and write it backwards:\n{string}",
    """Reverse the string:
Example 1: abcdefghij -> jihgfedcba
Example 2: zyxwvutsrq -> qrstuvwxyz
Now, reverse the following string:
{string}""",
    """I will provide a string, and your task is to reverse it:
Example 1: hello -> olleh
Example 2: python -> nohtyp
Example 3: abcdefghij -> jihgfedcba
Now, reverse this string:
{string}"""
]
```

### 3. ベースプロンプトを決定
収集したプロンプトを全探索し、編集距離が最小となるプロンプトをベースプロンプトとして選定します。
下記のプロンプトが最も良いスコアとなりました。これをベースプロンプトとします。
```python
"Reverse the string:\n{string}"
```


以下のノートブックで詳細な結果を確認できます。

https://www.kaggle.com/code/isakatsuyoshi/optimize-prompt-candidates




### 4. プロンプトを要素に構造化して最適化
ベースプロンプトを分割し、構造化します。この構造化により、プロンプトの要素ごとに最適化が可能になります。

#### プロンプトクラスの実装例
以下は、プロンプトを要素に分割し、最適化可能なクラスにした例です。

```python
class Prompt:
    """
    プロンプトを要素に分割し、構成可能にするクラス。
    Optunaなどで各要素を最適化する際に利用。
    """

    def __init__(
        self,
        action: str = "Reverse",
        target: str = "the string",
        separator: str = "\n",
    ):
        """
        Args:
            action (str): プロンプトの動詞部分。例: "Reverse"
            target (str): プロンプトの目的語部分。例: "the string"
            separator (str): 改行文字や区切り文字。例: "\n"
        """
        self.action = action
        self.target = target
        self.separator = separator

    def __str__(self) -> str:
        """
        プロンプトの文字列表現を生成します。

        Returns:
            str: プロンプトの文字列表現。
        """
        return f"{self.action} {self.target}:{self.separator}{{string}}"
```

このクラスを用いることで、プロンプトの要素を柔軟に最適化できます。



#### Optunaによる最適化
以下は、Optunaを用いてプロンプトの各要素を最適化する部分のコードスニペットです。

```python
def objective(trial):
    action = trial.suggest_categorical("action", ["Reverse", "Please reverse", "Flip"])
    target = trial.suggest_categorical("target", ["the string", "this string", "the text"])
    separator = trial.suggest_categorical("separator", ["\n", " ", ": "])

    prompt_template = str(Prompt(action, target, separator))
    print(f"Evaluating prompt:\n{prompt_template}\n")
    train["pred"] = generate_predictions(
        pipeline,
        train["original"].tolist(),
        prompt_template,
        max_tokens,
        string_length
    )
    true_strings = train["reversed"].tolist()
    pred_strings = train["pred"].tolist()
    score = levenshtein_evaluation.calculate_levenshtein_distance(true_strings, pred_strings)
    print(f"Levenshtein Distance Score for this prompt: {score}\n")
    return score

study = optuna.create_study(direction="minimize")
study.optimize(objective, n_trials=10)
```
 
詳細な結果については、以下のノートブックをご覧ください。
 
https://www.kaggle.com/code/isakatsuyoshi/optimize-prompt-elements




# 参考にしたもの

[[1] 『自動プロンプト最適化のソフトウェア設計』](https://www.anlp.jp/proceedings/annual_meeting/2024/pdf_dir/P9-2.pdf)

[[2] [PyCon APAC 2023] ハイパーパラメータ最適化フレームワークOptunaの最新機能紹介 by Masashi Shibata](https://www.youtube.com/watch?v=ttMJCG1ivcE&ab_channel=PyConJP)

[[3] 『自動プロンプト最適化をやってみた』](https://tech.algomatic.jp/entry/prompts/auto-prompt-optimization)

[[4] 『Optunaによるブラックボックス最適化』](https://www.amazon.co.jp/Optuna%E3%81%AB%E3%82%88%E3%82%8B%E3%83%96%E3%83%A9%E3%83%83%E3%82%AF%E3%83%9C%E3%83%83%E3%82%AF%E3%82%B9%E6%9C%80%E9%81%A9%E5%8C%96-%E4%BD%90%E9%87%8E-%E6%AD%A3%E5%A4%AA%E9%83%8E/dp/4274230104)

[[5] 『大規模言語モデルを使いこなすためのプロンプトエンジニアリングの教科書』](https://www.amazon.co.jp/%E5%A4%A7%E8%A6%8F%E6%A8%A1%E8%A8%80%E8%AA%9E%E3%83%A2%E3%83%87%E3%83%AB%E3%82%92%E4%BD%BF%E3%81%84%E3%81%93%E3%81%AA%E3%81%99%E3%81%9F%E3%82%81%E3%81%AE%E3%83%97%E3%83%AD%E3%83%B3%E3%83%97%E3%83%88%E3%82%A8%E3%83%B3%E3%82%B8%E3%83%8B%E3%82%A2%E3%83%AA%E3%83%B3%E3%82%B0%E3%81%AE%E6%95%99%E7%A7%91%E6%9B%B8-%E3%82%AF%E3%82%B8%E3%83%A9%E9%A3%9B%E8%A1%8C%E6%9C%BA/dp/4839985006)

[[6] 『LLMのファインチューニングとRAG: チャットボット開発による実践』](https://www.amazon.co.jp/LLM%E3%81%AE%E3%83%95%E3%82%A1%E3%82%A4%E3%83%B3%E3%83%81%E3%83%A5%E3%83%BC%E3%83%8B%E3%83%B3%E3%82%B0%E3%81%A8RAG-%E3%83%81%E3%83%A3%E3%83%83%E3%83%88%E3%83%9C%E3%83%83%E3%83%88%E9%96%8B%E7%99%BA%E3%81%AB%E3%82%88%E3%82%8B%E5%AE%9F%E8%B7%B5-%E6%96%B0%E7%B4%8D-%E6%B5%A9%E5%B9%B8/dp/427423195X)


# ソースコード  
この記事で使用したソースコードは、以下のGitHubレポジトリからご確認ください。

https://github.com/Isaka-code/llm-prompt-reverse