プロンプトエンジニアリング
自己反復プロンプト(self-refine prompting)は、LLMに問題を解くように要求し、次にLLMにその解答を批評するように要求し、それを受け取った後、再び問題と解答と批評を考慮して問題を解くように要求する。この過程は、トークンか時間がなくなるか、またはLLMが「ストップ」トークンを出力して停止するまで繰り返される。
思考連鎖(chain-of-thought、CoT)プロンプトは、大規模言語モデル(LLM)が最終的な答えを出す前に、一連の中間ステップとして問題を解くことを可能にする技術である。思考連鎖プロンプトは、思考回路(英語版)を模倣した推論ステップで、複数のステップからなる問題に答えるようにモデルを誘導することによって推論能力を向上させる。これにより大規模言語モデルは、算術や常識的推論(英語版)のような、論理的思考と複数のステップを必要とする推論タスクの困難を克服することができる。
たとえば、「Q: 食堂に23個のリンゴがあった。昼食を作るために20個使い、さらに6個買ったとすると、リンゴは何個あるか?」という問いがあった場合、CoTプロンプトは、LLMに「A: 食堂にはもともと23個のリンゴがあった。昼食を作るために20個を使った。だから、23-20=3個ある。さらに、6個のリンゴを買ったので、3+6=9個になった。答えは9個である。」と答えさせるかもしれない。
プロンプトには、少数の例が含まれることがしばしばある(つまり「少数ショット」)。例は、文書検索データベースから自動的に取得したり、 ベクトルデータベースを使うこともできる。クエリが与えられると文書検索が呼び出されて、最も関連性の高い文書が取得される(通常、初めにクエリと文書をベクトルに符号化し、次にクエリベクトルにユークリッドノルムで最も近いベクトルを持つ文書を見つけることによって抽出される)。次に、LLMはクエリと取得した文書の両方に基づいて出力を生成する。
ソーシャル・エンジニアリング - 人を心理的に操作して行動を起こさせたり機密情報を手に入れたりすること
ファインチューニング (機械学習) - 事前学習したモデルの重みを新しいデータで訓練する転移学習の一手法