プロンプトエンジニアリング
思考の木プロンプト(Tree-of-thought prompting)は、思考連鎖型を一般化したもので、1つ以上の「可能性のある次のステップ」を生成するようモデルに要求し、それを受け取った後、可能性のある次のステップのそれぞれについて、幅優先、ビーム、または木探索の別の方法によってモデルを実行する。
言語モデルは、次のようなプロンプトで翻訳を行うことができる。
この後に、翻訳するテキストを続ける。プロンプト・インジェクションは、そのテキストにモデルの動作を変更する指示が含まれている場合に発生する。
GPT-3は「Haha pwned!!」と答えるだろう。この攻撃が成り立つのは、言語モデルの入力が、命令とデータを同じ文脈内で連結しているため、基盤となるAIがそれらを区別できないからである。
ソクラテス式プロンプト(Socratic prompting)または産婆術プロンプト(Maieutic prompting)は思考連鎖型に似ている。モデルはある質問に説明付きで答えるよう求められる。次にモデルは、その説明の一部を説明するように指示される。矛盾した説明の探索木は刈り込まれるか、捨てられる。これにより、複雑な常識推論のパフォーマンスが向上する。
プロンプト・インジェクション(Prompt injection、プロンプト注入)は、人間が与えた指示に従うように訓練された機械学習モデル(LLMなど)を、悪意のあるユーザーが指示を与えることで実行される、コンピュータ・セキュリティにおける悪用の一種である。これは、MLモデルがその操作者が与えた信頼できる指示(プロンプト)に従うことを目的とする命令追従システムに意図された動作とは対照的である。