人工參與是在整個機器學習生命週期中利用人工輸入來提高模型的準確性和相關性的過程。可以透過人工執行多種任務，從資料產生和註釋，到模型審查和客製化。人工干預對於生成式 AI 應用程式尤其重要，此處的「人」通常是指內容的申請者和消費者。因此，必須人工訓練基礎模型 (FM) 如何準確、安全和相關地回應使用者的提示。您可以套用人工回饋來協助您完成多個任務。首先，透過監督式學習 (人工模擬模型應如何回應使用者提示的風格、長度和準確性)，以及使用人工回饋的強化學習 (人工對模型回應進行排名和分類)，為生成式 AI 應用程式建立高品質的標籤訓練資料集。其次，使用人工產生的資料對特定任務自訂 FM，或使用您公司和領域的特定資料，並使模型輸出與您相關。