歸納偏置 當學習器去預測其未遇到過的輸入的結果時會做一些假設Mitchell 而學習演算法中的歸納偏置Inductive bias則是這些假設的集合 機器學習試圖去建造一個可以學習的演算法用來預測某個目標的結果要達到此目的要給於學習演算法一些訓練样本样本說明輸入與輸出之間的預期關係然后假设學習器在预测中逼近正确的结果其中包括在訓練中未出現的样本既然未知状况可以是任意的結果若沒有其它額外的假設這任務就無法解決這種關於目標函數的必要假設就称为歸納偏置Mitchell  desJardins and Gordon  一個典型的歸納偏置例子是奧卡姆剃刀它假設最簡單而又一致的假设是最佳的這裡的一致是指學習器的假设會對所有樣本產生正確的結果 歸納偏置比較正式的定義是基於數學上的邏輯這裡歸納偏置是一個與訓練样本一起的邏輯式子其邏輯上會蘊涵學習器所產生的假设然而在实际应用中這種嚴謹形式常常無法適用在有些情况下学习器的歸納偏置可能只是一個很粗糙的描述如在人工神經網路中甚至更加简单