SORSA中的正交正則化機制對模型的泛化能力和過擬合問題有著顯著的影響。正交正則化的主要目的是保持奇異向量的正交性，這樣可以確保模型在訓練過程中不會過度調整參數，從而減少過擬合的風險。具體來說，正交性有助於防止模型在訓練數據上學習到噪聲，這樣模型在面對未見數據時能夠保持更好的預測性能。
此外，正交正則化還促進了參數更新的穩定性，因為它將更新集中在奇異值上，而不是在奇異向量上。這種分離的更新機制使得模型能夠更有效地捕捉數據的全局特徵，從而提高泛化能力。實驗結果顯示，使用SORSA的模型在多個基準測試中表現出色，這進一步證明了正交正則化在提高模型泛化能力方面的有效性。