超参数 (机器学习) 在机器学习中超参数英語Hyperparameter是事先给定的用来控制学习过程的参数而其他参数例如节点权重的值是通过训练得出的 超参数可分为模型超参数Model Hyperparameters和算法超参数Algorithm Hyperparameters模型超参数主要用于模型选择其无助于学习训练集特征而算法超参数理论上对模型的性能没有影响而会影响学习的速度和质量一个典型的模型超参数是神经网络的拓扑结构及大小而学习率和批量大小Batch size小批量大小MiniBatch size则是典型的算法超参数 不同的模型训练算法需要用到不同的超参数一些简单的算法如普通最小二乘回归不需要超参数给定超参数训练算法会从数据中学习参数例如LASSO算法在普通最小二乘回归中加入正则化超参数在通过训练算法估计参数之前必须先设置这个超参数