羽林军一百人。大宁元年（561年）十一月乙卯，迁位太宰。高淹为人个性沉着谨慎，以宽厚被人称颂。河清三年（564年），于晋阳逝世，有人传言他是为鸩杀的。还葬于邺，追赠高淹假黄钺、太宰、录尚书事，谥号靖翼，其子高德素继嗣他的爵位。其孙高世俊后为其侄琅邪王高俨嗣子。