Hermann von Salza ble født i Thüringen i Tyskland, trolig rundt 1179. Det finnes ikke et presist årstall når han gikk inn i Den tyske orden, men han opptrer for første gang i 1209, som stormester.