Ancora in giovane età, entrò nel servizio diplomatico per conto del padre ed il 25 agosto 1345 seppe distinguersi anche come combattente schierandosi al fianco di Filippo VI di Francia nella Battaglia di Crécy. Dopo la morte del re Giovanni I di Boemia, Rodolfo II ottenne la guida delle truppe ausiliarie dell'esercito imperiale. Anche se i francesi persero la battaglia, Filippo VI ringraziò Rodolfo II per il suo contributo donandogli una spina della Corona di Spine di Gesù Cristo conservata a Parigi nella Sainte-Chapelle. In quei giorni le reliquie erano largamente venerate ed erano considerate un dono di grandissimo valore non solo a livello religioso ma anche a livello economico dal momento che il possesso di una reliquia così preziosa avrebbe portato un grande afflusso di pellegrini con le relative offerte. Suo padre aveva fatto costruire la cappella di Ognissanti a Wittenberg e pertanto la cappella servì come custodia della preziosa reliquia della spina di Cristo e venne richiesta la presenza di un prevosto. Dopo la morte del padre, Rodolfo II riaffermò l'importanza della chiesa e ne espanse i possedimenti.