I 1003 gjorde Jaroslav opprør mot Boleslav III. Boleslav var imidlertid ikke istand til å sikre tronen, og Böhmen ble okkupert av Bolesław I av Polen. Jaromir og hans bror Oldrich fikk militær støtte fra den tyske kongen Henrik II, mot løfte om å gjøre Böhmen til tysk vassalstat. Han forble Henik trofast i de påfølgende år; han deltok i felttogene mot milzenerne i 1004 såvel som mot polakkene i 1005 og 1010.