Marraskuussa 2009 hän siirtyi alle 19/20-vuotiaiden maajoukkuevalmentajaksi. Kesäkuussa 2013 hän palasi takaisin alle 21-vuotiaiden päävalmentajaksi. Hrubesch luotsasi 28 vuoden tauon jälkeen Saksan jalkapallojoukkueen olympiaturnaukseen Rion 2016 kisoihin. Hrubesch luotsasi Saksan olympialaisten jalkapalloturnauksen finaaliin, jossa isäntämaa Brasilia oli parempi rangaistuspotkukilpailun jälkeen. Hrubesch päätti pitkän 30-vuotisen valmennusuransa olympiafinaaliin.