I 976 kom Henrik II tilbake til Bayern. Det er ikke kjent om han ble løslatt av Otto II eller om han rømte fra fengselet. Da han kom tilbake startet han et åpent opprør mot Otto II og krevde herredømme over imperiet for seg selv. Henrik II mobiliserte den saksiske adelen mot Otto II. Spesielt hadde han sterke forbindelser til markgreve Gunther av Merseburg, hertug Egbert den enøyde og Dietrich I av Wettin som alle var misfornøyd med Otto IIs etterlevelse av de saksiske tradisjonene. Som svar på opprøret ble Henrik II fratatt sitt hertugdømme og ble bannlyst. Deretter marsjerte Otto II med sin hær sørover til Bayern og beleiret Regensburg, Henrik IIs høyborg. Otto II hær brøt til slutt gjennom byens forsvarsverk, og tvang Henrik II til å flykte til Böhmen.