Den 15. mars 1077 ble Rudolf valgt til motkonge i keiserpalasset i Forchheim hvor også de tidligere kongene Ludvig barnet og Konrad I av Tyskland var blitt kronet. Den første «motkongen» i imperiets historie lovte å respektere investituret.