Ο Ρουμενίγκε συμμετείχε με την εθνική ομάδα της χώρας του σε δύο Ευρωπαϊκά Πρωταθλήματα, κατακτώντας αυτό του 1980, όπου η Δυτική Γερμανία κατέβαλε στον τελικό την ομάδα του Βελγίου με 2–1. Στη διοργάνωση του 1984 η γερμανική ομάδα αποκλείστηκε στην φάση των ομίλων. Συνολικά ο Ρουμενίγκε αγωνίστηκε με τη φανέλα της εθνικής 95 φορές μεταξύ 1976 και 1986, πετυχαίνοντας 45 τέρματα. Είναι ο 5ος καλύτερος σκόρερ στην ιστορία του γερμανικής εθνικής ομάδας ποδοσφαίρου, συμπεριλαμβανομένων και των Ανατολικογερμανών παικτών.