רומניגה החל את הקריירה שלו בבורוסיה ליפשטאט מעיר הולדתו, ובשנת 1981 עבר לשחק בנוער של באיירן מינכן. כעבור שנה עלה לבוגרים, וסבל תחילה מהשוואות בלתי פוסקות לאחיו הגדול קרל היינץ, שכבר היה כוכב גדול בבאיירן מינכן באותם ימים, שהקשו עליו להתקדם. עם זאת, החל לתפוס מקום של קבע בקבוצה, ושיחק בה שש עונות, בהן כבש 44 שערים ב-152 הופעות, וזכה בשלוש אליפויות הבונדסליגה ברצף, שני גביעים מקומיים וסופר קאפ אחד. כמו כן, פתח בהרכב הקבוצה בהפסד 2-1 לפורטו בגמר גביע אירופה לאלופות 1987.