После неудачного Евро-1984 Румменигге принял участие в чемпионате мира 1986, где его команда вновь дошла до финала. В решающем матче с аргентинцами при счёте 0:2 Карл-Хайнц помог немцам отыграть один мяч, однако победа всё равно осталась за «альбиселесте». По окончании турнира он принял решение завершить карьеру в сборной.