由于在俱乐部的出色表现，赫鲁贝施也顺理成章的受到了德国国家队的征召。1980年4月2日，他随德国队在慕尼黑以1:0战胜奥地利的比赛中完成了自己的国家队首秀。从1980年至1982年，赫鲁贝施共代表国家队上阵21场并射入21球，其中在由意大利举办的1980年欧洲杯决赛中，德国队以2:1战胜比利时，赫鲁贝施包办了德国队的两个入球，这也是他在国家队的首球。随后在1982年世界杯中，他又帮助德国队在与法国队进行的半决赛点球决胜中射入致胜点球。然而在决赛中德国队以1:3不敌意大利无缘冠军，这也成为了赫鲁贝施的最后一场国家队比赛。