לגרבובסקי 44 הופעות במדי נבחרת גרמניה המערבית, בהן כבש חמישה שערים. גרבובסקי השתתף בארבעה טורנירים גדולים. הטורניר הראשון בו שיחק היה מונדיאל 1966, בו הפסידה נבחרתו במשחק הגמר לנבחרת אנגליה. בהמשך השתתף במונדיאל 1970, בו הודחה נבחרתו בחצי הגמר על ידי נבחרת איטליה. לאחר מכן, גרבובסקי היה שותף לזכיות של נבחרת גרמניה המערבית ביורו 1972 לאחר ניצחון בגמר על נבחרת ברית המועצות, ובמונדיאל 1974, בו ניצחה נבחרת גרמניה המערבית את נבחרת הולנד במשחק הגמר, בו גרבובסקי שיחק 90 דקות. לאחר מונדיאל זה, פרש גרבובסקי מהנבחרת.