Sein Debüt in der Nationalmannschaft gab Gebhardt unter Teamchef Eduard Frühwirth bei einem 1:0-Sieg gegen Irland im Mai 1966. In den folgenden drei Jahren war er Stammspieler in der Defensive der Österreicher, wo er häufig an der Seite seines Vereinskollegen Walter Glechner spielte. Bei der in diesen Zeitraum fallenden Qualifikation für die Europameisterschaft 1968 musste man sich der Sowjetunion geschlagen geben. Sein 17. und letztes Spiel in der Nationaldress bestritt Gebhardt im September 1969 bei einem 1:1 gegen Deutschland.