2012 debütierte Gerhardt in der deutschen U-18 Nationalmannschaft. Er wurde danach in allen Juniorenauswahlen eingesetzt. Am 15. November 2016 kam Gerhardt im Spiel gegen Italien in Mailand zu seinem bisher einzigen Einsatz in der deutschen A-Nationalmannschaft. Bei der U-21-EM 2017 in Polen absolvierte Gerhardt jedes Spiel über die volle Distanz und gewann schließlich mit Deutschland den Titel.