Kimmich ma za sobą grę w młodzieżowych reprezentacjach Niemiec na różnych szczeblach młodzieżowych. W 2014 wraz z kadrą do lat 19 sięgnął po młodzieżowe Mistrzostwo Europy, pokonując w finale 1:0 Portugalię. W 2015 roku z reprezentacją U-21 wziął udział w Mistrzostwach Europy do lat 21. 29 maja 2016 zadebiutował w reprezentacji Niemiec w przegranym 1:3 meczu towarzyskim ze Słowacją, a dwa dni później znalazł się w 23-osobowej kadrze Niemiec na Euro 2016. Pierwszego gola w reprezentacji strzelił 4 września 2016 w wygranym 3:0 meczu eliminacji do MŚ 2018 z Norwegią.