Киммих выступал за многие молодёжные сборные Германии. В главную сборную Германии Йозуа был впервые вызван летом 2016 года, для участия в чемпионате Европы 2016 года, в котором и состоялся его дебют за сборную. 4 сентября 2016 года в матче отборочного турнира к чемпионату 2018 года против сборной Норвегии Йозуа забил свой первый гол за сборную Германии.