Schmelzer maakte deel uit van het team dat in 2009 het Europees kampioenschap voetbal onder 21 won. Op 17 november 2010 maakte hij zijn debuut in het Duits voetbalelftal tegen Zweden. Ook maakte hij deel uit van de 23-koppige selectie die bondscoach Joachim Löw meenam naar het EK 2012.