Шол је за репрезентацију Немачке одиграо 36 утакмица између 1995. и 2002. године, постигавши осам голова. Био је део победничког тима Немачке на Европском првенству 1996, где је играо у четвртфиналу, полуфиналу и финалу. У 69. минуту финала, када је Чешка водила са 1:0, замењен је тада релативно непознатим Оливером Бирхофом који је постигао два гола која су преокренула меч за Немачку, што је катапултирало Бирхофа до националне и међународне славе. Шол је такође играо у све три утакмице Немачке на Европском првенству 2000, постигавши једини гол Немачке на турниру против Румуније.