Koch vokste opp som sønn av en dommer i Düsseldorf-distriktet Eller, i den katolske menigheten St. Gertrud, hvor han var ungdomsleder og ministantleder. Etter ble ferdig med i Düsseldorf, studerte han katolsk teologi, filosofi og utdanningsvitenskap ved universitetet i Bonn og fullførte studiene med statseksamen i utdanningsvitenskap og en doktorgrad.