Terboven ble født i Essen som sønn av en velstående bonde. Navnet Terboven er lavtysk eller nederlandsk. Han tjenestegjorde i det tyske feltartilleriet og det voksende luftforsvaret i første verdenskrig og ble tildelt Jernkorset. Ved krigens slutt hadde han nådd løytnants grad. Han studerte jus og statsvitenskap i et par år ved universitetene i München og Freiburg, hvor han for første gang ble involvert i den ekstreme politikken. Han måtte av økonomiske grunner avbryte studiene og arbeidet deretter som læregutt i en bank noen år før han ble oppsagt i 1925 på grunn av den økonomiske krisen i Tyskland.