Starke tok juridisk og statsvitenskapelig utdannelse. Han var medlem av NSDAP før 1945. Han tjenestegjorde som reserveoffiser i infanteriet under andre verdenskrig, til sist som kaptein. Han tjenestegjorde både på østfronten og vestfronten.