Kleindienst tjenestegjorde 1943 til 1946 i United States Army Air Corps fra 1943 til 1946. Han studerte senere ved Harvard University, hvor han ble uteksaminert fra Harvard Law School 1950.