Ruppelt è nato in Iowa, dove ha trascorso la gioventù e compiuto gli studi . Ha studiato ingegneria aeronautica presso l'Iowa State College prima di arruolarsi nell'U.S. Air Force nel 1942. Ha preso parte alla seconda guerra mondiale, prestando servizio sui bombardieri e distinguendosi in combattimento, tanto da ricevere diverse medaglie. Dopo la guerra ha ripreso e completato i suoi studi di ingegneria. Allo scoppio della Guerra di Corea, è stato richiamato in servizio nell'aeronautica militare. Ruppelt fu assegnato all'Air Technical Intelligence Center (ATIC) presso la base aerea di Wright-Patterson, nell'Ohio. Questa base fu il quartier generale di due progetti di studio sugli UFO: il Progetto Sign (1947-1948) e il Progetto Grudge (1949-1951).