Keitel nasce a Brooklyn, distretto di New York, il 13 maggio 1939 da una famiglia ebraica di ristoratori di origini rumene e polacche. Trascorre un'adolescenza turbolenta, culminata con l'arruolamento all'età di sedici anni nei Marines, con i quali nel 1958 prende poi parte all'intervento militare americano in Libano, denominato "Operation Blue Bats". Ritornato a New York, si iscrive all'Actors Studio, mantenendosi nel frattempo come stenografo.