Glennan begynte hos Columbia University Division of War Research i 1942 der han var ansatt gjennom hele den andre verdenskrig. Han steg i gradene på dette stedet frem til han ble utnevnt til direktør for US Navys Underwater Sound Laboratories i New London i Connecticut. I første halvdel av 1950-tallet ble han medlem av USAs Atomic Energy Commission.