Etter å ha fullført high school i 1944 ble Bly med i den amerikanske marine, der han var i to år. Deretter studerte han i ett år ved St. Olaf College i Minnesota. Etter studier ved Harvard og University of Iowa var Bly Fulbright-stipendiat i Norge for å oversette norsk litteratur til engelsk.