Folkman ble uteksaminert fra The Ohio State University i 1953 og han ble uteksaminert fra Harvard Medical School i 1957. Mens Folkman fremdeles var student ved Harvard Medical School, utviklet han en av de første pacemakerne i verden. Kort tid etter endt eksamen fikk Folkman en stilling ved Massachusetts General Hospital, der han etter hvert steg i gradene til sjefslege i kirurgi.