Cohens foreldre var jødiske innvandrere fra Russland. Faren var skredder. Cohen overlevde polio. Han tok en bachelorgrad i fagene biologi og kjemi ved Brooklyn College og senere mastergrad ved Oberlin College i 1945. Cohen tok doktorgraden i biokjemi ved University of Michigan i 1948. Avhandlingen omhandlet meitemark som han plukket fra universitetets plener om natten. Han ble ansatt ved Vanderbilt University i 1959 og forsket og underviste der til han ble emeritus i 1999. De vitenskapelige gjennombruddene ble gjort mens han og Rita Levi-Montalcini var ved Washington University i St. Louis på 1950-tallet. Forskningsresultatene er viktig grunnlag for forskning på blant annet demens og kreft.