Mot slutten av 1950-tallet ble Hammond ansatt av Columbia Records. Der produserte han Pete Seeger og Babatunde Olatunji, og oppdaget Aretha Franklin. I 1961 hørte han den da ukjente folkmusikeren Bob Dylan spille munnspill for Carolyn Hester og ga ham en kontrakt med Columbia og sørget for at Dylan forble hos Columbia til tross for protester fra sjefene. Hammond produserte Dylans «Blowin' In the Wind» og «A Hard Rain's a-Gonna Fall». Hammond sørget også for at Robert Johnsons innspillinger ble gitt ut på nytt, en utgivelse som fikk stor påvirkning på senere musikere, og skrev kontrakter med Leonard Cohen og Bruce Springsteen.