Yale University i byens er byens fremste kjennemerke og dens største arbeidsgiver. Men New Haven er også hjem for andre læresteder for høyere utdannelse, som Southern Connecticut State University og Albertus Magnus College. University of New Haven har sin rett utenfor bygrensen, i nabobyen West Haven. Nord for byen, i Hamden og North Haven, ligger Quinnipiac University. New Haven har også Gateway Community College, som ligger i Long Wharf-distriktet.