Después de graduarse en la Universidad de Columbia en 1946 Cohn se graduó en la Escuela de Derecho de Columbia a los 20 años, y comenzó a trabajar para la oficina del Fiscal General, Irving Saypol, en Manhattan.