Fierz studerte ved Realgymnasium i Zürich. I 1931 begynte han sine studier i Göttingen der han hadde Hermann Weyl som professor. I 1933 vendte han tilbake til Zürich og studerte fysikk. I 1936 tok han sin doktorgrad med en avhandling om kvante-elektrodynamikk. I 1940 begynte Fierz som privatdosent i Basel og 1943 ble han utnevnt til assisterende professor. Fra 1944 til 1959 var Fierz ansatt som professor i teoretisk fysikk i Basel. I 1950 ble han ansatt ved Institute for Advanced Study i Princeton.