Granit ble uteksaminert fra Det medisinske fakultet på Helsingfors universitet i Finland. Under den andre verdenskrig ble Finland utsatt for angrep fra Sovjet under vinterkrigen (1939–40). På grunn av dette flyktet Granit over til nabolandet Sverige for asyl i 1940. Her fikk han raskt svensk statsborgerskap som gjorde det mulig for han å jobbe med sin forskning uten konstant frykt for den finsk-sovjetiske konflikten. Krigen endte 1945 og Granit forble tro mot sitt land og han er beskrevet som en patriotisk skikkelse. Han hadde hus i både Finland og Sverige, men fikk professorat i nervefysiologi ved Karolinska Institutet i Solna i 1946. Dette gjorde at han oppholdt seg mye i Sverige, og professoratet beholdt han til han gitt av med pensjon i 1967. Samme året vant han sammen med to andre kolleger Nobelprisen. Han uttalte selv at prisen var halvt svensk og halvt finsk fortjeneste. Granit døde i den svenske hovedstaden som 90-åring.