Faren var Michael Polanyi og moren var Magda (født Kemeny) som hadde flyttet fra Ungarn til Berlin der John Polanyi ble født. I 1933 flyttet familien til Storbritannia. Foreldrene sendte John til Canada under andre verdenskrig etter den tyske okkupasjonen av Norge. John Polanyi kom tilbake fra Canada i 1944. Han fikk en bakterieinfeksjon i beinet og reddet livet ved behandling med penicillin som akkurat var frigitt til sivil bruk.