Polanyi vokste opp i et sekulært miljø blant jødiske familier i Andrássy út, Budapest. Han gikk ikke på jødisk skole, ba ikke i synagogen, lærte ikke hebraisk og hadde ikke bar mitzvah. Uten jødisk utdanning hadde han liten kjennskap til jødisk kultur og forestilte seg jødedommen som bakstreversk og dominert av rabbinerne. Polányi fremsto som en troende person påvirket av kristendom, men identifiserte seg ikke med noe spesielt kirkesamfunn. Han var opptatt av grunnleggende verdier som sannhet, rettferdighet, frihet, hjelp til trengende og skjønnhet.