Han var opprinnelig romersk-katolsk prest, og antas å ha blitt omvendt til protestantismen av reformatoren George Wishart. Da Wishart ble henrettet for kjetteri gikk Knox først under jorden, men begynte senere å preke den reformerte lære. Han ble tatt til fange av franske tropper i Skottland i 1547, og ble bragt til Frankrike som galeislave. Han ble frigitt i 1549 etter den engelske regjeringens megling. I England ble han fra 1551 kongelig kapellan.