Terwyl hy regte studeer het, het hy onder die invloed gekom van die rektor van die Sorbonne, Nicholas Cop – 'n ondersteuner van Luther. In 1534 het Calvyn tot bekering gekom en in 1535 die eerste deel van sy 'Institusie van die Christelike Godsdiens'.
In Januarie 1537 begin hy 'n bediening saam met Willem Farel in Geneva. Calvyn was meedoënloos in sy soeke na hervorming en in 1538 gooi die stadsvader hom uit. Martin Bucer nooi hom toe na Strassburg om 'n gemeente van Franse vlugtelinge te bedien. Hier ontmoet hy sy vrou Idelette en skryf hy die eerste van sy reeks kommentare.
Dit was nie lank nie, of die stadsvaders van Geneva het hoed in die hand na Calvyn toe gekom en hom gesmeek om na die stad terug te keer.
Calvyn word genoem die 'Teoloog van die Heilige Gees' en die 'Teoloog van die Kerk'. Calvyn sou dikwels sê dat 'as God die Vader is, dan is die Kerk beslis die Moeder'.
'n Wêreld waar jy jou hele lewe as 'n christen kan leef, sonder om een keer aan 'n gemeente te behoort (daar is christelike radiostasies en TV-netwerke, Christelike boekwinkels en webtuistes, evangeliese uitreike in sportstadions deur para-kerklike organisasies) sou Calvyn gegrief het. Volgens Calvyn is dit nie moontlik om 'n lewe in gehoorsaamheid aan Jesus te leef, sonder om aan die plaaslike gemeente gekoppel te wees nie.
Natuurlik was nie al sy beginsels navolgenswaardig nie – hy het bv. nie geglo in enige musiekinstrumente in die kerk nie. Nee, nie eens die kerkorrel is Calvinisties nie! Calvyn het geglo dat slegs die Skrif – hoofsaaklik die Psalms – in die erediens gesing mag word. Hy het natuurlik wat kerkmusiek betref radikaal van Luther en Zwingli verskil.
Sy grootste bydrae tot die reformasie was sy sogenaamde '5 Punte' wat die basis van Calvinisme sou vorm. Dit is later vervat in wat ons vandag ken as die Dordtse Leerreëls.