Francke studerte ved universitetene i Erfurt, Kiel og Leipzig. I 1686 grunnla han i sistnevnte by et for øvelser i Bibelens filologiske og praktiske tolkning. Det religiøse inntrykket var hos Francke tidlig det fremherskende, men selv betegnet han år 1687 som tiden for sin omvendelse til en «levende kristendom». Fra 1690-91 var han diakon ved Augustinkirken i Erfurt. Hans mere oppbyggende enn dogmatiske prekener der vakte stor oppmerksomhet og fant et stort antall tilhørere, også blant katolikkene. Mange blant disse ble ledet til å gå over til protestantismen, og til slutt befalte den katolske fyrstebiskopen av Mainz, som Erfurt da hørte til, ham å forlate byen innen 48 timer.