Sy skoolopleiding het hy op Graaff-Reinet deur medium Engels ontvang en van 1853 tot 1858 studeer in Utrecht, Nederland, waar by onder invloed van prof. C.W. Opzoomer die "moderne" of liberale rigting in die teologie aanvaar het. In 1858 is hy getroud met 'n Skotse dame, Man Bryson (26 Desember 1836 tot 26 April 1929). Hulle het tien kinders (twee seuns en agt dogters) gehad van wie drie vroeg oorlede het.
Hy keer in 1858 na die Kaap terug om leraar van die NG gemeente Hanover in die Karoo te word na hy sy doktorsgraad in Teologie aan die Universiteit Utrecht in Holland verwerf. In sy eerste gemeente raak hy betrokke in 'n teologiese geskil op grond van sy beweerde liberalisme (hy het hom sterk uitgespreek teen die destydse opwekkingsdienste) en ongeloof in die letterlike waarheid van die Bybel. Dit het sy skorsing deur die Sinode in 1862 tot gevolg.
Burgers beroep hom op die Kaapse Hooggeregshof en word gelyk gegee en as predikant herstel na die Sinode se appèl ook by die Britse Geheime Raad misluk.