Karl Gützlaff var sønn av skredderen Jacob Gützlaff og Maria Elisabeth Behncke. Han ble preget av Halle-pietismen under oppveksten. I 1816 kom han til Stettin som lærling hos en salmaker. Så fikk han skoleplass i Halle. Han interesserte seg for kristentroen men hadde ikke fått noen omvendelsesopplevelse. I 1820 kom han i kontakt med kong Friedrich Wilhelm III av Preussen, og han gav ham utdannelsesstipend. Karl Gützlaff begynte så på , ledet av pastor Johannes Jänicke. Han tilhørte den bøhmiske lutherske kirke, også kalt Betlehemskirken, og skolen var gjennomsyret av herrnhuternes fromhet. I 1821 fulgte så etter en indre kamp en omvendelse til Jesus Kristus. Han ble sterkt preget av professor August Tholuck. Han studerte språk med stor iver.