Gellert var den femte sønnen i en pastorfamilie og vokste opp i fattigslige forhold i Hainichen. Broren, , var en kjent metallurg og mineralog.