Grassmann ble født i Stettin som på den tiden var en tysk by tilhørende Preussen. Han vokste opp sammen med elleve andre søsken i en pietistisk familie der faren Justus Grassmann var utdannet prest. Likevel underviste han matematikk og naturfag ved gymnaset i byen. Den unge Hermann utmerket seg ikke noe spesielt under sin første skolegang og påbegynte i 1827 et studium i teologi ved Universitetet i Berlin.