Tidlig urgermansk begynte som en dialekt av urindoeuropeisk (UIE), kjennetegnet ved at den hadde mistet laryngalene UIE hadde. Dialekten hadde fem lange og seks korte vokaler, i tillegg én eller to overlange vokaler. Konsonantsystemet var som i UIE, men uten palatovelarer og laryngaler. Allikevel var tidlig urgermansk klart forskjellig fra det egentlige UIE, som følge av tapet av stavelsesbærende sonanter.