Galba ble født nær Terracina, sør for Roma, og med aristokratene Sulpicius Galba og Mummia Achaica som foreldre. Under oppveksten ble han adoptert av Livia (gift med keiser Augustus og mor til keiser Tiberius), og trolig kan mye av Galbas senere avansement i det romerske samfunn tilskrives hennes velvilje og forbindelser.