Hans slekt var fra landsbygden utenfor Roma. De var av ridderrang og velstående, men ble av det romerske aristokratiet regnet som usofistikerte og enkle mennesker. Lite er kjent om Agrippas liv. Roddaz har argumentert for at han sannsynligvis var en første generasjon romersk borger som hadde oppnådd borgerskap etter Forbundsfellekrigen i 87 f.Kr.