Pipin, tidvis omtalt som Pipin II, var barnebarnet og fikk navn etter Pipin av Landen (også omtalt som «den eldre») ved at Ansegisel ble gift med Begga, datter av Pipin den eldre. Pipin av Landen var den første rikhovmester som forsøkte å gjøre posisjonen arvelig. Pipin II ble også bestefar til Pipin den yngre og oldefar til Karl den store. Ekteskapet mellom Ansegisel og Begga forente de to slektene pipinidene og arnulfingene og skapte det som ble kalt for karolingerdynastiet. Pipin II ble antagelig født i Herstal (Héristal), dagens Belgia, hvor hans maktområde var, derav hans tilnavn. Pipin ble også omtalt som «den fete» og senere som «den midtre», ettersom hans sønnesønn også fikk navnet Pipin.