Mazzarino ble født i de italienske Abruzzene som sønn av Pietro Mazzarino fra Palermo på Sicilia og Ortensia Buffalini. Hans far var hushovmester hos Colonnaslekten i Roma. Han var bror til kardinal Michel Mazarin (kreert i 1647), og nevø til jesuittpater Giulio Mazarini.