Gagliano er mest kjent som grunnlegger av mafiafamilien Lucchese, en av de fem familiene i New York, og han fungerte som sjef i to tiår. Gagliano var tidligere aktiv innenfor den italienske mafiaen Cosa nostra, med det finnes lite informasjon om hans tidlige liv på Sicilia. I begynnelsen av 1920-årene dro Gagliano til New York der han snart ble medlem av en siciliansk kriminell gjeng med base i The Bronx.