André-Hercule de Fleury var sønn av skatteinnkreveren Jean de Fleury, Seigneur de Dio, og hans hustru Diane de La Treille. I en aldre av seks år kom gutten til Paris, til (i dag Lycée Louis-le-Grand) og senere til (i dag Lycée Saint-Louis) som ble ledet av jesuittene.