Johann Joseph Fux var eldste sønn av Andreas og Ursula Fux. Foreldrene var bønder og Fux vokste opp i enkle kår. Om hans tidlige liv er ikke stort mer kjent enn at han rundt 1680 studerte ved universitetet i Graz, og mellom 1683 og 1687 i Ingolstadt.