John var sønn av Ludvig Monash og hans kone Bertha som begge var av tysk-polsk og jødisk opprinnelse. Familienavnet deres ble opprinnelig stavet Monasch og ekteparet bodde i Krotoschin, Polen, men de flyttet til Australia knapt to år før John Monash ble født. Monash kunne snakke og skrive flytende tysk. I 1874 flyttet familien til den lille byen Jerilderie i Riverina-regionen i delstaten New South Wales, hvor hans far drev en butikk. Monash begynte den offentlige skolen, og hans intelligens ble raskt anerkjent. Familien ble rådet til å flytte tilbake til Melbourne for å la John nå sitt fulle akademiske potensial.