Rank ble født den 22. eller 23. desember 1888 i Kingston upon Hull i England i et viktoriansk familiemiljø som var dominert av faren, Josef Rank som hadde bygget opp en betydelig melmølle-virksomhet. Han ble utdannet ved The Leys School i Cambridge. Det sies at Joseph hadde fortalt sin sønn Arthur at han var «en dåse på skolen, og den eneste måten han kunne lykkes i livet ville være å bli i sin fars møllevirksomhet». J. Arthur våget seg likevel på å bli sin egen møller og startet , men da forretningen mislyktes returnerte han for å arbeide for sin far. som han senere arvet, og som ble kjent som (nå eiet av det britiske matkonglomerat Premier Foods ).