Roth vokste opp i Newark i New Jersey, som sønn av to førstegenerasjons jødiske innvandrere fra Galicia i Polen, nå i Ukraina. Foreldrene, forsikringsagenten Herman og hans hustru Bess Roth, tilhørte den lavere middelklasse. Philip var deres eldste sønn. Han dediserte sin første bok til sine foreldre. I 1989 døde faren av kreft, og erfaringene med farens langsomme nedbrytning kom til litterært uttrykk i boken .