Krugmans foreldre var Anita and David Krugman, og hans besteforeldre var polske jøder som utvandret fra Brest i Det russiske rike, et sted som nå er Belarus. Foreldrene vokste opp i trange kår i Brooklyn. Paul vokste opp på Long Island i New York, i Merrick i Nassau County.