Hans arkitektur kan beskrives som sterkt forankret modernisme, oppblandet med oppløste strukturer, asymmetri og lekenhet. Flertallet av bygningene Pei har tegnet er offentlige bygninger oppført i stål, betong og glass.