Området som San José ligger i, er svakt kupert, fruktbart og omgitt av fjell. I nord reiser vulkanene Poás, Barva og Irazú seg, og i sør ligger fjellkjeden Cordillera de Talamanca. Byen befinner seg i den såkalte Valle Central, på en høyde av 1 170 meter over havet.