På 1500-tallet kom de første spanjolene på besøk. I 1608 grunnla de byen Santa Fe, som siden da har vært hovedstad i delstaten, og senere kom byer som Taos og Albuquerque. I 1680 gjorde pueblo-folket opprør mot spanjolene, som måtte flykte til El Paso (i dag i Texas). I 1692 kom imidlertid spanjolene tilbake. Stadige angrep fra apasje- og comanche-indianerne gjorde at denne nordlige utposten ikke utviklet seg særlig raskt. Da Spania måtte oppgi sitt kolonistyre i Mexico, fulgte New Mexico med inn i den nye meksikanske republikken. New Mexicos østlige deler fulgte med Texas ut av Mexico i 1836, mens de sentrale delene rundt Santa Fe ble okkupert av amerikanske styrker under den meksikansk-amerikanske krigen i 1846. I 1848 ble New Mexico en del av USA ifølge fredsavtalen i Guadalupe-Hidalgo. I 1912 ble New Mexico, etter å ha vært et territorium, anerkjent som USAs 47. delstat.