Senere i sin karriere ble Smith involvert i pelshandelen i Santa Fe i New Mexico. Under en reise fra St. Louis til Santa Fe i mai 1831 forlot Smith gruppen for å lede etter vann, men vendte aldri tilbake. Resten av gruppen fortsatte til Santa Fe i håp om at han var fortsatt dit, men han ankom aldri. Kort tid etter oppdaget de reisende en meksikansk kjøpmann der solgte flere av Smiths personlige eiendeler. Kjøpmannen påstod at han hadde fått dem av en bande comanchejegere som hadde tatt dem fra en hvit mann de hadde drept i nærheten av Cimarron River. Smiths kropp ble aldri funnet.