1812 kehrte er nach Cuyo zurück und bildete eine Revolutionsarmee für den Unabhängigkeitskampf aus. Im Gegensatz zu anderen südamerikanischen Revolutionären konzentrierte San Martín sich zunächst nicht auf Peru, sondern auf die Befreiung Chiles. Zunächst übernahm er jedoch das Amt des Gouverneurs im westargentinischen Mendoza, wo er weitgehend ohne Unterstützung der Staatsregierung eine Armee aufstellte. Dabei war der chilenische General Bernardo O’Higgins sein wichtigster Vertrauter. 1816 organisierte er die Andenarmee, eine Militäreinheit, bestehend aus 3500 bis 6000 Soldaten und 1200 Mann Hilfstruppen. Im Jahre 1817 marschierte dieses Regiment auf eine für diese Zeit spektakuläre Art über die Anden, schlug die Spanier bei Chacabuco in Chile und besetzte die Hauptstadt Santiago de Chile. 1818, nach einem entscheidenden Sieg über die Spanier in Maipú, setzte San Martín in Chile eine nationale Regierung ein, jedoch lehnte er das Amt des Präsidenten zugunsten Bernardo O’Higgins ab.