Den spanjor, 31, förlorade den första uppsättningen men kämpade tillbaka för att vinna 6-7 (3-7) 6-3 6-1 6-4 efter tre timmar och 16 minuter.
Nadal såg 13 brytpunkter gå tiggeri innan slutligen bryta världens nummer 59 efter nästan två timmar.
Han släppte bara fem matcher till på väg till ett sista 16 möte med Ukrainas Alexandr Dolgopolov.
"Alla matcher har varit väldigt tajta - jag är väldigt glad", säger Nadal.
"Jag vet inte hur många brytpunkter jag hade innan jag fick den första. Mentalt kämpade jag mycket fram till det ögonblicket, då tycker jag att jag spelade bättre."
Nadal kunde inte landa en talande avkastning när brytpunkterna kom och gick mot Mayer, och argentinen utnyttjade genom att spela en fin slips-break för att ta den första uppsättningen.
Jag är i fjärde ronden nu. Jag tänker inte så mycket på det.
När Nadal slutligen gjorde genombrottet vid 14:e försöket, vid 3-3 i den andra uppsättningen, skrek han "Vamos!" och hans familj och lag firades i läktarna.
Spaniard hade vunnit alla tre tidigare matcher mot Mayer och fortsatte att dominera efter äntligen bryta.
Det var en sen flash av motstånd när Mayer bröt tjäna med Nadal försöker stänga ut matchen, men två matcher senare världen nummer ett förseglade seger vid 8.40pm lokal tid.
Frågade om ett potentiellt första någonsin möte med 19-gång Grand Slam mästare Roger Federer på US Open i semifinalen nästa vecka, sade han: "Jag är i den fjärde omgången nu. Jag tänker inte så mycket på det.
"Det är långt bort. Alla matcher har varit väldigt tuffa.
"Det enda jag letar efter är träningen i morgon att fortsätta arbeta hårt och fokusera på matchen mot Dolgopolov."
Tredje frö Federer bokade sin plats i de senaste 16 med en klinisk 6-3 6-3 7-5 seger över Spaniens Feliciano Lopez.
Top frö Rafael Nadal övervann envis motstånd från Argentinas Leonardo Mayer för att nå den fjärde omgången vid US Open i New York.