Exiles reducerades till 10 man på 36 minuter när målvakten Joe Day avskedades för att ha störtat Plymouth framåt Jordan Slew.
Argyle's Graham Carey konverterade straffet och lade till en annan från platsen när han blev befläckad av Darren Jones.
En fantastisk 25-yards volley från länets Jon Parkin hade jämnat ut saker tidigare, men Slews sena strejk förseglade det.
Matchen slutar, Newport County 1, Plymouth Argyle 3.
Andra halvlek, Newport County 1, Plymouth Argyle 3.
Hörnet, Plymouth Argyle. Förföljd av Darren Jones.
Rhys Healey (Newport County) visas det gula kortet för en dålig foul.
Foul av Rhys Healey (Newport County).
Yann Songo'o (Plymouth Argyle) vinner en frispark i defensiva halvan.
Hörnet, Plymouth Argyle. Förföljd av Scot Bennett.
Försök blockerat. Jordan Slew (Plymouth Argyle) höger fotade skott från mitten av lådan är blockerad.
Försöket räddades. Reece Grego-Cox (Newport County) höger fotade skott från utsidan boxen sparas i toppen av målet.
Försök missade. Ben Tozer (Newport County) huvudet från mitten av lådan missar till höger.
Hörnet, Newport County. Förföljd av Yann Songo'o.
Försök blockerat. Sean Rigg (Newport County) vänster fotade skott utanför lådan är blockerad.
Ersättning, Plymouth Argyle. Ryan Donaldson ersätter James Spencer.
James Spencer (Plymouth Argyle) visas det gula kortet för en dålig foul.
Jazzi Barnum-Bobb (Newport County) vinner en frispark på höger sida.
Foul av James Spencer (Plymouth Argyle).
Sean Rigg (Newport County) vinner en frispark i anfallshalvan.
Foul av Yann Songo'o (Plymouth Argyle).
Försök missade. Sean Rigg (Newport County) höger fotade skott från mer än 35 meter är för hög.
Mål!  Newport County 1, Plymouth Argyle 3. Jordan Slew (Plymouth Argyle) höger fotade skott från mitten av lådan till nedre vänstra hörnet. Hjälpt av Graham Carey.
Substitution, Newport County. Jack Compton ersätter Jordan Green.
Hörnet, Newport County. Förföljd av Yann Songo'o.
Försöket räddades. Graham Carey (Plymouth Argyle) höger fotade skott från utsidan boxen sparas i mitten av målet.
Ersättning, Plymouth Argyle. Connor Smith ersätter David Fox.
Rhys Healey (Newport County) vinner en frispark på vänsterkanten.
Foul av Gary Miller (Plymouth Argyle).
Rhys Healey (Newport County) vinner en frispark på vänsterkanten.
Foul av Jake Jervis (Plymouth Argyle).
Jordan Green (Newport County) vinner en frispark på vänsterkanten.
Foul av Jordan Slew (Plymouth Argyle).
Ersättning, Plymouth Argyle. Jake Jervis ersätter Craig Tanner.
Substitution, Newport County. Rhys Healey ersätter Jon Parkin.
(Newport County) vinner en frispark i anfallshalvan.
Farligt spel av David Fox (Plymouth Argyle).
Hörnet, Plymouth Argyle. Förföljd av Darren Jones.
Försök blockerat. James Spencer (Plymouth Argyle) höger fotade skott utanför lådan är blockerad.
Försök missade. David Fox (Plymouth Argyle) höger fotade skott från mitten av lådan är hög och bred till höger.
Mål!  Newport County 1, Plymouth Argyle 2......................................................................................................... Graham Carey (Plymouth Argyle) konverterar straffet med en vänster fotad skott till nedre vänstra hörnet.
Straffet medgavs av Darren Jones (Newport County) efter ett brott i straffområdet.
Straffet Plymouth Argyle. Graham Carey drar ett brott i straffområdet.
Newport Countys belägenhet på botten av League Two förvärrades när de blev slagna av ledare Plymouth.