TV-serien Crocodile Shoes, om en Newcastle-arbeider som prøver å slå gjennom som countrysanger, ble også Nails sitt gjennombrudd som sanger. Han har hatt hits med «Ain't No Doubt» (1992), «Crocodile Shoes» (1994), «Big River» (1995) og «Country Boy» (1996). Han har også samarbeidet med vennen Mark Knopfler, også han fra Newcastle. På noen av sangene på albumet (1995) spilte Mark Knopfler gitar, og Jimmy Nail returnerte tjenesten ved å la karakteren hans "Oz" erklære at han var en Dire Straits fan i tredje sesong av Auf Wiedersehen, Pet. Fem av sangene på de to platene til Crocodile Shoes ble skrevet av en annen venn fra Newcastle-området, nemlig Paddy McAloon fra Prefab Sprout. Av McAloon sangene ga Nail ut «Cowboy Dreams» som singel, den nådde nummer 13 på den britiske listen. Nails sanger er stort sett i en rolig melankolsk stil, og tekstene hans er ofte preget av ødelagte forhold og forhold, svik og utroskap. Musikalsk er Nail bred og har pendlet mellom country, countryrock og pop.