Mitt igenom första halvlek hade Ross Hannah en chans att sätta Barrow framför, men hans skott blockerades av Michael Ihiekwe.
Andy Cooks utmärkta volley från 25 meter ut, hans 19: e liga mål för säsongen för Rovers, bröt dödläget och han nästan fördubblade fördelen precis innan pausen.
Barrow planade i 63:e minuten när Moussa Diarra attackerade bollen från en frikick som spilldes för Inoh Effiong att knacka i ögonblick efter att komma på.
Sex minuter senare matade Akil Wrights avlyssning Williams, som förbluffande hittade det översta hörnet från 20 meter.
Matchrapport från Pressföreningen
Matchändar, Barrow 2, Tranmere Rovers 1.
Andra halvänden, Barrow 2, Tranmere Rovers 1.
Substitution, Tranmere Rovers. Cole Stockton ersätter Jay Harris.
Substitution, Tranmere Rovers. Connor Jennings ersätter Adam Mekki.
Jay Harris (Tranmere Rovers) visas det gula kortet.
Substitution, Tranmere Rovers. Andy Mangan ersätter Ritchie Sutton.
Mål!  Barrow 2, Tranmere Rovers 1. Jordan Williams (Barrow). - (EN) Herr ordförande!
Mål!  Barrow 1, Tranmere Rovers 1. Inih Effiong (Barrow).
Substitution, Barrow. Inih Effiong ersätter Ross Hannah.
Substitution, Barrow. Akil Wright ersätter Dan Rowe.
Andra halvan börjar Barrow 0, Tranmere Rovers 1.
Första halvlek, Barrow 0, Tranmere Rovers 1.
Mål!  Barrow 0, Tranmere Rovers 1. Andy Cook (Tranmere Rovers).
Första halvan börjar.
Lineups tillkännages och spelarna värms upp.
Jordan Williams skrikare gav Barrow seger över högt flygande Tranmere på Holker Street och flyttade värdarna två poäng från National League play-off platser.