Männen tillbringade över en timme med att släpa på 368lb (167kg) odjuret ombord på båten utanför Cornwalls kust på söndagen.
En av männen, Nick Lane, sa att de hade lämnat in en rekordansökan efter att Shark Trust beräknat vikten baserat på hajens dimensioner.
"Jag hoppade upp och ner som en liten skolflicka", sa mr Lane. "Helvete bröt sig loss."
Thlesher Shark Senaste
"Plötsligt stack stavarna iväg, de skrek absolut," sade han.
Mr Lane, en garageägare från Washford i Somerset, sa att när de fick hajen ombord mätte de den och fotograferade innan de lät den komma tillbaka i vattnet.
John Richardson, Shark Trust naturvårdsofficer, berömde sportfiskarna för att de satte tillbaka hajen i havet.
Han sade: " Här i Nordostatlanten räknas tröskarna upp som nära hotade på IUCN:s röda lista över hotade arter.
Shark Trust applåderar sportfiskarna för att de återfört hajen levande till vattnet, särskilt som den mycket väl kan ha varit ett potentiellt rekord.
Richardson sade att fiskare normalt skulle behöva ta en haj till land för att formellt kontrolleras för ett register, även om ibland informella uppgifter kan erkännas.
För att vara den största hajen som fångas i brittiska vatten måste den bryta det tidigare rekord som sattes 1982 av en 323lb (147kg) thresher haj.
Nick Simmonds, sekreterare i British Record Fish Committee (BRFC), sade att han inte hade kunnat kontrollera om ett påstående hade gjorts formellt ännu.
Richardson sa att han hade ett register över deras fångst men Shark Trust bekräftade inte eller kontrollerade inte fångstuppgifter.
En grupp amatörfiskare har landat vad de tror är en rekordstor haj.