Domare Simon Barrow gick ner med en skada i nionde minuten på en regnig och blustery Plainmoor, och ersattes slutligen av en av hans assistenter.
Båda lagen kämpade för att komma in i sin rytm efter en lång försening, men spelet uppstod i livet tack vare en 25-minuters strejk från Gulls skeppare Aman Verma - hans andra mål för säsongen.
Gulls nästan fördubblade sin ledning när Brett Williams huvud från Luke Youngs hörn kraschade mot ribban.
Guiseleys förhoppningar om att rädda något från spelet fick ett hårt slag 10 minuter in i andra halvan när Jake Lawlor fick ett andra gult kort för en sen utmaning på Dan Sparkes.
Men de utjämnade under lyckliga omständigheter när en lång boll slog i axeln på Jake Cassidy som höll sitt lugn att styra bollen hem.
Och West Yorkshire sidan clinched punkterna 11 minuter från tiden när Will Hatfield kontrollerade en lång punt från målvakten Jonny Maxted innan guida bollen förbi Brendan Moore.
Matchrapport från Pressföreningen.
Matchen slutar, Torquay United 1, Guiseley 2.
Andra halvlek, Torquay United 1, Guiseley 2.
Substitution, Guiseley. Javan Vidal ersätter Will Hatfield.
Jon Maxted (Guiseley) visas det gula kortet.
Substitution, Torquay United. Ruairi Keating ersätter Jamie Reid.
Dan Sparkes (Torquay United) visas det gula kortet.
Substitution, Guiseley. Adam Boyes ersätter Jake Cassidy.
Substitution, Torquay United. Sam Chaney ersätter Latanial Rowe-Turner.
Mål!  Torquay Förenade 1, Guiseley 2. Det här är Will Hatfield (Guiseley).
Substitution, Torquay United. Shaun Harrad ersätter Damon Lathrope.
Mål!  Torquay United 1, Guiseley 1. Jake Cassidy (Guiseley). - (EN) Herr ordförande!
Substitution, Guiseley. Ashley Palmer ersätter Jordan Preston.
Andra gula kortet till Jake Lawlor (Guiseley) för en dålig foul.
Andra halvan börjar Torquay United 1, Guiseley 0.
Första halvlek, Torquay United 1, Guiseley 0.
Jake Lawlor (Guiseley) visas det gula kortet.
Mål!  Torquay United 1, Guiseley 0. Aman Verma (Torquay United). — (EN) Herr ordförande!
Första halvan börjar.
Lineups tillkännages och spelarna värms upp.
Tioman Guiseley iscensatte en anmärkningsvärd comeback för att säkra segern och hålla Torquay fast i nedflyttningszonen.