Michael Higdon gjorde vad som visade sig vara det avgörande målet, på väg hem Lee Vaughans kors strax före timmen.
Torquay tog nästan en sen utjämnare när Luke Youngs 25-yards frispark räddades av Scott Davies, men Rovers höll i ledningen för att flytta tre poäng klart i den slutliga play-off positionen.
Gullarna stannar i 18:e med en trepunktskudde från divisionens nedflyttningsplatser.
Tranmere befäste sin play-off position med en smal vinst på Torquay.