Sachverhalt:
A. Die X._ AG (Beschwerdeführerin) forderte von A.B._ (Beschwerdegegner) mit Klage vom 6. Dezember 2006 beim Handelsgericht des Kantons St. Gallen die Rückzahlung eines von ihr doppelt bezahlten Betrages von insgesamt Fr. 77'449.95 bzw. Schadenersatz in entsprechender Höhe. Sie legte ihrer Klage, soweit hier von Bedeutung, folgende Sachverhaltsdarstellung zugrunde:
Die Beschwerdeführerin habe mit dem Beschwerdegegner am 12./17. Mai 2004 einen Werkvertrag über die Sanierung der Wohnüberbauung C._ abgeschlossen. Der Beschwerdegegner habe sich darin als Unternehmer verpflichtet, verschiedene Arbeiten zu einem Pauschalpreis von Fr. 238'631.15 auszuführen, zum Teil unter Beizug von Unterakkordanten. Im Vertrag sei vereinbart worden, dass die Abrechnungen mit den Unterakkordanten ausschliesslich mit der Bauleitung, d.h. über den Beschwerdegegner zu erfolgen hätten. Zudem habe sich der Beschwerdegegner verpflichtet, für sämtliche Forderungen der Unterakkordanten aufzukommen.
Der Beschwerdegegner habe für seine Leistungen mit Rechnungen vom 31. März 2004 und vom 6. Juni 2004 Fr. 238'631.-- sowie mit zwei weiteren Rechnungen vom 24. Juli 2004 für Zusatzarbeiten Fr. 57'798.75 gefordert. Diese Rechnungen seien von der Beschwerdeführerin beglichen worden.
Obwohl sich der Beschwerdegegner vertraglich verpflichtet habe, für sämtliche Forderungen der Unterakkordanten aufzukommen, habe die Y.B._ AG der Beschwerdeführerin für Leistungen als Unterakkordantin im Auftrag des Beschwerdegegners über einen Gesamtbetrag von Fr. 73'990.70 direkt Rechnung gestellt: nämlich die Rechnung Nr. 1298 vom 26. Februar 2004 im Betrag von Fr. 30'364.70, die Rechnung Nr. 1455 vom 26. Februar 2004 (recte: 23. Juli 2004) im Betrag von Fr. 36'137.05 und die Rechnung Nr. 1490 vom 9. Juli 2004 im Betrag von Fr. 7'488.95. Die Beschwerdeführerin habe sämtliche Rechnungen der Y.B._ AG bezahlt, wobei mit Bezug auf die Rechnung Nr. 1490 eine Bestätigung der Y.B._ AG vorliege, dass der Beschwerdegegner ihr den entsprechenden Betrag von Fr. 7'488.95 ebenfalls bezahlt habe, worauf sie ihm diesen Betrag umgehend rückerstattet habe.
Weiter machte die Beschwerdeführerin geltend, alle ihr von der Y.B._ AG in Rechnung gestellten Arbeiten seien bereits in den Rechnungen enthalten, die der Beschwerdegegner ihr gestellt habe. Aufgrund der Tatsache, dass ihr die Unterakkordantin deren Arbeiten direkt in Rechnung gestellt habe, sei davon auszugehen, dass der Beschwerdegegner seiner vertraglichen Verpflichtung, für die Forderungen der Subunternehmer aufzukommen, nicht nachgekommen sei und dass er seinerseits der Subunternehmerin Y.B._ AG dieses Vorgehen nahegelegt habe, um nicht selber für deren Forderungen aufkommen zu müssen bzw. um eine Doppelzahlung zu bewirken.
B. Das Handelsgericht wies die Klage am 25. Juni 2007 ab. Es kam zum Schluss, die Beschwerdeführerin habe keine Pflichtverletzung des Beschwerdegegners im Zusammenhang mit der Abrechnung der werkvertraglichen Leistungen zwischen den Parteien zu beweisen vermocht. Im Übrigen sei es der Beschwerdeführerin auch verwehrt, die doppelt bezahlten Beträge nachträglich direkt beim Beschwerdegegner zurückzufordern, weil ihre Bezahlung an diesen rechtlich nicht die Bezahlung einer Nichtschuld im Sinne von Art. 63 OR gewesen sei, sondern die Bezahlung des vertraglich geschuldeten Werklohns.
Eine von der Beschwerdeführerin gegen dieses Urteil eingereichte kantonale Nichtigkeitsbeschwerde wies das Kassationsgericht des Kantons St. Gallen am 19. Dezember 2007 ab, soweit es darauf eintrat.
C. Die Beschwerdeführerin erhob gegen das Urteil des Handelsgerichts vom 25. Juni 2007 im Anschluss an das Verfahren der Nichtigkeitsbeschwerde auch Beschwerde in Zivilsachen. Sie beantragt, es sei das angefochtene Urteil aufzuheben und der Beschwerdegegner zu verpflichten, ihr den Betrag von Fr. 73'990.70 zuzüglich Zins zu 5 % seit 1. Juni 2005 zu bezahlen. Ferner sei der Rechtsvorschlag in der Betreibung gegen den Beschwerdegegner aufzuheben. Eventuell sei die Streitsache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Das Handelsgericht hat auf eine Vernehmlassung verzichtet. Das Kassationsgericht und der Beschwerdegegner haben sich zur Beschwerde nicht vernehmen lassen.
Erwägungen:
1. Die Sachurteilsvoraussetzungen der Beschwerde in Zivilsachen gegen das Urteil des Handelsgerichts vom 25. Juni 2007 sind erfüllt, namentlich wurde die Beschwerde nach den Bestimmungen von Art. 100 Abs. 1 und 6 BGG fristgerecht erhoben. Die Beschwerde ist insoweit zulässig.
2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (BGE 133 II 249 E. 1.2.2).
Nachdem die gegen die tatsächlichen Feststellungen der Vorinstanz gerichtete Nichtigkeitsbeschwerde der Beschwerdeführerin an das Kassationsgericht erfolglos blieb und die Beschwerdeführerin das Urteil des Kassationsgerichts vorliegend nicht angefochten hat, anerkennt diese den Sachverhalt, wie ihn die Vorinstanz feststellte, als massgeblich. Sie erhebt keine Sachverhaltsrügen nach Art. 97 BGG, die es dem Bundesgericht gegebenenfalls erlauben würden, den vorinstanzlich festgestellten Sachverhalt zu berichtigen oder zu ergänzen, namentlich auch keine, die mit solchen Bundesrechtsverletzungen bei der Sachverhaltsfeststellung begründet würden, die das Kassationsgericht nicht prüfen konnte, und daher gegen den vorinstanzlichen Entscheid als insoweit kantonal letztinstanzliches Urteil (Art. 75 Abs. 1 BGG) zulässig wären. Dennoch stellt sie ihren rechtlichen Vorbringen eine ausführliche eigene Sachverhaltsdarstellung voran, in der sie - wie auch in ihrer weiteren Beschwerdebegründung - in verschiedenen Punkten von den tatsächlichen Feststellungen der Vorinstanz abweicht oder diese erweitert. So beispielsweise, wenn sie vorbringt, die Y.B._ AG habe ihr (alle) ihre Leistungen direkt in Rechnung gestellt, der Beschwerdegegner habe die Y.B._ AG für ihre Arbeiten (vollumfänglich) nicht entschädigt und sie habe die Y.B._ AG bezahlt, um einen Baustopp und/oder die Eintragung eines Bauhandwerkerpfandrechts zu vermeiden.
Soweit die Beschwerdeführerin ihre Vorbringen auf tatsächliche Elemente stützt, die von der Vorinstanz nicht festgestellt wurden, kann darauf nicht eingetreten werden.
3. Die Beschwerdeführerin rügt, die Vorinstanz habe Art. 97 OR verletzt, indem sie auf die angeblich nachgewiesene Tatsache hin, dass der Beschwerdegegner in vertragswidriger Weise die Subunternehmerin Y.B._ AG nicht bezahlt habe, nicht auf Schadenersatz erkannt habe.
Auf diese Rüge ist nicht einzutreten, da sie auf einer behaupteten Tatsache beruht, die im verbindlich festgestellten Sachverhalt im angefochtenen Urteil nicht enthalten ist. Die Vorinstanz hat hinsichtlich der fraglichen drei Rechnungen Nrn. 1298, 1455 und 1490 nicht festgestellt, dass der Beschwerdegegner die Y.B._ AG nicht bezahlt hätte. Sie hat vielmehr festgehalten, es sei nicht dargetan, dass die Y.B._ AG die Beschwerdeführerin in Verzug gesetzt hätte oder der Beschwerdegegner sich geweigert hätte, die Rechnungen zu bezahlen. Hinsichtlich der Rechnung Nr. 1490 hat sie gar festgestellt, der Beschwerdegegner habe diese Rechnung der Y.B._ AG ebenfalls bezahlt, diese habe ihm den Betrag aber wieder zurückerstattet, nachdem sie denselben Betrag auch von der Beschwerdeführerin bezahlt erhalten hatte.
Dementsprechend prüfte die Vorinstanz hinsichtlich der Rechnungen Nrn. 1298, 1455 und 1490 bloss, ob dem Beschwerdegegner die Verletzung einer vertraglichen Verpflichtung vorzuwerfen ist, weil diese Rechnungen an die Beschwerdeführerin gelangten, worauf sie diese bezahlte. Sie verneinte indes das Vorliegen einer entsprechenden Pflichtverletzung bzw. (hinsichtlich Rechnungen Nr. 1455 und 1490) jedenfalls deren Kausalität für den geltend gemachten Schaden und stellte fest, die Doppelzahlungen der Beschwerdeführerin seien vielmehr auf deren Unachtsamkeit zurückzuführen. Auf die entsprechenden Erwägungen geht die Beschwerdeführerin nicht ein.
4. Die Beschwerdeführerin macht sodann geltend, die Vorinstanz habe Bundesrecht, insbesondere die Art. 62 ff. OR verletzt, indem sie einen Bereicherungsanspruch mit der Begründung abgelehnt habe, die Zahlungen der Beschwerdeführerin an den Beschwerdegegner stellten nicht die irrtümliche Zahlung einer Nichtschuld, sondern die Bezahlung von Werklohn dar.
Auch auf diese Rüge kann nicht eingetreten werden, da die Beschwerdeführerin ihr im Wesentlichen tatsächliche Elemente zugrunde legt, die im angefochtenen Urteil keine Stütze finden:
So macht sie geltend, der Werklohn habe sich um den Betrag von Fr. 73'990.70 reduziert, da sie nach dem Vertrag zur direkten Zahlung an die Y.B._ AG berechtigt gewesen sei, zumal sie diese Subunternehmerin bezahlt habe, um nicht unter den Druck eines Bauhandwerkerpfandrechts und eines drohenden Baustopps zu gelangen, nachdem der Beschwerdegegner seine werkvertraglich geschuldete Leistung eigenmächtig reduziert habe.
Die Vorinstanz hat indessen gegenteils festgestellt, dass nach dem Werkvertrag die "Zahlungen der Bauherrschaft nur auf Anweisung der Bauleitung" erfolgten, die Beschwerdeführerin mithin nicht zur direkten Zahlung der Subunternehmer befugt war bzw. solche dem Beschwerdegegner grundsätzlich nicht entgegenhalten kann. Auch die Behauptung der Beschwerdeführerin, sie habe die Y.B._ AG zur Vermeidung eines Bauhandwerkerpfandrechts oder eines Baustopps bezahlt, findet in den tatsächlichen Feststellungen der Vorinstanz keine Stütze, zumal die Vorinstanz festgehalten hat, es sei hinsichtlich der Rechnungen Nrn. 1298, 1455 und 1490 nicht dargetan, dass die Y.B._ AG die Beschwerdeführerin in Verzug gesetzt hätte. Keine Stütze im angefochtenen Urteil findet sodann die Behauptung, der Beschwerdegegner habe seine vertraglichen Leistungen eigenmächtig reduziert, womit die Beschwerdeführerin offenbar geltend machen will, er habe die Y.B._ AG nicht bezahlt (vgl. die vorstehende Erwägung 3).
Inwiefern die Vorinstanz Bundesrecht verletzt haben soll, wenn sie aufgrund des von ihr festgestellten Sachverhalts nicht auf eine Reduktion des Werklohnes und auf Bezahlung einer Nichtschuld schloss, tut die Beschwerdeführerin nicht dar. Es erübrigt sich damit auch auf deren Vorbringen einzugehen, wonach ihre Zahlung irrtümlich erfolgt sei.
5. Die Beschwerdeführerin hält weiter dafür, der Beschwerdegegner sei nach Art. 62 OR auch unabhängig von der Irrtümlichkeit und der Unfreiwilligkeit der Zahlung an ihn zur Rückerstattung des Betrages von Fr. 73'990.70 zu verpflichten.
5.1 Sie stützt diese Auffassung wiederum auf die Behauptung, der Beschwerdegegner habe die Y.B._ AG nicht bezahlt. Da dem angefochtenen Urteil keine entsprechende Feststellung zu entnehmen ist (Erwägung 3 vorne), fehlt es indessen von vornherein an der tatsächlichen Grundlage, um vorliegend auf den geltend gemachten bereicherungsrechtlichen Anspruch infolge der behaupteten Bereicherung des Beschwerdegegners schliessen zu können. Auf den entsprechenden Rechtsstandpunkt der Beschwerdeführerin ist daher nicht weiter einzugehen.
5.2 Immerhin hat die Vorinstanz hinsichtlich der Rechnung Nr. 1490 festgestellt, dass der betreffende Betrag von Fr. 7'488.95 vom Beschwerdegegner an die Y.B._ AG bezahlt, ihm von dieser aber wieder zurückerstattet wurde, nachdem sie denselben Betrag auch von der Beschwerdeführerin bezahlt erhalten hatte (Erwägung 3 vorne).
Dass die Vorinstanz aus diesem Umstand nach Art. 62 OR hätte ableiten müssen, dass der Beschwerdeführerin ein Bereicherungsanspruch gegen den Beschwerdegegner zusteht, macht die Beschwerdeführerin nicht geltend und ist daher nicht zu prüfen; ein entsprechender Anspruch ist jedenfalls nicht offensichtlich (Art. 42 Abs. 2 BGG; vgl. BGE 133 II 249 E. 1.4.1).
6. Auf die Beschwerde kann somit nicht eingetreten werden. Bei diesem Verfahrensausgang wird die Beschwerdeführerin kostenpflichtig (Art. 66 Abs. 1 BGG). Der Beschwerdegegner hat keinen Anspruch auf eine Parteientschädigung, da ihm aus dem bundesgerichtlichen Verfahren kein Aufwand entstanden ist (Art. 68 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 4'000.-- werden der Beschwerdeführerin auferlegt.
3. Es wird keine Parteientschädigung zugesprochen.
4. Dieses Urteil wird den Parteien, dem Handelsgericht des Kantons St. Gallen und dem Kassationsgericht des Kantons St. Gallen schriftlich mitgeteilt.
Lausanne, 5. Mai 2008
Im Namen der I. zivilrechtlichen Abteilung des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Corboz Widmer