Sachverhalt:
A. Die X._ AG (Beschwerdeführerin) und die Y._ AG (Beschwerdegegnerin) sind Unternehmen, die im Bereich des Anlagenbaus tätig sind.
Am 29. Februar 2008 bestellte die Beschwerdeführerin bei der Beschwerdegegnerin drei Verteilbänder, wovon eines zur Auslieferung nach Neuseeland und zwei zur Auslieferung nach Qatar bestimmt waren. Nachdem die Beschwerdegegnerin die Anlagen in Container verladen und an die Transporteure der Beschwerdeführerin übergeben hatte, entzündete sich zwischen den Parteien ein Streit bezüglich des Zustands der Waren. Die Beschwerdeführerin weigerte sich in der Folge, teilweise offen gebliebene Rechnungen zu bezahlen.
B. Am 12. Februar 2009 klagte die Beschwerdegegnerin beim Handelsgericht des Kantons St. Gallen gegen die Beschwerdeführerin auf Zahlung eines Betrages von Fr. 74'666.40 nebst Zins.
Das Handelsgericht hiess die Klage mit Urteil vom 24. August 2010 teilweise gut und verurteilte die Beschwerdeführerin, der Beschwerdegegnerin den Betrag von Fr. 74'366.40 zuzüglich Zins zu 5% auf Fr. 71'784.-- vom 18. April 2008 bis 27. Oktober 2008 und 5% auf Fr. 74'366.40 seit dem 28. Oktober 2008 zu bezahlen.
C. Mit Eingabe vom 22. Oktober 2010 erhob die Beschwerdeführerin beim Bundesgericht Beschwerde in Zivilsachen und eventualiter subsidiäre Verfassungsbeschwerde mit dem Antrag, es sei der Entscheid des Handelsgerichts vom 24. August 2010 vollumfänglich aufzuheben und die Sache an die Vorinstanz zurückzuweisen.
Das gleichzeitig mit der Beschwerde eingereichte Gesuch um aufschiebende Wirkung wurde mit Präsidialverfügung vom 9. November 2010 abgewiesen.
Die Beschwerdegegnerin schliesst in ihrer Vernehmlassung auf Abweisung der Beschwerde, soweit darauf einzutreten ist. Die Vorinstanz hat auf eine Vernehmlassung verzichtet.
Erwägungen:
1. Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob ein Rechtsmittel zulässig ist (BGE 135 III 329 E. 1 S. 331 mit Hinweisen).
1.1 Damit ein kantonaler Entscheid mit Beschwerde in Zivilsachen bzw. mit subsidiärer Verfassungsbeschwerde angefochten werden kann, muss namentlich der Instanzenzug im Kanton erschöpft sein (Art. 75 Abs. 1 und Art. 114 BGG). Für Rügen, die vor Bundesgericht erhoben werden können, darf mithin kein kantonales Rechtsmittel mehr offen stehen (BGE 134 III 524 E. 1.3 S. 527). Auf Rügen, die mit einer Nichtigkeitsbeschwerde einer weiteren kantonalen Instanz hätten vorgetragen werden können, ist mangels Letztinstanzlichkeit nicht einzutreten.
1.2 Gegen den angefochtenen Entscheid des Handelsgerichts war die kantonale Nichtigkeitsbeschwerde an das Kassationsgericht des Kantons St. Gallen nach Art. 237 ff. des st. gallischen Zivilprozessgesetzes vom 20. Dezember 1990 (ZPO/SG; sGS 961.2) zulässig. Damit können willkürliche oder aktenwidrige Feststellungen von Tatsachen sowie die Verletzung des kantonalen Rechts gerügt werden (Art. 239 Abs. 1 ZPO/SG). Gemäss der Praxis des Kassationsgerichts gehören zum kantonalen Recht auch die bundesverfassungsrechtlich oder staatsvertraglich gewährleisteten Verfahrensgarantien, da diese in der umfassenderen ZPO/SG mitenthalten seien (vgl. Urteil 4A_338/2009 vom 29. Oktober 2009 E. 1.2.1; bzgl. des rechtlichen Gehörs auch Urteil 4A_67/2008 vom 27. August 2009 E. 3.2).
1.3 Die Beschwerdeführerin rügt in ihrer Eingabe an das Bundesgericht unter dem Titel "Beschwerde in Zivilsachen" ausschliesslich willkürliche Sachverhaltsfeststellungen sowie unter dem Titel "subsidiäre Verfassungsbeschwerde" ausschliesslich die Verletzung verfassungs- bzw. staatsvertragsrechtlicher Verfahrensgarantien (Art. 29 BV und Art. 6 EMRK). Da entsprechende Rügen in einer Nichtigkeitsbeschwerde an das Kassationsgericht hätten vorgebracht werden können, ist der kantonale Instanzenzug diesbezüglich nicht ausgeschöpft. Der angefochtene Entscheid des Handelsgerichts erweist sich somit hinsichtlich sämtlicher vor Bundesgericht erhobenen Rügen nicht als letztinstanzlich, womit weder auf die Beschwerde in Zivilsachen noch auf die subsidiäre Verfassungsbeschwerde eingetreten werden kann.
2. Bei diesem Verfahrensausgang wird die Beschwerdeführerin kosten- und entschädigungspflichtig (Art. 66 Abs. 1 sowie Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde in Zivilsachen und auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 4'000.-- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 5'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons St. Gallen schriftlich mitgeteilt.
Lausanne, 11. Januar 2011
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Klett Hurni