Sachverhalt:
A. Die Y._ GmbH (Beschwerdegegnerin) beantragte mit Klage vom 19. Januar 2009 beim Bezirksgericht Bülach, die X._ GmbH (Beschwerdeführerin) sei zu verpflichten, ihr Fr. 31'524.55 nebst Zins zu bezahlen. Die Klage wurde vom Bezirksgericht am 27. Januar 2009 zuständigkeitshalber an das Handelsgericht des Kantons Zürich überwiesen.
Die Beschwerdegegnerin machte in der Klage geltend, sie habe im Jahre 2007 für die Beschwerdeführerin diverse Bauarbeiten an einem Bauobjekt in Z._ durchgeführt. Die entsprechenden Rechnungen seien von der Beschwerdeführerin nicht beglichen worden. In der Klageantwort brachte die Beschwerdeführerin vor, sie könne die Rechnungen der Beschwerdegegnerin unmöglich bezahlen. Diese habe sehr schlechte und mangelhafte Arbeit geliefert. Trotz entsprechender Aufforderung sei keine Korrektur erfolgt.
Nachdem die Beschwerdeführerin in der Folge eine Vorladung zur Referentenaudienz und Vergleichsverhandlung zweimal nicht abgeholt hatte, verfügte das Handelsgericht, das Verfahren werde schriftlich fortgesetzt.
In der Replik bestritt die Beschwerdegegnerin, dass sie mangelhafte oder schlechte Arbeiten abgeliefert habe. Es sei keinerlei Aufforderung erfolgt, irgendwelche Arbeiten zu korrigieren. Die Behauptung der Beschwerdeführerin, dass ihr die Bauherrin infolge angeblicher Mängel Fr. 339'577.20 in Abzug gebracht habe, werde mit Nichtwissen bestritten; solche allfälligen Mängel wären zudem von Dritten zu vertreten. Die Einwände der Beschwerdeführerin seien unsubstanziiert.
Mit Verfügung vom 24. April 2009 wurde der Beschwerdeführerin Frist zur Einreichung einer Duplik angesetzt. Da innert Frist keine Duplik einging, nahm das Handelsgericht mit Verfügung vom 15. Juni 2009 Verzicht auf diese an und erklärte das Verfahren als geschlossen.
Mit Urteil vom 27. Oktober 2009 verpflichtete das Handelsgericht die Beschwerdeführerin, der Beschwerdegegnerin Fr. 31'524.55 zuzüglich Zins zu 5 % seit dem 19. Dezember 2007 sowie Fr. 100.-- Betreibungskosten zu bezahlen und hob den Rechtsvorschlag in der von der Beschwerdegegnerin angehobenen Betreibung in diesem Umfang auf. Zur Begründung führte es aus, dass die Forderung der Beschwerdegegnerin mangels substanziierter Bestreitungen durch die Beschwerdeführerin als anerkannt gelte.
B. Die Beschwerdeführerin erhob gegen dieses Urteil mit Eingabe vom 4. Januar 2010 "Beschwerde in öffentlich-rechtlichen Angelegenheiten".
Mit Verfügung vom 21. Januar 2010 wurde das bundesgerichtliche Beschwerdeverfahren sistiert bis das Kassationsgericht des Kantons Zürich über eine parallel eingereichte Nichtigkeitsbeschwerde der Beschwerdeführerin entschieden hat. Am 4. Februar 2010 teilte die Beschwerdegegnerin mit, dass sie am 17. Dezember 2009 in Konkurs gefallen sei. Mit Zirkulationsbeschluss vom 30. März 2010 trat das Kassationsgericht auf die Nichtigkeitsbeschwerde nicht ein. Mit Präsidialverfügung vom 31. Mai 2010 wurde das bundesgerichtliche Verfahren infolge des Konkurses über die Beschwerdegegnerin erneut sistiert, wobei eine Kopie dieser Verfügung an das zuständige Konkursamt gesandt wurde. Auf Anfrage über den Stand des Konkursverfahrens hin teilte das Konkursamt am 12. November 2012 mit, dass der Konkurs über die Beschwerdegegnerin mit Verfügung des Konkursrichters des Bezirksgerichts Zürich vom 23. August 2010 widerrufen und der Beschwerdegegnerin die Verfügungsbefugnis über ihr Vermögen wieder eingeräumt worden sei. Das bundesgerichtliche Verfahren wurde in der Folge wieder aufgenommen.
Auf die Einholung von Vernehmlassungen zur Beschwerde vom 4. Januar 2010 wurde verzichtet.
Erwägungen:
1. Der angefochtene Entscheid des Handelsgerichts betrifft eine vermögensrechtliche Zivilrechtsstreitigkeit im Sinne von Art. 72 BGG. Die Beschwerde ist somit als Beschwerde in Zivilsachen nach Art. 72 ff. BGG zu behandeln.
Die Beschwerde ist hinreichend zu begründen, andernfalls wird darauf nicht eingetreten (Art. 42 Abs. 2 BGG; BGE 134 II 244 E. 2.1 S. 245 f.). In der Beschwerdeschrift ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt (Art. 42 Abs. 2 BGG). Die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht kann das Bundesgericht nur insofern prüfen, als eine solche Rüge in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG; BGE 136 I 65 E. 1.3.1; 133 III 439 E. 3.2 S. 444).
Macht die beschwerdeführende Partei eine Verletzung des Willkürverbots von Art. 9 BV geltend, genügt es nicht, wenn sie einfach behauptet, der angefochtene Entscheid sei willkürlich. Sie hat vielmehr anhand der Erwägungen des angefochtenen Urteils im Einzelnen aufzuzeigen, inwiefern dieser offensichtlich unhaltbar ist (Art. 106 Abs. 2 BGG; BGE 134 II 349 E. 3 S. 352).
2. Die Beschwerdeführerin anerkennt, dass ihre Ausführungen in der Eingabe vom 17. März 2009 an die Vorinstanz die Anforderungen an eine Klageantwort "bei weitem" nicht erfüllen. Sie hält indessen dafür, die Vorinstanz hätte sie unbedingt auffordern müssen, eine verbesserte Klageantwort einzureichen. Da die Vorinstanz dies unterlassen habe, habe sie das rechtliche Gehör der Beschwerdeführerin nach Art. 29 Abs. 2 BV verletzt und die Bestimmung von § 55 aZPO/ZH über die Ausübung der richterlichen Fragepflicht und damit automatisch auch § 56 aZPO/ZH über die Gewährung des rechtlichen Gehörs willkürlich angewendet. Es könne vorliegend nicht gesagt werden, die richterliche Fragepflicht entfalle, weil die Beschwerdegegnerin die Beschwerdeführerin in der Replik ausdrücklich auf ihre Substanziierungspflicht hingewiesen habe. Die Vorinstanz habe aufgrund des Prozessverhaltens der Beschwerdeführerin (Nichterscheinen zur Vermittlungsverhandlung, Verfügung betreffend Fristansetzung zur Einreichung einer Klageantwort erst nach einem zweiten Versuch abgeholt, Unzustellbarkeit der Vorladung zur Vergleichsverhandlung) mit an Sicherheit grenzender Wahrscheinlichkeit davon ausgehen müssen, dass die Beschwerdeführerin die ihr (zur Stellungnahme) zugestellte Ausfertigung der Replik (bei der Poststelle) nicht abholen werde. Diese habe die Replik denn auch nicht abgeholt und demzufolge keine Kenntnis von der seitens der Beschwerdegegnerin erfolgten Aufforderung zur Substanziierung ihrer Bestreitungen erhalten. Folglich falle die richterliche Fragepflicht nicht dahin. Indem die Vorinstanz implizit vom Gegenteil ausgegangen sei, habe sie § 55 aZPO/ZH willkürlich verletzt.
2.1 Aus dem Anspruch auf rechtliches Gehör ergibt sich das Recht der Betroffenen, sich vor Erlass eines Entscheids zur Sache zu äussern, erhebliche Beweise beizubringen, Einsicht in die Akten zu nehmen, mit erheblichen Beweisanträgen gehört zu werden und an der Erhebung wesentlicher Beweise entweder mitzuwirken oder sich zumindest zum Beweisergebnis zu äussern, wenn dieses geeignet ist, den Entscheid zu beeinflussen (BGE 135 II 286 E. 5.1 S. 293; 132 II 485 E. 3.2 S. 494; 127 I 54 E. 2b S. 56; 117 Ia 262 E. 4b S. 268; je mit Hinweisen). Dass § 56 aZPO/ZH weitergehende Ansprüche vermitteln würde, macht die Beschwerdeführerin nicht geltend und ist auch nicht ersichtlich. § 55 aZPO/ZH bestimmt sodann, dass der Partei, deren Vorbringen unklar, unvollständig oder unbestimmt bleibt, Gelegenheit zur Behebung des Mangels zu geben ist, insbesondere durch richterliche Befragung.
2.2 Von einer Verletzung des Gehörsanspruchs oder einer willkürlichen Anwendung von § 55 aZPO/ZH kann vorliegend keine Rede sein. Die entsprechenden Rügen sind offensichtlich unbegründet, soweit sie überhaupt rechtsgenügend motiviert sind.
Wird der Adressat einer eingeschriebenen Postsendung anlässlich einer versuchten Zustellung nicht angetroffen und daher eine Abholeinladung in seinen Briefkasten oder sein Postfach gelegt, so gilt nach bewährter bundesgerichtlicher Rechtsprechung die Sendung in jenem Zeitpunkt als zugestellt, in dem sie auf der Post abgeholt wird; geschieht das nicht innert der Abholfrist, die sieben Tage beträgt, so gilt die Sendung als am letzten Tag dieser Frist zugestellt, sofern der Adressat mit der Zustellung hatte rechnen müssen (BGE 130 III 396 E. 1.2.3 S. 399; vgl. auch BGE 138 III 225 E. 3.1 S. 227). Bei eingeschriebenen Sendungen gilt überdies eine widerlegbare Vermutung, dass der oder die Postangestellte den Avis ordnungsgemäss in den Briefkasten oder das Postfach des Empfängers gelegt hat (Urteil 2C_128/2012 vom 29. Mai 2012 E. 2.2).
Im vorliegenden Fall war der Beschwerdeführerin spätestens im Zeitpunkt ihrer Klageantwort bekannt, dass sie in einem Prozessrechtsverhältnis stand. Damit musste sie mit einer gewissen Wahrscheinlichkeit mit einer Zustellung von verfahrensleitenden Verfügungen rechnen (BGE 130 III 396 E. 1.2.3 S. 399; vgl. auch BGE 138 III 225 E. 3.1 S. 227). Auch bestreitet sie nicht, dass ihr die Abholungseinladung für die ihr eingeschrieben zugesandte vorinstanzliche Verfügung vom 24. April 2009 (Fristansetzung, um zur beigelegten Replikschrift Stellung zu nehmen) von der Post korrekt übermittelt wurde. Es kann damit festgestellt werden, dass die Verfügung vom 24. April 2009 bereits mit dem ersten erfolglosen Zustellungsversuch als zugestellt gilt.
In der Verfügung vom 24. April 2009 wurde ausdrücklich darauf hingewiesen, dass die Substanziierungshinweise in act. 10 (beschwerdegegnerische Replik) S. 2 Ziff. 5 zu beachten seien. Dort hatte die Beschwerdegegnerin auf die mangelhaft substanziierten Bestreitungen in der Klageantwort hingewiesen, namentlich auf das Versäumnis die behaupteten Mängel detailliert zu bezeichnen, so dass die Beschwerdegegnerin dazu Stellung nehmen könnte. Da diese Dokumente - wie dargelegt - als zugestellt gelten, übte die Vorinstanz ihre richterliche Fragepflicht damit - jedenfalls unter Willkürgesichtspunkten - offensichtlich hinreichend aus und kann offensichtlich nicht davon die Rede sein, dass die Vorinstanz in Willkür verfallen wäre, wenn sie sich nicht um eine weitere Ausübung der Fragepflicht bemühte. Wenn die Beschwerdeführerin von den Substanziierungshinweisen keine tatsächliche Kenntnis erlangte, hat sie das einzig ihrem eigenen, Treu und Glauben widersprechenden Prozessverhalten zuzuschreiben.
Die Rüge einer willkürlichen Anwendung von § 55 aZPO/ZH erscheint als besonders deplatziert, weil die vom Handelsgericht geplante Referentenaudienz, in der - was gerichtsnotorisch ist - normalerweise Substanziierungshinweise erfolgen, wegen des Prozessverhaltens der Beschwerdeführerin nicht stattfand, konkret, weil sie auch die betreffende Vorladung trotz zweimaligem Zustellungsversuch nicht bei der Poststelle abholte.
Nach dem Dargelegten ist auch nicht ersichtlich, dass die Beschwerdeführerin keine Gelegenheit erhalten hätte, in Ausübung ihres Anspruchs auf rechtliches Gehör zur Klage Stellung zu nehmen. Diese hatte sie bereits mit der Fristansetzung zur Klageantwort erhalten. Wenn sie diese Gelegenheit nur unzureichend wahrnahm, kann sie sich nicht über eine Gehörsverletzung beklagen.
3. Die Beschwerdeführerin beklagt sich sodann über eine willkürliche Handhabung der Verhandlungsmaxime (§ 54 aZPO/ZH) durch die Vorinstanz, weil sie die Forderung der Beschwerdegegnerin mangels substanziierter Bestreitungen als anerkannt betrachtet habe. Sie rügt, die Vorinstanz hätte die Vorbringen in der Klageantwort, wonach die Beschwerdegegnerin schlechte und mangelhafte Arbeit ausgeführt habe und eine Drittfirma habe Verbesserungen vornehmen müssen, als Bestreitung der Forderung der Beschwerdegegnerin interpretieren müssen, zumal die Beschwerdeführerin in der angehobenen Betreibung Rechtsvorschlag erhoben habe.
Auch diese Rüge geht fehl. Die Verhandlungsmaxime nach dem angerufenen § 54 aZPO/ZH schreibt vor, dass das Gericht seinem Verfahren nur behauptete Tatsachen zugrunde legen darf (§ 54 Abs. 1 Satz 2 aZPO/ZH). Inwiefern diese Vorschrift verletzt sein soll, wird aus den obigen Vorbringen nicht ersichtlich. Unabhängig davon ist der Vorinstanz nicht entgangen, dass die Beschwerdeführerin die Forderung der Beschwerdegegnerin bestritt. Die Vorinstanz nahm aber Anerkennung der Forderung an, weil die Beschwerdeführerin der Aufforderung zur Substanziierung ihrer ungenügenden Bestreitungen, die nach dem vorstehend (Erwägung 2) Ausgeführten als erfolgt zu gelten hat, innerhalb der dazu angesetzten Frist nicht nachkam. Eine willkürliche Handhabung der Verhandlungsmaxime liegt darin offensichtlich nicht, soweit die Rüge überhaupt rechtsgenügend begründet ist.
4. Die Beschwerde ist abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Verfahrensausgang wird die Beschwerdeführerin kostenpflichtig (Art. 66 Abs. 1 BGG). Da der Beschwerdegegnerin durch das bundesgerichtliche Verfahren kein Aufwand entstanden ist, hat sie keinen Anspruch auf eine Parteientschädigung (Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 21. November 2012
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Widmer