Sachverhalt:
A. Am 4. November 1999 schlossen AX._ als Besteller und BY._ als Unternehmer einen schriftlichen Werkvertrag über Aushub- und Umgebungsarbeiten für die erste von vier Etappen der Überbauung C._ in D._. Hernach wurde mündlich vereinbart, dass auch die nächsten drei Etappen zu denselben Konditionen ausgeführt werden sollten. Der zweite, mündlich abgeschlossene Werkvertrag bezog sich auf die Umgebungsarbeiten. Das Vertragsverhältnis ging nach dem Tod von BY._ auf Unternehmerseite auf die Y._ AG (Beschwerdegegnerin) und auf Bestellerseite auf die X._ AG (Beschwerdeführerin) über.
B. Die Rechnungstellung verzögerte sich. Gestützt auf die Ausmasse, wie sie von einem von ihr beigezogenen Bauberater ermittelt wurden, unterbreitete die Beschwerdegegnerin der Beschwerdeführerin am 29. Juni 2005 die Schlussrechnung. Darin verlangte sie für die Arbeitsgattung Aushub Fr. 62'963.40 und für Umgebungsarbeiten insgesamt Fr. 427'197.10. Die Beschwerdeführerin leistete in der Folge Zahlungen an die Beschwerdegegnerin. Nach deren Auffassung verblieb ein offener Saldo von Fr. 94'399.05, den die Beschwerdegegnerin am 14. März 2007 beim Handelsgericht des Kantons Aargau nebst Zins einklagte.
C. Die Beschwerdeführerin vertrat den Standpunkt, in der Schlussabrechnung seien diverse Positionen zu Unrecht eingesetzt worden, die zu entsprechenden Abzügen führen müssten. Aus der Summe der Abzüge betereffend die Posten "Aushub" und "Umgebung" resultiere unter Berücksichtigung der geleisteten Zahlungen ein Saldo zu Gunsten der Beschwerdeführerin von Fr. 185'628.85. Diesen Betrag nebst Zins machte die Beschwerdeführerin widerklageweise geltend.
D. Am 3. Juni 2009 hiess das Handelsgericht die Klage teilweise gut und verpflichtete die Beschwerdeführerin, der Beschwerdegegnerin Fr. 80'753.20 nebst Zins zu bezahlen. Im Mehrumfang wies es die Klage ab. Die Widerklage wurde vollumfänglich abgewiesen.
E. Die Beschwerdeführerin beantragt dem Bundesgericht mit Beschwerde in Zivilsachen, das angefochtene Urteil aufzuheben und die Beschwerdegegnerin zu verpflichten, ihr Fr. 66'132.-- nebst Zins zu bezahlen. Eventuell sei die Sache zur Feststellung des Sachverhalts und zur Neubeurteilung an das Handelsgericht zurückzuweisen. Der Beschwerde wurde mangels Opposition der Gegenpartei aufschiebende Wirkung erteilt. Die Beschwerdegegnerin wie auch das Handelsgericht schliessen auf Abweisung der Beschwerde.
Erwägungen:
1. 1.1 Die Beschwerdeführerin hatte bei der Berechnung der Gegenseitigen Forderungen im kantonalen Verfahren am in Rechnung gestellten Aushub einen Abzug von Fr. 90'637.-- vorgenommen. Im Vertrag hatten die Parteien unter der Position R 919 eine Rückvergütung für Kies und Kulturerde vereinbart. Die den Vertrag schliessenden Personen seien sich darüber einig gewesen, dass die ursprünglich offerierten Fr. 3.-- für Humus und Fr. 10.-- für Kies ab Platz zu verstehen seien und Aushub, Aufladen, Transport und Lager zu Lasten des Unternehmers gehen sollten. Daher seien handschriftlich die Transport- und Lagergebühren von insgesamt je Fr. 14.-- hinzugerechnet und Fr. 17.-- pro m3 Humus und Fr. 24.-- pro m3 Kies vereinbart worden. Die Devispositionen 211.143 (Kosten für Kulturerdeabtrag maschinell) und 311.115 (Kosten für Baugrubenaushub maschinell) seien bei der Berechnung der Gutschriften aber ebenfalls bereits enthalten und hätten daher bei der nachträglichen Deviskorrektur gestrichen werden müssen. Dies sei entgegen dem tatsächlichen Konsens irrtümlich unterlassen worden. Die Beschwerdegegnerin bestritt dies und erklärte, vertragsgemäss habe die Beschwerdeführerin Aushub und Auflad zu vergüten gehabt. Die Parteien seien übereingekommen, Material und Transport gutzuschreiben, nicht aber Aushub und Auflad. Wie die von AX._ handschriftlich vorgenommene Korrektur des Werkvertrags beweise, seien Rückvergütungen von Fr. 17.-- pro m3 Humus und von Fr. 24.-- pro m3 Kies vereinbart worden, was in der Schlussrechnung berücksichtigt worden sei.
1.2 Die Vorinstanz erwog, der Wortlaut von Position R 919 des Werkvertrages, wonach Aushub, Auflad, Transport und Lagergebühren dem Unternehmer in Rechnung gestellt werden, indiziere, dass Aushub und Auflad nicht in die Rückvergütung integriert sein sollten. AX._ habe den Vertrag handschriftlich ergänzt. Die Behauptung, er habe vergessen, die betreffenden Devispositionen zu streichen, sei aufgrund seiner langjährigen Erfahrung im Baugewerbe wenig plausibel. Er habe den Vertrag als Bauherr und Bauleiter in Personalunion selbst aufgesetzt und deshalb das Zusammenspiel der darin enthaltenen Positionen bestens gekannt. Der den Korrekturen unmittelbar vorgehende Satz hätte ihn veranlassen müssen, bei Aushub und Auflad eine Korrektur anzubringen und die handschriftliche Korrektur anders zu formulieren. Auch die vorbehaltlose Zahlung der Zwischenrechnung vom 28. Dezember 1999 indiziere, dass das schriftlich Vereinbarte dem tatsächlichen Willen der Parteien entsprochen habe. Der hiergegen erhobene Einwand der Beschwerdeführerin, die Zwischenabrechnung sei angesichts der vorbehaltenen Schlussabrechnung nicht detailliert geprüft worden, überzeuge nicht. Zum einen wäre ein Fehler, der eine vom Vertreter der Beschwerdeführerin eigenhändig geänderte Position betreffe, nicht einfach übersehen worden, und zum anderen sei die Beschwerdeführerin als Bauleiterin für die Genehmigung der Rechnungen verantwortlich gewesen.
1.3 Demgemäss gelangte das Handelsgericht zum Schluss, es spräche einiges dafür, dass die Parteien ihre Erklärungen so verstanden hätten wie der Vertrag schliesslich unterschrieben worden sei. Andererseits könne aber auch nicht restlos geklärt werden, was die Parteien bei Vertragsschluss tatsächlich hätten vereinbaren wollen, denn BY._, der damalige Vertragspartner von AX._, könne nicht mehr dazu befragt werden. Das Handelsgericht schritt daher zu einer normativen Auslegung der fraglichen Vertragspassage und erkannte, BY._ habe aufgrund der von AX._ handschriftlichen vorgenommenen Vertragsänderungen darauf vertrauen dürfen, dass der Vertrag, so wie er unterschrieben worden sei, auch zähle. Der Abzug von Fr. 90'637.-- von der Schlussrechnung Baugrubenaushub sei daher nicht berechtigt.
1.4 Die Beschwerdeführerin wirft dem Handelsgericht vor, Art. 18 OR verletzt zu haben, indem es verkannt habe, dass eine tatsächliche Willensübereinstimmung im Sinne ihrer Vorbringen erwiesen sei.
1.4.1 Ziel der Vertragsauslegung ist es, in erster Linie den übereinstimmenden wirklichen Willen der Parteien festzustellen (vgl. Art. 18 Abs. 1 OR). Diese subjektive Vertragsauslegung beruht auf Beweiswürdigung, die vorbehältlich der Ausnahmen von Art. 97 und 105 BGG der bundesgerichtlichen Überprüfung entzogen ist. Steht eine tatsächliche Willensübereinstimmung fest, bleibt für eine Auslegung nach dem Vertrauensgrundsatz kein Raum (BGE 132 III 626 E. 3.1 S. 632 mit Hinweisen).
1.4.2 Die Vorinstanz hat festgestellt, die Darstellung der Beschwerdeführerin betreffend den tatsächlich übereinstimmenden Parteiwillen sei nicht bewiesen. Vielmehr lägen mehrere Indizien vor, die für die Darstellung der Beschwerdegegnerin sprächen. Dennoch könne nicht mehr festgestellt werden, wovon die Unterzeichner im strittigen Vertragspunkt bei Vertragsschluss tatsächlich ausgegangen sind, da hierfür die Aussage des verstorbenen BY._ unabdingbar sei. Demnach war nach Auffassung des Handelsgerichts eine tatsächliche Willensübereinstimmung nicht feststellbar. Bei dieser Sachlage entsprach die Auslegung des Vertrages nach dem Vertrauensprinzip den Vorgaben von Art. 18 OR. Von einer Verletzung dieser Bestimmung kann nicht die Rede sein.
1.5 Davon zu unterscheiden ist die Frage, ob die Vorinstanz bei der Beweiswürdigung in Willkür verfallen ist, was die Beschwerdeführerin ebenfalls rügt. Zur Begründung führt sie zur Hauptsache an, die Vorinstanz hätte auf die Parteiaussage von AX._ abstellen müssen. Sie stellt zudem in Abrede, dass die vom Handelsgericht angeführten Umstände Indizien für den tatsächlichen Parteiwillen bilden können.
1.5.1 Nach Art. 105 BGG legt das Bundesgericht seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Abs. 1). Es kann diese Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Abs. 2). Die Voraussetzungen für eine Sachverhaltsrüge nach Art. 97 Abs. 1 BGG und für eine Berichtigung des Sachverhalts von Amtes wegen nach Art. 105 Abs. 2 BGG stimmen im Wesentlichen überein. Soweit es um die Frage geht, ob der Sachverhalt willkürlich oder unter verfassungswidriger Verletzung einer kantonalen Verfahrensregel ermittelt worden ist, sind strenge Anforderungen an die Begründungspflicht der Beschwerde gerechtfertigt. Entsprechende Beanstandungen sind nach Massgabe von Art. 106 Abs. 2 BGG zu begründen. (BGE 133 II 249 E. 1.4.3 S. 254 f. mit Hinweisen). Soweit Willkür in der Ermittlung des Sachverhalts geltend gemacht wird, ist zu beachten, dass dem Sachrichter in der Beweiswürdigung ein breiter Ermessensspielraum zusteht; der Beschwerdeführer hat daher darzulegen, inwiefern das kantonale Gericht sein Ermessen missbraucht, insbesondere offensichtlich unhaltbare Schlüsse gezogen (BGE 129 I 8 E. 2.1 S. 9; 119 Ia 197 E. 1d S. 201, je mit Hinweisen), erhebliche Beweise übersehen oder willkürlich ausser Acht gelassen habe (BGE 129 I 8 E. 2.1 S. 9; 112 Ia 369 E. 3 S. 371). Dagegen genügt es nicht, wenn der Beschwerdeführer lediglich einzelne Beweise anführt, die er anders als im angefochtenen Entscheid gewichtet wissen möchte. Es geht nicht an, bloss appellatorische Kritik an der Beweiswürdigung des kantonalen Gerichts zu üben, als ob dem Bundesgericht die freie Prüfung aller Tatfragen zukäme (vgl. BGE 130 I 258 E. 1.3 S. 261 f. mit Hinweisen).
1.5.2 Die Beschwerdeführerin hält sich nicht an diese Grundsätze, sondern sie begnügt sich damit, dem Bundesgericht die abweichende eigene Auffassung zu unterbreiten, wobei sie das Schwergewicht ihrer Argumentation darauf legt, dass sich aus der Parteiaussage von AX._ klar ergebe, was "Fakt" sei. Damit verkennt sie, dass es gerade darum ging, diese Parteiaussage im Lichte weiterer Umstände, namentlich von AX._ eigenen Verhaltens nach Vertragsschluss, auf ihre Zuverlässigkeit zu überprüfen. Indem die Beschwerdeführerin den Indiziencharakter der vom Handelsgericht gewürdigten Umstände schlicht in Abrede stellt, vermag sie die Unhaltbarkeit der vorinstanzlichen Beweiswürdigung nicht zu begründen. Ihre Auffassung, wonach das nachträgliche Parteiverhalten bei der Bestimmung des tatsächlichen Parteiwillens nicht berücksichtigt werden dürfe, widersprich der konstanten Rechtsprechung des Bundesgerichts. Die entsprechende Regel gilt lediglich für die Vertragsauslegung nach dem Vertrauensprinzip (BGE 132 III 626 E. 3.1 S. 632 mit Hinweisen). Die Vorinstanz durfte die vorbehaltlose Begleichung der Zwischenabrechnung als Indiz dafür betrachten, dass nicht vergessen wurde, bestimmte Positionen des Werkvertrages zu korrigieren. Soweit die Vorbringen der Beschwerdeführerin den Begründungsanforderungen überhaupt gerecht werden, reichen sie jedenfalls nicht aus, um Willkür bei der Beweiswürdigung darzutun.
2. Mit Bezug auf die Umgebungsarbeiten gingen die Parteien von unterschiedlichen Preisen aus, die pro Fläche verlegter Verbundsteine verabredet worden sein sollen. Die Vorinstanz erwog, wiederum könne eine einzige zu Gunsten der Beschwerdeführerin erfolgte Parteiaussage nicht den Nachweis erbringen, es habe ein übereinstimmender tatsächlicher Wille bezüglich der von ihr genannten Preise (Fr. 27.00/m2 bzw. Fr. 29.00/m2) bestanden, zumal Indizien für einen höheren Preis vorlägen. Die Vorinstanz hielt einen tatsächlichen Konsens bezüglich der umstrittenen Quadratmeterpreise für die Verlegung von Verbundsteinen nicht für erwiesen, da die Parteiaussage von AX._ allein nicht genüge und BY._ nicht mehr befragt werden könne. Andererseits steht nach Einschätzung der Vorinstanz fest, dass der von der Beschwerdegegnerin angegebene Preis von pauschal Fr. 35.50 pro m2 nicht dem tatsächlichen Willen der Parteien entsprochen habe. Mangels nachweisbarer Willensäusserungen könne aber auch kein normativer Konsens erkannt werden.
2.1 Auch diesbezüglich rügt die Beschwerdeführerin eine Verletzung von Art. 18 OR, und sie äussert die Meinung, es lägen entgegen der Auffassung der Vorinstanz keine Indizien vor, welche geeignet seien, Zweifel an der Parteiaussage von AX._ zu wecken. Beide Beanstandungen sind offensichtlich unbegründet, wobei im Wesentlichen das bereits Ausgeführte gilt und darauf verwiesen werden kann (E. 1.4.2 und 1.5). Ein Verstoss gegen Art. 18 OR ist offensichtlich nicht gegeben, da das Handelsgericht einen übereinstimmenden tatsächlichen Parteiwillen auch mit Bezug auf den Preis für die Verlegung der Verbundsteine nicht als bewiesen erachtete, und die Kritik der Beschwerdeführerin an der Beweiswürdigung erschöpft sich im Wesentlichen darin, dem Bundesgericht darzulegen, dass auf die Parteiaussage von AX._ hätte abgestellt werden müssen. Damit vermag sie nicht aufzuzeigen, dass die Annahme des Handelsgerichts unhaltbar sein soll, angesichts des Verhaltens von AX._, der bei anderen Überbauungen deutlich höhere Quadratmeterpreise für Verbundsteine und deren Verlegung bezahlt hat als die gemäss Vorbringen der Beschwerdeführerin vereinbarten, und der fehlenden Möglichkeit der Einvernahme des Kontrahenten sei die von der Beschwerdeführerin behauptete Einigung über einen Preis von Fr. 27.-- bzw. 29.-- pro m2 nicht bewiesen. Die Willkürrüge bleibt erfolglos, soweit sie den Begründungsanforderungen überhaupt gerecht wird.
2.2 Da feststand, dass sich die Parteien betreffend Verbundsteine über die auszuführenden Arbeiten, nicht aber über den Preis geeinigt haben, bestimmte die Vorinstanz den Werklohn gemäss Art. 374 OR "nach Massgabe des Wertes der Arbeit und der Aufwendungen des Unternehmers". Alsdann ermittelte sie aufgrund des von der Beschwerdeführerin bei einem anderen Projekt für dieselbe Arbeitsgattung der Beschwerdegegnerin bezahlten Preises von Fr. 35.50 sowie der Preisangaben einer Drittgesellschaft den Wert der Arbeit der Beschwerdegegnerin. Je nach Qualität des verwendeten Steintyps setzte die Vorinstanz Quadratmeterpreise von Fr. 35.50, 30.60 und 29.60 fest, multiplizierte diese Beträge mit den gemäss Ausmass im betreffenden Material ausgeführten Flächen und berechnete den Durchschnittspreis pro m2. Insoweit hat das Handelsgericht nach Auffassung der Beschwerdeführerin Bundesrecht (Art. 374 OR) verletzt, indem es die geschuldete Vergütung nicht nach Aufwand bemass.
2.2.1 Ist der Werkpreis zum voraus entweder gar nicht oder nur ungefähr bestimmt worden, so wird er gemäss Art. 374 OR nach Massgabe des Wertes der Arbeit und der Aufwendungen des Unternehmers festgesetzt. Bei der Bestimmung des Preises gemäss Art. 374 OR steht dem Richter wie bei der Festsetzung der Erhöhung des Werkpreises gemäss Art. 373 Abs. 2 OR ein Ermessensspielraum zu (BGE 113 II 513 E. 5b S. 521), in den das Bundesgericht nur eingreift, wenn die Vorinstanz grundlos von in Lehre und Rechtsprechung anerkannten Grundsätzen abgegangen ist, wenn sie Tatsachen berücksichtigt hat, die für den Entscheid im Einzelfall keine Rolle hätten spielen dürfen, oder wenn sie umgekehrt Umstände ausser Betracht gelassen hat, die hätten beachtet werden müssen. Es greift ausserdem in Ermessensentscheide ein, wenn sich diese im Ergebnis als offensichtlich unbillig, als in stossender Weise ungerecht erweisen (BGE 130 III 28 E. 4.1 S. 32; 213 E. 3.1 S. 220; 504 E. 4.1 S. 508). Art. 374 OR hat dispositiven Charakter, weshalb abweichende Vereinbarungen zulässig sind (Gauch, Werkvertrag, 4. Aufl. 1996, S. 268 Rz. 950).
2.2.2 Es ist unbestritten, dass die Verlegung der Verbundsteine nach übereinstimmendem Parteiwillen zu einem bestimmten Betrag pro Quadratmeter abgegolten werden sollte. Die Parteien wollten mithin eine Vergütung nach Einheitspreis vereinbaren (vgl. dazu Gauch, a.a.O., S. 259 Rz. 917). Strittig blieb einzig die Höhe der Vergütung pro Quadratmeter, die nach dem Wert der Leistung zu bestimmen war. Unter diesen Umständen war die Vorinstanz nicht gehalten, den angemessenen Preis nach dem Aufwand zu beurteilen, wenn ihr zur Festsetzung eines angemessenen Einheitspreises andere Grundlagen zur Verfügung standen, zumal die Parteien übereinstimmend keine Abgeltung nach dem konkreten Aufwand vorsehen wollten. Auch insoweit ist die Beschwerde unbegründet.
2.3 In diesem Zusammenhang rügt die Beschwerdeführerin auch eine willkürliche Anwendung der Verhandlungsmaxime gemäss §§ 75 ff. des Zivilrechtspflegegesetzes vom 18. Dezember 1984 (Zivilprozessordnung, ZPO/AG, SAR 221.100), nach welcher das Gericht dem Urteil nur behauptete Tatsachen zugrunde legen dürfe. Die Beschwerdegegnerin habe nie rechtsgenügend behauptet, dass die 8cm-Steine teurer gewesen seien als die 6cm-Steine und dass sie eine bestimmte Menge 8cm- oder 6cm-Steine verlegt habe. Das Ausmass enthalte sowohl für 8cm- als auch 6cm-Steine denselben Preis (Fr. 18.50). Welche Steine verwendet worden seien, habe nicht Beweisthema gebildet. Tatsächlich seien keine 8cm-Steine verlegt worden. Die betreffende Feststellung des Handelsgerichts erweise sich als offensichtlich unrichtig. Zum Beweis dafür, dass lediglich 6cm-Steine verlegt worden seien, reicht die Beschwerdeführerin eine amtliche Feststellung des regionalen Betreibungsamtes Bremgarten vom 10. September 2009 ins Recht, wobei sie sich auf Art. 99 BGG beruft, der das Vorbringen neuer Tatsachen und Beweismittel zulässt, soweit erst der Entscheid der Vorinstanz dazu Anlass gibt.
2.4 Auch diese Rügen sind unbegründet. Die Beschwerdeführerin legt nicht substantiiert dar, inwiefern die Verhandlungsmaxime nach kantonalem Prozessrecht dem Gericht verwehrt, die in einem von einer Partei angerufenen und eingereichten Aktenstück enthaltenen Angaben als vorgebracht zu betrachten. Weshalb es im Lichte der kantonalen Dispositionsmaxime geradezu stossend sein soll, dem Urteil auch nicht explizit erwähnte Stellen derartiger Akten zugrunde zu legen, zeigt die Beschwerdeführerin nicht auf und ist nicht ersichtlich. Die Beschwerdegegnerin legte bereits ihrer Schlussabrechnung das Ausmass zu Grunde. Sie reichte mit der Widerklageduplik die Preisangaben der Drittgesellschaft ein, um den Wert der von ihr gelieferten Steine zu dokumentieren. Spätestens in diesem Zeitpunkt hatte die Beschwerdeführerin Anlass vorzubringen, die in den Preisangaben berücksichtigten 8cm-Steine seien gar nicht verlegt worden. Das Novenrecht nach Art. 99 BGG kommt daher nicht zur Anwendung. Die Beschwerdeführerin musste auch damit rechnen, dass die Vorinstanz den Wert des ausgeführten Werks aufgrund der Ausmassliste sowie der Preisangaben der Drittgesellschaft schätzen könnte, weshalb ihr oblegen hätte, sich damit auseinanderzusetzen. Bedeutete aber der Beizug der Ausmassliste keine willkürliche Anwendung kantonalen Prozessrechts, verfiel das Handelsgericht auch nicht in Willkür, wenn es gestützt auf die dort figurierenden Angaben annahm, das abgelieferte Werk umfasse eine bestimmte Menge 8cm-Verbundsteine, und den Durchschnittspreis pro m2 gestützt auf das Ausmass und die Preisangaben der Drittgesellschaft festsetzte.
3. Insgesamt erweist sich die Beschwerde als unbegründet und ist abzuweisen, soweit darauf einzutreten ist. Bei diesem Verfahrensausgang wird die Beschwerdeführerin kosten- und entschädigungspflichtig.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 5'500.-- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 6'500.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons Aargau, 2. Kammer, schriftlich mitgeteilt.
Lausanne, 9. November 2009
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Klett Luczak