Sachverhalt:
A. Im Rahmen der Erstellung eines Einfamilienhauses in Weggis (LU) beauftrage X._ (Beschwerdeführer) im Mai 1999 die Y._ AG (Beschwerdegegnerin) mit der Herstellung und Montage verschiedener Fenster und Hebeschiebetüren (fortan: HST) und einer Haustüre. Nach erfolgter Montage gerieten die Parteien in Streit über die Vertragserfüllung und den Werklohn, welcher im Jahre 2001 zu einer Klage der Beschwerdegegnerin vor dem damaligen Bezirksgericht Rorschach (nunmehr Kreisgericht Rorschach) führte, mit welcher die Beschwerdegegnerin die rechtskräftige Verpflichtung des Beschwerdeführers zur Zahlung von Fr. 15'908.25 nebst Zins erreichte.
In der Folge gelangte der Beschwerdeführer seinerseits an das Bezirksgericht Rorschach mit einer Klage gegen die Beschwerdegegnerin auf Zahlung von Fr. 20'000.--, später reduziert auf Fr. 15'908.25 nebst Zins. Er begründete diese Forderung mit Mängeln an einem Fenster und an Hebeschiebetüren, welche die Beschwerdegegnerin nicht nachgebessert habe. Nach zweimaliger Rückweisung der Streitsache durch das Kantonsgerichts St. Gallen schützte das Kreisgericht Rorschach die Klage am 7. Mai 2008 im Umfang von Fr. 6'100.-- nebst Zins. Die Berufung des Beschwerdeführers, mit welcher er an seinem ursprünglich gestellten Begehren festhielt, und die Anschlussberufung der Beschwerdegegnerin, welche sinngemäss Abweisung der Klage im Fr. 3'300.-- übersteigenden Betrag verlangte, wies das Kantonsgericht am 1. Juni 2010 ab.
B. Der Beschwerdeführer beantragt dem Bundesgericht mit subsidiärer Verfassungsbeschwerde und "Verfassungsbeschwerde in Form einer Kostenbeschwerde", ihm zusätzlich zum bereits zugesprochenen Betrag Fr. 7'000.-- nebst Zins zuzusprechen und die Kosten- und Entschädigungsregelung sinngemäss anzupassen. Ferner kritisiert er den angefochtenen Entscheid betreffend die Nebenfolgen. Sein Gesuch um Gewährung der aufschiebenden Wirkung betreffend die der Beschwerdegegnerin zugesprochene Parteientschädigung wird mit dem Entscheid in der Sache gegenstandslos. Die Beschwerdegegnerin beantragt, auf die Beschwerde nicht einzutreten, eventuell diese abzuweisen. Das Kantonsgericht hat auf Vernehmlassung verzichtet.
Erwägungen:
1. Da der Streitwert Fr. 30'000.-- nicht erreicht, ist die Beschwerde in Zivilsachen grundsätzlich nicht gegeben (Art. 74 Abs. 1 lit. b BGG). Der Beschwerdeführer bezeichnet seine Eingabe als subsidiäre Verfassungsbeschwerde (vgl. Art. 113 BGG), macht aber geltend, der Entscheidung des Bundesgerichts komme grundsätzliche Bedeutung zu. In diesem Fall stünde an sich die Beschwerde in Zivilsachen offen (Art. 74 Abs. 2 lit. a BGG). Da indessen, wie die nachstehenden Erwägungen zeigen, prozessuale Gründe einer Erörterung der vom Beschwerdeführer als grundsätzlich erachteten Frage der Anwendung von Art. 174 Abs. 3 der SIA-Norm 118 entgegenstehen, ist die Eingabe als subsidiäre Verfassungsbeschwerde entgegenzunehmen.
1.1 Mit der Verfassungsbeschwerde kann nur die Verletzung von verfassungsmässigen Rechten gerügt werden (Art. 116 BGG). Der Beschwerdeführer muss angeben, welches verfassungsmässige Recht verletzt wurde, und substanziiert darlegen, worin die Verletzung besteht (BGE 134 V 138 E. 2.1 S. 143; 133 III 439 E. 3.2 S. 444 mit Hinweis). Das Bundesgericht kann die Verletzung eines Grundrechtes nur insofern prüfen, als eine solche Rüge in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 117 i.V.m. Art. 106 Abs. 2 BGG). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 118 BGG). Es kann davon nur abweichen, wenn die Sachverhaltsfeststellung unter Verletzung eines verfassungsmässigen Rechts zustande kam (Art. 118 Abs. 2 und Art. 116 BGG), was der Beschwerdeführer präzise geltend zu machen hat (Art. 117 i.V.m. Art. 106 Abs. 2 BGG; BGE 133 III 439 E. 3.2 S. 445 mit Hinweis). Er muss angeben, welches verfassungsmässige Recht verletzt wurde, und substanziiert darlegen, worin die Verletzung besteht (BGE 134 V 138 E. 2.1 S. 143; 133 III 439 E. 3.2 S. 444 mit Hinweis). Auf ungenügend begründete Rügen und rein appellatorische Kritik am angefochtenen Entscheid tritt das Bundesgericht nicht ein (vgl. BGE 130 I 258 E. 1.3 S. 261 f. mit Hinweisen).
1.2 Der Beschwerdeführer wendet sich mit der subsidiären Verfassungsbeschwerde in der Sache einzig gegen den vorinstanzlichen Entscheid betreffend Position 11 (HST in der Galerie). Er rügt unter Anrufung von Art. 174 Abs. 3 der SIA-Norm 118, die Vorinstanz habe ihm zu Unrecht den Beweis dafür auferlegt, dass die Welle in der Bodenschiene aufgrund falschen Versetzens durch die Beschwerdegegnerin entstanden sei.
1.2.1 Gemäss der zweitinstanzlich angeordneten Ergänzung der Expertise liegt die Ursache des Mangels, der Welle in der Schiene, mit überwiegender Wahrscheinlichkeit in der Baustruktur, wogegen ein falsches/schlechtes Einsetzen der HST durch die Beschwerdegegnerin lediglich mit einer Wahrscheinlichkeit von 10 % zum Mangel geführt hat. Die Vorinstanz stellte fest, dem Beschwerdeführer sei nicht gelungen, seine von der Expertise abweichende Darstellung zu belegen, womit er die entsprechenden Folgen zu tragen habe. Dabei spiele keine Rolle, ob er die relevanten Pläne und Unterlagen ohne eigene Schuld oder aus Verschulden nicht habe einreichen können. Auch habe er keine Sondagen und Messungen verlangt, welche laut den Angaben des Experten in Ermangelung der Pläne und Unterlagen zur Statik die Ursachen der Bodenwelle, wenn auch mit unverhältnismässigen Kosten, hätten aufzeigen können. In Übereinstimmung mit dem erstinstanzlichen Gericht ging die Vorinstanz davon aus, die Beschwerdegegnerin sei für die Welle in der Bodenschiene der HST in der Galerie nicht verantwortlich, weshalb dem Beschwerdeführer in diesem Zusammenhang keine Entschädigung zustehe.
1.2.2 Die Frage der Beweislastverteilung stellt sich nur, sofern die Vorinstanz gestützt auf das Gutachten nicht zu einem positiven Beweisergebnis gelangte (BGE 134 II 235 E. 4.3.4 S. 241; 130 III 591 E. 5.4 S. 601 f.). Die Vorinstanz verneint zwar die Verantwortlichkeit der Beschwerdegegnerin für die Welle in der Bodenschiene der HST, weist aber ausdrücklich auf die Übereinstimmung mit der ersten Instanz hin, welche von einem nicht eindeutigen Beweisergebnis ausging. Selbst wenn man zu Gunsten des Beschwerdeführers annimmt, die Vorinstanz gehe mit der ersten Instanz bezüglich der Mangelursache von Beweislosigkeit aus, würde dies dem Beschwerdeführer nicht helfen. Die erste Instanz hatte mit Blick auf die Beweislast gegen den Beschwerdeführer entschieden. Damit bestand objektiv bereits vor der Vorinstanz Anlass zu behaupten, die Beweislastverteilung sei vertraglich aufgrund von Art. 174 Abs. 3 der SIA-Norm 118 abgeändert worden. Der Beschwerdeführer macht zwar geltend, als juristischer Laie habe er erst kürzlich von diesen Regelungen in der SIA-Norm zu der Beweislastumkehr erfahren, weshalb er hierzu nichts in das Verfahren habe einfliessen lassen können. Dies ändert aber nichts daran, dass neue Tatsachen und Beweismittel vor Bundesgericht nur vorgebracht werden können, wenn erst der angefochtene Entscheid dazu Anlass gibt (Art. 99 Abs. 1 BGG i.V.m. Art. 117 BGG). Dies ist hier nicht der Fall. Den tatsächlichen Feststellungen im angefochtenen Entscheid ist nicht einmal zu entnehmen, dass die Geltung der SIA-Norm 118 vereinbart wurde. Indessen scheint auch die Beschwerdegegnerin in der Beschwerdeantwort von deren Anwendbarkeit auszugehen, wobei nach ihrer Auffassung Art. 174 Abs. 3 nicht bei verdeckten Mängeln, sondern nur bei der zweijährigen Garantiefrist zur Anwendung kommt. Soweit sich der Beschwerdeführer vor der Vorinstanz nicht darauf berief, die Beweislastverteilung sei durch Art. 174 Abs. 3 der SIA-Norm 118 vertraglich abgeändert worden, kann der angefochtene Entscheid von Vornherein nur Recht verletzen (Art. 42 Abs. 2 BGG), falls die Vorinstanz diesen Punkt auch ohne entsprechende Behauptungen der Parteien hätte prüfen oder diese zur Vervollständigung ihrer Behauptungen hätte anhalten müssen. Dass dies der Fall wäre, tut der Beschwerdeführer nicht hinreichend dar und ist auch nicht ersichtlich. Damit scheitern seine Vorbringen am Novenverbot (Art. 99 BGG Abs. 1 i.V.m. Art. 117 BGG). Aus diesem Grund könnte das Bundesgericht die vom Beschwerdeführer als grundsätzlich ausgegebene Rechtsfrage gar nicht prüfen. Im Rahmen der subsidiären Verfassungsbeschwerde wäre die Rüge ohnehin nicht hinreichend begründet, da der Beschwerdeführer nur eine Verletzung der Beweislastverteilung rügt, ohne darzulegen, inwiefern darin zugleich eine Verletzung seiner verfassungsmässigen Rechte liegt.
1.2.3 Auf die weiteren Ausführungen des Beschwerdeführers, in denen er das Gutachten, die Zulässigkeit einer Ergänzungsfrage sowie die im Gutachten erörterte Möglichkeit, durch Sondagen zu einem eindeutigen Beweisergebnis zu gelangen, erörtert, ist nicht näher einzugehen. In seiner weitgehend appellatorischen Kritik zeigt der Beschwerdeführer einerseits nicht hinreichend auf, worin eine Verletzung verfassungsmässiger Rechte bestehen soll, und geht andererseits davon aus, die Beweislast liege bei der Beschwerdegegnerin. Es ist ihm aber nicht gelungen, die gegenteilige Annahme der Vorinstanz als verfassungswidrig auszugeben. Daher gehen seine Vorbringen an der Sache vorbei und sind nicht zu hören.
1.3 Bezüglich der Kosten- und Entschädigungsfolgen macht der Beschwerdeführer schliesslich geltend, er habe für die Führung des Verfahrens ohne Beizug eines Rechtsanwalts Aufwand betrieben, welchen das Kantonsgericht wahrscheinlich irrtümlich nicht berücksichtigt habe. Die Regelung der Kosten- und Entschädigungsfolgen des kantonalen Verfahrens richtet sich nach kantonalem Prozessrecht. Welche Vorschrift des kantonalen Prozessrechts den Ersatz derartiger Kosten vorsieht und inwiefern die Vorinstanz diese Bestimmung willkürlich angewandt haben soll, ist der Beschwerde nicht zu entnehmen. Mangels hinreichender Begründung haben die Rügen des Beschwerdeführers betreffend seinen Aufwand ausser Acht zu bleiben.
2. Insgesamt erweist sich die Beschwerde als unbegründet und ist abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Verfahrensausgang wird der Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 1'500.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Kantonsgericht St. Gallen, III. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 1. Oktober 2010
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Klett Luczak