Sachverhalt:
A. A._ (Beschwerdeführer) quittierte 1999 den Dienst als Pilot der Y._. Er begann im Juni 2007 bei der Z._ AG in D._ eine Schulung, um seine bis am 27. Juli 2007 gültige Fluglizenz aufrecht zu erhalten. Praktisch ausgebildet wurde er mit Trainingsflügen am 14., 16. und 17. oder 19. Juli 2007 mit wechselnden Fluglehrern auf einer Piper Seneca HB-Leu bei der X._ AG (Beschwerdegegnerin). Die Beschwerdegegnerin verlangte vom Beschwerdeführer für die Zulassung zum auf den 24. Juli 2007 angesetzten Proficiency Check ein weiteres Landetraining und eine Anzahlung von Fr. 5'000.-- bzw. Fr. 6'000.--, welche der Beschwerdeführer jedoch nicht leistete. Die Beschwerdegegnerin unterzeichnete daraufhin das zur Erlangung der Fluglizenz erforderliche FOCA (bzw. BAZL)-Formular 1._ (sog. FTO-Unterschrift) auch nicht, als der Beschwerdeführer am 22. Juli 2007 bei einem selber beigezogenen Experten die Prüfung bestanden hatte.
Am 23. Juli 2007 stellte die Beschwerdegegnerin dem Beschwerdeführer total Fr. 6'449.30 in Rechnung ("Piper Seneca 442 min à Fr. 9.00, verz. Treibstoff 442 min à Fr. 1.40, div. Landetaxen Fr. 455.00 und 10.75 h Instruktion à Fr. 130.00"). Der Beschwerdeführer forderte mit Schreiben seines Anwalts vom 20. August 2007 die Beschwerdegegnerin auf, die Beträge für die Landetaxen und die Instruktion zu spezifizieren und stellte die unverzügliche Begleichung des geschuldeten Betrags nach Leistung der FTO-Unterschrift in Aussicht. Die Beschwerdegegnerin mahnte den Rechnungsbetrag am 28. August 2007 (und nochmals am 14. November 2007) erfolglos an, wobei sie die Landetaxen und die Instruktionszeit näher spezifizierte und die Weiterleitung der Formulare nach Bezahlung in Aussicht stellte. In der Folge wurde weder die Rechnung bezahlt noch die FTO-Unterschrift geleistet.
Am 5. Mai 2008, somit nach Anhebung des vorliegenden Prozesses, erteilte das Bundesamt für Zivilluftfahrt dem Beschwerdeführer trotz fehlender FTO-Unterschrift die Fluglizenz für ein weiteres Jahr rückwirkend auf das Datum des Checkfluges.
B. Mit Klage vom 5. Februar 2008 beantragte die Beschwerdegegnerin dem Bezirksgericht Höfe (Einzelrichter), der Beschwerdeführer sei zu verpflichten, ihr Fr. 6'449.30 nebst Zins zu 5 % seit 15. November 2007 und Fr. 200.-- Weisungskosten zu bezahlen. Der Beschwerdeführer beantragte die Abweisung der Klage und verlangte widerklageweise, die Beschwerdegegnerin sei unter Androhung der Bestrafung ihrer Organe gemäss Art. 292 StGB zu verurteilen, die so genannte FTO-Unterschrift Nr. 1._ zuhanden des Bundesamtes für Zivilluftfahrt zu leisten. Weiter sei sie zu verpflichten, ihm für den aufgrund der nicht geleisteten FTO-Unterschrift Nr. 1._ entstandenen Schaden Ersatz in richterlich zu bestimmender Höhe zu bezahlen. Mit Urteil vom 12. Dezember 2008 verpflichtete das Bezirksgericht den Beschwerdeführer, der Beschwerdegegnerin Fr. 6'449.30 nebst Zins zu 5 % ab 25. November 2007 zu bezahlen. Die Widerklage wies es ab.
Gegen dieses Urteil gelangte der Beschwerdeführer an das Kantonsgericht Schwyz, das die Berufung mit Urteil vom 24. März 2009 abwies, soweit es darauf eintrat, und das erstinstanzliche Urteil bestätigte.
C. Der Beschwerdeführer beantragt dem Bundesgericht mit Beschwerde in Zivilsachen, den Entscheid des Kantonsgerichts aufzuheben. Die Vorinstanz sei anzuweisen, die Klage abzuweisen sowie das widerklageweise gestellte Rechtsbegehren auf Schadenersatz materiell zu beurteilen und zumindest teilweise gutzuheissen. Eventualiter sei die Klage in Verrechnung mit dem widerklageweise geltend gemachten Schadenersatz des Beschwerdeführers abzuweisen.
Die Beschwerdegegnerin beantragt die Abweisung der Beschwerde und die Bestätigung des angefochtenen Urteils. Demzufolge sei der Beschwerdeführer zu verpflichten, der Beschwerdegegnerin Fr. 6'449.30 nebst Zins zu 5 % seit 15. November 2007 zu bezahlen. Die Vorinstanz beantragt, die Beschwerde abzuweisen, soweit darauf einzutreten sei.
D. Mit Präsidialverfügung vom 11. August 2009 wurde das Sicherstellungsbegehren der Beschwerdegegnerin abgewiesen, nachdem der Beschwerdeführer glaubhaft machen konnte, dass er seit Juni 2009 Wohnsitz in E._ hat.
Erwägungen:
1. In vermögensrechtlichen Angelegenheiten ist die Beschwerde nur zulässig, wenn der Streitwert mindestens Fr. 30'000.-- beträgt (Art. 74 Abs. 1 lit. b BGG). Bei der Berechnung des Streitwerts wird der Betrag einer Widerklage nicht mit demjenigen der Hauptklage zusammengerechnet (Art. 53 Abs. 1 BGG). Schliessen die in Hauptklage und Widerklage geltend gemachten Ansprüche einander aus und erreicht eine der beiden Klagen die Streitwertgrenze nicht, so gilt die Streitwertgrenze auch für diese Klage als erreicht, wenn sich die Beschwerde auf beide Klagen bezieht (Art. 53 Abs. 2 BGG). Klage und Widerklage schliessen sich gegenseitig aus, wenn die Gutheissung der einen Klage zwingend die Abweisung der anderen zur Folge hat (Beat Rudin, in: Basler Kommentar, Bundesgerichtsgesetz, 2008, N. 11 zu Art. 53 BGG).
Vorliegend beläuft sich der Streitwert der Hauptklage auf Fr. 6'449.30, derjenige der Widerklage - gemäss Angabe der Vorinstanzen - auf mindestens Fr. 74'000.--. Die Hauptklage erreicht somit die Streitwertgrenze von Fr. 30'000.-- nicht. Diese gilt auch nicht nach Art. 53 Abs. 2 BGG als erreicht, weil die Konstellation einander sich gegenseitig ausschliessender Ansprüche nicht vorliegt. Mit der Hauptklage fordert die Beschwerdegegnerin die Bezahlung bereits erbrachter Aufwendungen aus dem Auftrag zur Schulung des Beschwerdeführers. Der Beschwerdeführer verlangt mit der Widerklage Schadenersatz wegen der nicht geleisteten FTO-Unterschrift sowie die Erfüllung einer Nebenpflicht der Beschwerdegegnerin aus der Beauftragung, nämlich die Leistung der FTO-Unterschrift. Die in Haupt- und Widerklage geltend gemachten Ansprüche schliessen sich gegenseitig nicht aus.
Auf die Beschwerde kann daher mangels Erreichens der Streitwertgrenze nicht eingetreten werden, soweit sie sich gegen die vorinstanzliche Beurteilung der Hauptklage richtet.
2. Auf die Beschwerde betreffend die Hauptklage kann zudem auch aus einem anderen Grund nicht eingetreten werden:
Vorliegend stützte die Vorinstanz die Gutheissung der Klage auf zwei selbständige Begründungen (Erwägung 2a und 2b: Bejahung des Anspruchs der Beschwerdegegnerin auf angemessene Teilleistungen sowie der Akzeptanz des Beschwerdeführers einer Anzahlungs- bzw. Teilleistungspflicht; Erwägung 2c: Bejahung der Vorleistungspflicht des Beschwerdeführers hinsichtlich der Flugschulauslagen mit der Folge, dass die Beschwerdegegnerin ihre weiteren Leistungen von einer entsprechenden Zahlung abhängig machen durfte). Beruht der angefochtene Entscheid auf mehreren selbständigen Begründungen, die je für sich das angefochtene Urteil stützen, so hat der Beschwerdeführer darzulegen, dass jede von ihnen Recht verletzt; andernfalls kann auf die Beschwerde nicht eingetreten werden (BGE 133 IV 119). Da sich der Beschwerdeführer in seiner Beschwerde lediglich gegen die erste Begründung wendet und die zweite unangefochten lässt, kann auch aus diesem Grund nicht auf die Beschwerde hinsichtlich der Hauptklage eingetreten werden.
3. Mit der abgewiesenen Widerklage verlangte der Beschwerdeführer zunächst die Leistung der FTO-Unterschrift Nr. 1._ zuhanden des Bundesamtes für Zivilluftfahrt. Die Vorinstanz führte dazu aus, die Unterschrift sei nach Erteilung der Fluglizenz für den Beschwerdeführer wertlos, weshalb mangels Rechtsschutzinteresses auf dieses Widerklagebegehren nicht mehr einzutreten sei. Der Beschwerdeführer hält dem nichts entgegen und es besteht daher kein Grund, das angefochtene Urteil insoweit aufzuheben.
4. Weiter verlangte der Beschwerdeführer mit der Widerklage Schadenersatz wegen Nichtleistung der FTO-Unterschrift Nr. 1._ zuhanden des Bundesamtes für Zivilluftfahrt. Ob auf die Beschwerde in Bezug auf den von der Vorinstanz abgewiesenen Schadenersatzanspruch mangels bezifferten Rechtsbegehrens nicht einzutreten wäre, kann offen bleiben, da die Vorinstanz - wie sich nachfolgend zeigen wird - den Anspruch auf Schadenersatz zu Recht abwies.
4.1 Die Vorinstanz verneinte einen Schadenersatzanspruch mit der Begründung, dass die Beschwerdegegnerin berechtigt war, die Unterschrift von der Bezahlung des geschuldeten Rechnungsbetrages abhängig zu machen und sie daher ihre vertraglichen Verpflichtungen nicht verletzt habe. Da der Beschwerdeführer nicht bereit gewesen sei, den Betrag zu bezahlen, habe er es sich selber zuzuschreiben, wenn er seine Fluglizenz vom Bundesamt für Zivilluftfahrt erst verspätet erneuert erhalten habe. Ein dadurch allfällig entstandener Schaden könne nicht der Beschwerdegegnerin zugerechnet werden. Hinzu komme, dass auf die unbestimmte Schadenersatzwiderklage schon mangels bezifferten Antrags nicht eingetreten werden könne, da sie bezifferbar gewesen wäre.
4.2 Der Beschwerdeführer bringt vor, die Vorinstanz habe mit dem Nichteintreten auf das Schadenersatzbegehren und der Nichtanwendung von Art. 42 Abs. 2 OR gegen den Grundsatz der derogatorischen Kraft des Bundesrechts (Art. 49 Abs. 1 BV) verstossen.
4.3 Eine Prozessvorschrift, wonach die Rechtsbegehren der Parteien klar und deutlich zu formulieren sind und hinreichend bestimmt lauten müssen, ist nicht zu beanstanden. Den Kantonen ist daher im Grundsatz nicht verwehrt, in Forderungsstreitigkeiten die genaue Bezifferung des geforderten Betrages zu verlangen. Dieser Grundsatz gilt indessen nicht ohne Ausnahmen. So muss das kantonale Prozessrecht unbezifferte Rechtsbegehren zunächst dort zulassen, wo das Bundesprivatrecht sie ausdrücklich vorsieht; überdies darf ein genau beziffertes Begehren auch nicht verlangt werden, wenn das Bundesrecht das Gericht auf sein Ermessen verweist, wie beispielsweise in Art. 42 Abs. 2 OR. In solchen Fällen richterlichen Ermessens begrenzt das Bundesrecht allerdings lediglich die Anforderungen an die materielle Substanziierung der Forderung, nimmt den Kantonen dagegen nicht auch die Möglichkeit, aus formellen Gründen eine rahmenmässige Bezifferung der Klageforderung zu verlangen (BGE 131 III 243 E. 5.1; 116 II 215 E. 4a).
Nach Art. 42 Abs. 2 OR ist der nicht ziffernmässig nachweisbare Schaden nach Ermessen des Richters mit Rücksicht auf den gewöhnlichen Lauf der Dinge und auf die vom Geschädigten getroffenen Massnahmen abzuschätzen. Diese Bestimmung enthält eine bundesrechtliche Beweisvorschrift, die dem Geschädigten den Schadensnachweis erleichtern soll. Sie räumt dem Sachgericht für Fälle, in denen der strikte Nachweis des Schadens ausgeschlossen ist, einen erweiterten Ermessensspielraum ein, indem sie ihm gestattet, den Schaden aufgrund einer blossen Schätzung als ausgewiesen zu erachten. Nach der Rechtsprechung ist Art. 42 Abs. 2 OR nicht nur bei Unmöglichkeit des ziffernmässigen Nachweises der Schadenshöhe, sondern auch dann anwendbar, wenn sich nicht strikte beweisen lässt, dass überhaupt ein Schaden eingetreten ist. Allerdings soll dem Geschädigten damit nicht die Möglichkeit eröffnet werden, ohne nähere Angaben Schadenersatzforderungen in beliebiger Höhe zu stellen. Art. 42 Abs. 2 OR zielt lediglich auf eine Beweiserleichterung und nicht etwa darauf, dem Geschädigten die Beweislast generell abzunehmen. Das Bundesgericht hält in seiner Rechtsprechung denn auch ausdrücklich fest, dass der Geschädigte alle Umstände, die für den Eintritt eines Schadens sprechen und dessen Abschätzung erlauben oder erleichtern, soweit möglich und zumutbar zu behaupten und zu beweisen hat. Die vom Geschädigten vorgebrachten Umstände müssen geeignet sein, den Bestand des Schadens hinreichend zu belegen und seine Grössenordnung hinreichend fassbar werden zu lassen. Der Schluss, dass tatsächlich ein Schaden vom behaupteten ungefähren Umfang eingetreten ist, muss sich dem Gericht mit einer gewissen Überzeugungskraft aufdrängen. Die Zusprechung von Schadenersatz setzt voraus, dass der Eintritt des geltend gemachten Schadens nicht bloss im Bereich des Möglichen liegt, sondern als annähernd sicher erscheint (BGE 131 III 360 E. 5.1; 122 III 219 E. 3a S. 221 f. mit Hinweisen).
Art. 42 Abs. 2 OR findet mithin nur Anwendung, wenn der Schaden an sich oder dessen Höhe ziffernmässig nicht nachweisbar ist. Dass diese Voraussetzung für eine Anwendung von Art. 42 Abs. 2 OR vorliegt, hat der Ansprecher zumindest glaubhaft zu machen (Schnyder, in: Basler Kommentar, Obligationenrecht I, 4. Aufl. 2007, N. 11 zu Art. 42 OR). Dies hat der Beschwerdeführer vorliegend jedoch nicht getan. Wie die Vorinstanz verbindlich festhält, war weder dargetan noch ersichtlich, weshalb der Beschwerdeführer seine Forderung spätestens im Berufungsverfahren nicht hätte präzise beziffern können. Da somit die Voraussetzung für die Anwendung von Art. 42 Abs. 2 OR nicht glaubhaft gemacht war, kann der Vorinstanz die Nichtanwendung dieser Vorschrift nicht vorgeworfen werden und ist es bundesrechtlich erst recht nicht zu beanstanden, wenn sie einen bezifferten Berufungsantrag verlangte.
4.4 Der angefochtene Entscheid vermag sich demnach bereits auf diese Begründung zu stützen. Damit erübrigt es sich, auf die von der Vorinstanz zusätzlich gegebene materielle Begründung einzugehen, wonach es an einem rechtswidrigen Verhalten der Beschwerdegegnerin mangelte und ihr ein Schaden nicht zurechenbar gewesen wäre.
5. Die Beschwerde ist demzufolge abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Verfahrensausgang wird der Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 3'500.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 4'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Kantonsgericht des Kantons Schwyz, Zivilkammer, schriftlich mitgeteilt.
Lausanne, 27. Oktober 2009
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Die Gerichtsschreiberin:
Klett Sommer