Sachverhalt:
A. A._ (Beschwerdeführer) ist Eigentümer einer Baulandparzelle in B._, auf der unter anderem das von ihm betriebene Restaurant "C._" steht. X._ (Beschwerdegegnerin) betreibt als Kollektivgesellschaft ein Architekturbüro in Winterthur.
Im Jahre 1997 kamen die Parteien miteinander in Kontakt bezüglich einer möglichen Überbauung des südlichen Grundstückteils mit vier Reihen- bzw. zwei Doppeleinfamilienhäusern. Die Beschwerdegegnerin erstellte in den folgenden Monaten verschiedene Überbauungsstudien, Skizzen, Pläne und grobe Kostenberechnungen. Gegen Ende 1997 waren auch bereits vier Interessenten für die zu erstellenden vier Einfamilienhäuser vorhanden, darunter zwei erwachsene Kinder des Beschwerdeführers. Zwischen diesen Interessenten und der Beschwerdegegnerin fanden bereits direkte Kontakte statt; man besichtigte zusammen Referenzobjekte und die Interessenten äusserten gegenüber der Beschwerdegegnerin Wünsche bezüglich der Gestaltung "ihrer" Häuser.
Da sich der Beschwerdeführer lange nicht entscheiden konnte, in welcher Rechtsform er die Überbauung realisieren wollte, insbesondere ob er selber als Bauherr auftreten wolle oder nur als Landverkäufer, konnten bis gegen Ende 1998 noch keine verbindlichen Vereinbarungen über die Realisierung des Projekts getroffen werden. Die Beschwerdegegnerin stellte dem Beschwerdeführer am 20. November 1998 sowie am 25. Januar 1999 insgesamt drei Rechnungen für die geleisteten Planungsarbeiten im Gesamtbetrag von Fr. 67'702.50 zuzüglich Fr. 609.80 Spesen und zuzüglich Mehrwertsteuer.
Diese Rechnungen blieben unbezahlt, worauf die Beschwerdegegnerin alle Arbeiten einstellte. Der Beschwerdeführer stellte sich auf den Standpunkt, die Beschwerdegegnerin habe zwischen Juni 1997 und April 1998 die Planungsarbeiten auf eigenes Risiko ausgeführt in der Erwartung, mit Bauinteressenten ins Geschäft zu kommen. Da es schliesslich nicht zu einem Architekturvertrag gekommen sei, könnten ihm diese Vorarbeiten nicht verrechnet werden.
B. Die Beschwerdegegnerin klagte in der Folge beim Bezirksgericht Winterthur gegen den Beschwerdeführer auf Zahlung von Fr. 72'712.80 nebst Zins zu 5 % seit 1. März 1999. Mit Urteil vom 7. Dezember 2006 verpflichtete das Bezirksgericht Winterthur den Beschwerdeführer - in teilweiser Gutheissung der Klage - zur Zahlung von Fr. 37'900.-- zuzüglich 5 % Zins seit 1. April 1999.
Die vom Beschwerdeführer gegen das Urteil des Bezirksgerichts erhobene Berufung wies das Obergericht des Kantons Zürich mit Beschluss und Urteil vom 24. Oktober 2007 ab und bestätigte den bezirksgerichtlichen Entscheid (Dispositiv-Ziffer 1 und 2). Die Kosten für das zweitinstanzliche Verfahren wurden dem Beschwerdeführer auferlegt (Dispositiv-Ziffer 4), der für das Berufungsverfahren zudem zur Zahlung einer Prozessentschädigung an die Beschwerdegegnerin im Betrag von Fr. 3'800.-- zuzüglich Fr. 288.80 Mehrwertsteuer verpflichtet wurde (Dispositiv-Ziffer 5).
C. Gegen das Urteil des Obergerichts des Kantons Zürich vom 24. Oktober 2007 hat der Beschwerdeführer beim Bundesgericht Beschwerde in Zivilsachen erhoben. Er verlangt die Aufhebung von Dispositiv-Ziffern 1, 2, 4 und 5 des Urteils des Obergerichts sowie die Abweisung der Klage. Eventualiter beantragt er die Rückweisung der Sache zur Neubeurteilung an die Vorinstanz.
Die Beschwerdegegnerin beantragt in ihrer Vernehmlassung die Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Vorinstanz hat auf eine Vernehmlassung verzichtet.
Erwägungen:
1. 1.1 Damit ein kantonaler Entscheid mit Beschwerde in Zivilsachen angefochten werden kann, muss der Instanzenzug im Kanton erschöpft sein (Art. 75 Abs. 1 BGG). Für Rügen, die mit der Beschwerde in Zivilsachen erhoben werden können, darf kein kantonales Rechtsmittel mehr offen stehen (Klett, Basler Kommentar, N. 2 zu Art. 75 BGG). Wurde keine kantonale Nichtigkeitsbeschwerde erhoben, so ist daher auf Rügen, die mit diesem Rechtsmittel einer weiteren kantonalen Instanz hätten vorgetragen werden können, mangels Letztinstanzlichkeit nicht einzutreten.
1.2 Der Beschwerdeführer hat gegen das Urteil des Obergerichts vom 24. Oktober 2007 keine Nichtigkeitsbeschwerde an das Kassationsgericht erhoben. Dennoch beruft sich der Beschwerdeführer vor Bundesgericht im Zusammenhang mit der rechtlichen Qualifikation der Aktivitäten der Beschwerdegegnerin als Geschäftsführung ohne Auftrag (Art. 419 OR) auf die Verletzung des rechtlichen Gehörs. Zudem stellt er mit ausführlicher Begründung die Beweiswürdigung der Vorinstanz in Bezug auf die Honorarberechnung für die von der Beschwerdegegnerin erbrachten Leistungen in Frage, macht eine willkürliche Verletzung von § 137 ZPO/ZH in Verbindung mit § 54 Abs. 1 ZPO/ZH geltend und bezeichnet die Feststellungen der Vorinstanz als offensichtlich falsch. Auch hält er der Vorinstanz vor, die von ihr aus einem Gutachten gezogenen Schlüsse in Bezug auf das Quantitativ des geltend gemachten Entschädigungsanspruchs seien willkürlich und aktenwidrig. Schliesslich wehrt sich der Beschwerdeführer gegen das vorinstanzliche Beweisergebnis, wonach die bisherigen Planungen und deren kostenpflichtige Fortführung vom Beschwerdeführer nachträglich genehmigt worden seien. Entgegen der Ansicht des Beschwerdeführers handelt es sich bei diesem Beweisergebnis um eine tatsächliche Feststellung, weshalb er sich vergeblich auf eine Verletzung von Art. 1 bzw. Art. 18 OR beruft.
Diese vom Beschwerdeführer mit Beschwerde in Zivilsachen erhobenen Rügen hätten dem Kassationsgericht nach § 281 ZPO/ZH mit Nichtigkeitsbeschwerde vorgetragen werden können (vgl. Frank/Sträuli/Messmer, Kommentar zur zürcherischen Zivilprozessordnung, 3. Aufl., Zürich 1997, N. 16 ff. zu § 281 ZPO/ZH). Darauf kann im vorliegenden Beschwerdeverfahren mangels Letztinstanzlichkeit (Art. 75 Abs. 1 BGG) nicht eingetreten werden.
2. Zu prüfen bleibt die Rüge des Beschwerdeführers, die Vorinstanz habe die Aktivitäten der Beschwerdegegnerin ab August 1997 zu Unrecht als Geschäftsführung ohne Auftrag im Sinne von Art. 419 OR qualifiziert.
Ausgehend von der Feststellung, dass die Projektierungsarbeiten der Beschwerdegegnerin individuell auf das Baugrundstück des Beschwerdeführers ausgerichtet waren und dieser stets ein klares Interesse an der Überbauung bekundete, wobei sein wirtschaftliches Interesse dasjenige der Beschwerdegegnerin klar überwog, ging die Vorinstanz von einer echten Geschäftsführung ohne Auftrag zugunsten des Beschwerdeführers aus. Die Vorinstanz stellte weiter fest, dass der Beschwerdeführer mit Schreiben vom 21. August 1998 die bis dahin unternommenen Planungsarbeiten der Beschwerdegegnerin genehmigte und brachte auf das Verhältnis zwischen den Parteien gestützt auf Art. 424 OR Auftragsrecht zur Anwendung.
Der Beschwerdeführer macht geltend, Art. 424 OR setze eine Geschäftsführung ohne Auftrag voraus, deren Voraussetzungen vorliegend nicht erfüllt seien.
2.1 Der Beschwerdeführer bestreitet zunächst, dass vorliegend das Erfordernis des Fehlens eines Vertragsschlusses zwischen den Parteien (vgl. Art. 419 OR) erfüllt sei. Seine Behauptung, die Beschwerdegegnerin habe gestützt auf eine mit dem Beschwerdeführer getroffene vertragliche Abrede gehandelt, widerspricht jedoch den - für das Bundesgericht verbindlichen (Art. 105 Abs. 1 BGG) - Feststellungen der Vorinstanz, wonach weder ein Planungsauftrag noch der Abschluss einer selbständigen Entschädigungsvereinbarung nachgewiesen sei. Die Rüge, die Vorinstanz habe den Sachverhalt unzutreffend festgestellt, da sich die Parteien tatsächlich geeinigt und bereits für die Planungsarbeiten einen Vertrag abgeschlossen hätten, wäre zudem mit Nichtigkeitsbeschwerde beim Kassationsgericht zu erheben gewesen (siehe vorn E. 1.2); darauf ist nicht einzutreten. Im Übrigen ist die Erwägung der Vorinstanz, die Beschwerdegegnerin habe im Juni 1997 ein Projektierungsrecht erhalten, dahingehend zu verstehen, dass die Planungsarbeiten vom Beschwerdeführer geduldet wurden, ohne dass ein Vertragsverhältnis vorlag. Entgegen der Ansicht des Beschwerdeführers lässt sich daraus nicht auf eine vertragliche Abmachung der Parteien schliessen. Dass vorliegend gestützt auf das Vertrauensprinzip, mithin aus rechtlichen Gründen, von einem Vertragsschluss im Sinne einer entschädigungslosen Leistungserbringung durch die Beschwerdegegnerin auszugehen wäre, macht der Beschwerdeführer zu Recht nicht geltend.
2.2 Weiter bringt der Beschwerdeführer vor, bei der Geschäftsführung ohne Auftrag müsse im Weiteren die Geschäftsbesorgung geboten sein, was eine gewisse Hilfsbedürftigkeit des Geschäftsherrn sowie Dringlichkeit der Angelegenheit voraussetze. An diesen Elementen fehle es vorliegend.
Der Beschwerdeführer verkennt, dass eine Genehmigung nach Art. 424 OR nicht nur bei der berechtigten, sondern auch bei einer unberechtigten Fremdgeschäftsführung in Frage kommt. Erfüllt die Tätigkeit des Geschäftsführers, der auftraglos ein fremdes Geschäft besorgt, die Voraussetzungen einer berechtigten Geschäftsführung nicht, da sie nicht im Sinne von Art. 422 OR im Interesse des Geschäftsherrn geboten ist, so kommen im Falle einer Genehmigung durch den Geschäftsherrn dennoch die Vorschriften über den Auftrag zur Anwendung (Schmid, Zürcher Kommentar, N. 148 f. zu Art. 423 OR, N. 7 zu Art. 424 OR; Weber, Basler Kommentar, N. 2 zu Art. 424 OR; Tercier, Les contrats spéciaux, 3. Aufl., Zürich 2003, Rz. 5356 ff.). Selbst wenn die Auffassung des Beschwerdeführers zutreffen sollte, wonach die Geschäftsführung durch die Beschwerdeführerin mangels Hilfsbedürftigkeit bzw. Dringlichkeit vorliegend nicht geboten gewesen sei, so würde sich an der rechtlichen Beurteilung im Ergebnis nichts ändern. So oder anders wäre das Verhältnis zwischen den Parteien aufgrund der Genehmigung rückwirkend nach den Vorschriften über den Auftrag (Art. 394 ff. OR) zu beurteilen. Die Rüge des Beschwerdeführers stösst somit ins Leere.
3. Nachdem die Erstinstanz die selbst erstellten Stundenlisten der Beschwerdegegnerin für den behaupteten Zeitaufwand von 501.5 Stunden als nicht beweisbildend erachtet hatte, unterbreitete sie die Frage des Stundenaufwandes einem Experten. Dieser hatte zu beurteilen, welcher Zeitaufwand für die konkret ausgeführten Projektierungsarbeiten notwendig und angemessen gewesen sei. Die Vorinstanz hat dem erstellten Gutachten bei der Beurteilung der Höhe der geschuldeten Entschädigung wesentliche Bedeutung beigemessen.
Der Beschwerdeführer wirft der Vorinstanz vor, bei ihren Erwägungen von einem falschen Verständnis von Art. 374 OR ausgegangen zu sein. Die Vergütung, die der Besteller nach dieser Bestimmung schulde, sei aufwandbezogen. Zu vergüten sei der tatsächlich geleistete Aufwand und nicht irgendein "angemessener Aufwand". Die Vorinstanz verletze Art. 374 OR, wenn sie der Beschwerdegegnerin ein Honorar aufgrund eines "angemessenen Aufwands" zuerkenne.
3.1 Der Beschwerdeführer vermag mit seinen Vorbringen keine Bundesrechtsverletzung darzutun. Zunächst ist das Verhältnis zwischen den Parteien gemäss Art. 424 OR nach Auftragsrecht (Art. 394 ff. OR) zu beurteilen. Mangels Parteivereinbarung über das Mass der Vergütung bestimmt sich das geschuldete Entgelt nach den aus Art. 394 Abs. 3 OR fliessenden Grundsätzen. Dazu gehört gemäss bundesgerichtlicher Rechtsprechung, dass die Vergütung den geleisteten Diensten entsprechen, ihnen objektiv angemessen sein muss, wobei sich die dabei anzuwendenden Kriterien nach den Umständen des Einzelfalls richten (BGE 117 II 282 E. 4c; 101 II 109 E. 2; Anton Egli, Das Architektenhonorar, in: Gauch/Tercier [Hrsg.], Das Architektenrecht, 3. Aufl., Freiburg 1995, § 7 N. 933). Der Vorinstanz ist damit - entgegen der Ansicht des Beschwerdeführers - keine Bundesrechtsverletzung vorzuwerfen, wenn sie bei der Festsetzung der Vergütung auf deren Angemessenheit abstellte. Daran ändert auch die Erwägung der Vorinstanz nichts, wonach sich die Entschädigung, obwohl dem Auftragsrecht unterstehend, im Ergebnis nach denselben Grundlagen wie beim Werkvertragsrecht gemäss Art. 374 OR richte. Der Vorwurf der Verletzung dieser Bestimmung geht fehl.
3.2 Wie der vorinstanzliche Entscheid festhält, spricht sich das Gutachten auch über die Tatfrage des üblichen Aufwands aus. Die Vorinstanz hat zur Bestimmung des üblichen Entgelts (Art. 394 Abs. 3 OR) massgebend auf das angerufene Gutachten als Beweismittel abgestellt. Entsprechend liess sie die Frage der analogen Anwendbarkeit von Art. 42 Abs. 2 OR im vorliegenden Fall offen, weshalb auch die vom Beschwerdeführer erhobene Rüge, diese Bestimmung sei verletzt worden, ins Leere stösst.
3.3 Der Beschwerdeführer übersieht mit seinen übrigen Vorbringen zum Quantitativ der von ihm bestrittenen Forderung, dass es sich bei der Festsetzung der Höhe des üblichen Entgelts nach Art. 394 Abs. 3 OR im Wesentlichen um eine Tat- und Ermessensfrage handelt (BGE 117 II 282 E. 4a S. 283; 101 II 109 E. 2 S. 111). Er macht mit seinen Ausführungen keine Bundesrechtsverletzung geltend, sondern beruft sich auf eine Verletzung von Bestimmungen des kantonalen Zivilprozessrechts und übt Kritik an der Beweiswürdigung durch die Vorinstanz. Beides ist schon deshalb unzulässig, weil der Beschwerdeführer diese Rügen dem Kassationsgericht mit kantonaler Nichtigkeitsbeschwerde hätte unterbreiten können (siehe vorn E. 1.2).
4. Hinsichtlich der Kostenfestsetzung durch die Vorinstanz bringt der Beschwerdeführer schliesslich vor, es sei unverständlich, weshalb die Vorinstanz der Beschwerdegegnerin auf der Parteientschädigung von Fr. 3'800.-- eine Mehrwertsteuerentschädigung von Fr. 288.80 zugesprochen habe.
Die Kosten- und Entschädigungsfolgen für das vorinstanzliche Verfahren unterliegen kantonalem Recht. Eine Verletzung der entsprechenden kantonalen Vorschriften über die Kosten- und Entschädigungsfolgen hätte der Beschwerdeführer mit Nichtigkeitsbeschwerde dem Kassationsgericht vortragen können (Frank/Sträuli/Messmer, a.a.O., N. 47a zu § 281 ZPO/ZH). Darauf kann vorliegend schon mangels Letztinstanzlichkeit nicht eingetreten werden (siehe vorn E. 1.2).
5. Aus den dargelegten Gründen erweist sich die Beschwerde als unbegründet und ist abzuweisen, soweit darauf eingetreten werden kann. Dem Ausgang des Verfahrens entsprechend wird der Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 2'500.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 31. März 2008
Im Namen der I. zivilrechtlichen Abteilung des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Corboz Leemann