Sachverhalt:
A. Rechtsanwalt A._ (Beschwerdeführer) schloss am 9. Januar 2003 resp. 21. Juni 2003 mit B._, C._ und D._ (Beschwerdegegner) einen Mandatsvertrag, mit dem die Übernahme des Verwaltungsratspräsidiums durch den Beschwerdeführer und weitere Modalitäten bezüglich der X._ AG vereinbart wurden.
Über die X._ AG wurde am 3. November 2003 der Konkurs eröffnet und am 17. Dezember 2004 wieder geschlossen.
Der Beschwerdeführer kam mit den von ihm im Konkurs eingegebenen Honorarforderungen für seine Tätigkeit als Verwaltungsratspräsident und Berater mit Fr. 246'819.05 zu Verlust. Ausserdem sind aus der Zeit nach dem Konkurs zwei vom Beschwerdeführer gestellte Honorarrechnungen vom 2. Juni 2005 und vom 7. Oktober 2005 offen geblieben.
B. B.a Am 13. Juni 2006 erhoben die Beschwerdegegner beim Bezirksgericht Zürich gegen den Beschwerdeführer je separate Leistungsklagen in der Höhe von Fr. 68'298.60, Fr. 186'895.90 und Fr. 49'000.-- nebst verschiedenen Zinsbetreffnissen. Am 6. September 2006 wurden die drei Verfahren vereinigt. Die Forderungen der Beschwerdegegner beruhen auf der Tatsache, dass der Beschwerdeführer als ihr Beauftragter Zahlungen für sie entgegengenommen und es in der Folge unterlassen hatte, diese an die Beschwerdegegner weiterzuleiten. Die eingeklagten Forderungen der Beschwerdegegner werden vom Beschwerdeführer nicht bestritten.
Der Beschwerdeführer beantragte in seinen Klagantworten die Abweisung der Klagen mit der Begründung, die eingeklagten Forderungen seien durch Verrechnung untergegangen. Dabei brachte er seine Honorarforderungen im Betrag von insgesamt Fr. 269'010.80 wie folgt zur Verrechnung:
Zusammenfassung der gegenseitigen Ansprüche
Zahlungsein- und ausgänge auf dem Klientengelderabwicklungskonto:
CHF
29.04.2004
Steuerrückerstattung C._
150'000.00
29.04.2004
Steuerrückerstattung B._
50'000.00
29.04.2004
Währungsdifferenz
1'194.52
19.01.2004
C._/B._/D._
80'000.00
23.10.2003
D._
51'000.00
Zwischentotal
332'194.52
./. Zahlung vom 10.12.2003 an B._
20'000.00
Total
312'194.52
Honorarrechnungen Y.A._ und Verrechnung mit Guthaben der drei Auftraggeber am 29.04.2004, am 02.06.2005 und am 07.10.2005:
09.01.2003
56'810.20
10.03.2003
Verwaltungshonorar
8'000.00
03.04.2003
29'407.70
03.07.2003
22'089.55
06.10.2003
93'863.05
03.11.2003
(Datum der Konkurseröffnung)
36'648.55
Zwischentotal bis zur Konkurseröffnung
246'819.05
02.06.2005
17'041.05
07.10.2005
5'150.70
Total
269'010.80
Guthaben Klientengelderkonto
312'194.52
./. Honorarrechnungen Y.A._
269'010.80
Saldo zu Gunsten der Auftraggeber/Kläger
43'183.72
Am 6. Februar 2008 fällte das Bezirksgericht folgendes Urteil:
"1.1. Der Beklagte wird verpflichtet, dem Kläger 1 Fr. 68'298.60 nebst Verzugszinsen zu 5 % auf Fr. 18'000.-- seit dem 19. Januar 2004 sowie auf Fr. 50'298.60 seit dem 29. April 2004 zu bezahlen.
1.2. Der Beklagte wird verpflichtet, dem Kläger 2 Fr. 186'895.90 nebst Verzugszinsen zu 5 % auf Fr. 36'000.-- seit dem 19. Januar 2004 sowie auf Fr. 150'895.90 seit dem 29. April 2004 zu bezahlen.
1.3. Der Beklagte wird verpflichtet, dem Kläger 3 Fr. 49'000.-- nebst Verzugszinsen zu 5 % auf Fr. 18'000.-- ab 19. Januar 2004 sowie auf Fr. 31'000.-- seit dem 29. April 2004 zu bezahlen.
2.1. Die Kläger 1 und 3 werden unter solidarischer Haftung verpflichtet, dem Beklagten Fr. 56'810.20 zu bezahlen.
2.2. Die Kläger 1, 2 und 3 werden unter solidarischer Haftung verpflichtet, dem Beklagten Fr. 93'296.50 zu bezahlen.
2.3. Es wird festgestellt, dass die Verrechnungsforderungen des Beklagten im Mehrumfang von Fr. 118'904.10 nicht bestehen."
Das Bezirksgericht begründete sein Urteil damit, dass der Beschwerdeführer seine Forderungen gesamthaft mit den Forderungen der Beschwerdegegner verrechnet habe. Er sei davon ausgegangen, dass sämtliche Beschwerdegegner für den Gesamtbetrag solidarisch hafteten, was nicht zutreffe, so dass die Verrechnungserklärung des Beschwerdeführers mangels Gegenseitigkeit der Forderungen teilweise nicht zulässig sei. Da das Gericht nicht anstelle des Beschwerdeführers erklären könne, welcher Betrag welchem Beschwerdegegner gegenüber verrechnet werde, würde im Dispositiv festgehalten, welche Beträge die Parteien einander schuldeten.
B.b Gegen dieses Urteil erhob der Beschwerdeführer Berufung an das Obergericht des Kantons Zürich. Er beantragte, die Dispositivziffern 1.1, 1.2, 1.3 und 2.3 aufzuheben. Die Beschwerdegegner 1, 2 und 3 seien unter solidarischer Haftung zu verpflichten, dem Beschwerdeführer Fr. 118'904.10 zu bezahlen. Ferner sei festzustellen, dass die Verrechnungsforderungen des Beschwerdeführers im Mehrumfang von Fr. 110'904.10 bestehen und dass diese Forderungen zur Verrechnung zugelassen werden.
Die Beschwerdegegner beantragten, auf die Berufung des Beschwerdeführers nicht einzutreten bzw. diese abzuweisen und das Urteil des Bezirksgerichts in den Dispositivziffern 1.1, 1.2, 1.3 und 2.3 zu bestätigen. Ausserdem erhoben sie Anschlussberufung und verlangten die Aufhebung der Dispositivziffern 2.1 und 2.2.
Am 20. Januar 2009 erliess das Obergericht folgendes Urteil:
"1.1. Der Beklagte wird verpflichtet, dem Kläger 1 Fr. 68'298.60 nebst Verzugszinsen zu 5 % auf Fr. 18'000.-- seit dem 19. Januar 2004 sowie auf Fr. 50'298.60 seit dem 29. April 2004 zu bezahlen.
1.2. Der Beklagte wird verpflichtet, dem Kläger 2 Fr. 186'895.90 nebst Verzugszinsen zu 5 % auf Fr. 36'000.-- seit dem 19. Januar 2004 sowie auf Fr. 150'895.90 seit dem 29. April 2004 zu bezahlen.
1.3. Der Beklagte wird verpflichtet, dem Kläger 3 Fr. 49'000.-- nebst Verzugszinsen zu 5 % auf Fr. 18'000.-- ab 19. Januar 2004 sowie auf Fr. 31'000.-- seit dem 29. April 2004 zu bezahlen."
Das Obergericht hielt fest, das Vorgehen des Bezirksgerichts sei in prozessualer Hinsicht unzutreffend. Geklagt hätten die drei Beschwerdegegner, der Beschwerdeführer habe lediglich die Verrechnung geltend gemacht, ohne Widerklage zu erheben. Es sei deshalb ein Verstoss gegen die Dispositionsmaxime, wenn die Beschwerdegegner im Urteilsdispositiv zu Leistungen an den Beschwerdeführer verpflichtet würden und dieser ohne vorgängige Klage in den Besitz eines Vollstreckungstitels gelange. Das Obergericht erklärte damit auch den Berufungsantrag für unzulässig, wonach die Beschwerdegegner zur Zahlung von Fr. 118'904.10 zu verpflichten seien, da dies auf eine erst in der Berufung erhobene Widerklage hinaus laufe. Werde die Verrechnung ganz oder teilweise zugelassen, sei die Klage entsprechend abzuweisen. Erachte das Gericht die Verrechnung als unzulässig, werde die Klage entsprechend gutgeheissen. Unabhängig vom Ergebnis des Berufungsverfahrens wäre der Entscheid des Bezirksgerichts daher ohnehin zu berichtigen.
Bei der Prüfung der Zulässigkeit der Verrechnung kam das Obergericht zum Schluss, dass es an einer gültigen Verrechnungserklärung mangle, weil die zu verrechnenden eigenen und die fremden Forderungen nicht spezifisch bezeichnet worden seien. Es hielt daher die Verrechnung für unzulässig.
C. Der Beschwerdeführer beantragt mit Beschwerde in Zivilsachen, das Urteil des Obergerichts vollumfänglich aufzuheben. Es sei festzustellen, dass in Bezug auf die Honorarforderungen des Beschwerdeführers und die Rückforderungsansprüche der Beschwerdegegner grundsätzlich die Verrechnung zulässig ist, und es sei die Sache zur Neubeurteilung (im Einzelnen) an die Vorinstanz zurückzuweisen.
Die Beschwerdegegner beantragen, die Beschwerde abzuweisen, soweit darauf einzutreten sei. Die Vorinstanz verzichtete auf eine Vernehmlassung.
D. Mit Präsidialverfügung vom 26. März 2009 wurde das Gesuch des Beschwerdeführers um Erteilung der aufschiebenden Wirkung abgewiesen.
Erwägungen:
1. Der Beschwerdeführer stellt keinen materiellen Antrag im Sinne der Klagabweisung. Er beantragt lediglich die Feststellung der Zulässigkeit der Verrechnung und die Rückweisung der Sache zur Neubeurteilung an die Vorinstanz. Auf das Feststellungsbegehren kann nicht eingetreten werden. Würde das Bundesgericht auf Zulässigkeit der Verrechnung schliessen können, so könnte es direkt materiell entscheiden und die Klagen abweisen (vgl. BGE 4A_548/2008 vom 11. März 2009 E. 2.2; 123 III 49 E. 1a S. 51).
Im vorliegenden Fall kann das Bundesgericht allerdings einzig darüber entscheiden, ob die Vorinstanz die Verrechnung zu Recht mangels erforderlicher Spezifizierung abgelehnt hat. Sollte es dabei der Rechtsauffassung des Beschwerdeführers folgen, müsste es die Sache zur weiteren Beurteilung an die Vorinstanz zurückweisen. Denn diese hat über den - bestrittenen - Bestand des Anspruchs des Beschwerdeführers und die - ebenfalls bestrittene - Solidarhaftung der Beschwerdegegner noch nicht entschieden und diesbezüglich keine tatsächlichen Feststellungen getroffen, weil sie zum Schluss kam, der Beschwerdeführer habe es bereits an der erforderlichen Spezifizierung der Verrechnungserklärung mangeln lassen. Das Rückweisungsbegehren des Beschwerdeführers ist daher statthaft (vgl. BGE 133 III 489 E. 3.1 mit Hinweisen).
2. Wenn zwei Personen einander Geldsummen oder andere Leistungen schulden, die ihrem Gegenstand nach gleichartig sind, kann jede ihre Schuld, insofern beide Forderungen fällig sind, mit ihrer Forderung verrechnen (Art. 120 Abs. 1 OR).
Gegenseitigkeit im Sinne von Art. 120 Abs. 1 OR liegt vor, wenn die Gläubiger- und die Schuldnerstellungen zweier Obligationen sich derart auf zwei Personen verteilen, dass jede der beiden gleichzeitig Gläubiger der einen und Schuldner der andern ist (AEPLI, Zürcher Kommentar, N. 21 zu Art. 120 OR; GAUCH/SCHLUEP/EMMENEGGER, Schweizerisches Obligationenrecht, Allgemeiner Teil, Bd. II, 9. Aufl. 2008, Rz. 3210).
Eine Verrechnung tritt gemäss Art. 124 Abs. 1 OR nur insofern ein, als der Schuldner dem Gläubiger zu erkennen gibt, dass er von seinem Recht der Verrechnung Gebrauch machen will. Die Verrechnungserklärung ist eine einseitige und empfangsbedürftige Willenserklärung des Verrechnenden. Sie kann ausdrücklich oder durch konkludentes Handeln erfolgen und muss den Willen des Verrechnenden in unzweideutiger Weise erkennen lassen. Aus der Erklärung oder aus den Umständen muss auch hervorgehen, welches die zu tilgende Hauptforderung und welches die Verrechnungsforderung ist. Besteht diesbezüglich Unklarheit, ist die Verrechnungserklärung unvollständig und daher wirkungslos (Urteil 4C.25/2005 vom 15. August 2005 E. 4.1, nicht publ. in: BGE 131 III 636). Die Verrechnungserklärung fällt mit der prozessualen Einrede der Verrechnung zusammen, wenn die Verrechnung erst im Prozess geltend gemacht wird (BGE 63 II 133 E. 3b S. 140; AEPLI, a.a.O., N. 117 Vorbemerkungen zu Art. 120-126 OR).
3. Die Vorinstanz hat die Verrechnung mangels erforderlicher Spezifizierung nicht zugelassen. Die zu verrechnenden eigenen und die fremden Forderungen müssten bezeichnet werden. Aus den Akten und den Vorbringen des Beschwerdegegners sei nirgends ersichtlich, dass dieser eine entsprechende Spezifizierung vorgenommen habe.
Der Beschwerdeführer erblickt darin eine Verletzung von Art. 120 OR. Sämtliche Voraussetzungen für eine Verrechnung seien erfüllt. Sowohl die Hauptforderung (die jeweiligen Klagforderungen der Beschwerdegegner) als auch die Verrechnungsforderung (seine ausstehenden Honorarforderungen in der Höhe von Fr. 261'010.80 und das VR-Honorar von Fr. 8'000.--) seien hinlänglich bezeichnet. In Anbetracht der Tatsache, dass der Beschwerdeführer nach seiner Wahl von allen Solidarschuldnern je nur einen Teil oder das Ganze fordern könne, sei er zu diesem Vorgehen berechtigt gewesen. Die Verrechnungserklärung sei damit rechtsgültig erfolgt.
4. 4.1 Zunächst ist klarzustellen, dass sich vorliegend die von der Vorinstanz diskutierte Frage einer analogen Anwendung von Art. 87 OR zur Spezifizierung der Forderungen der Beschwerdegegner, die durch Verrechnung untergehen sollten, nicht stellt. Die Vorinstanz hat dargelegt, dass eine analoge Anwendung von Art. 87 OR, die von der wohl mehrheitlichen Lehre ohnehin abgelehnt werde, bei einer Mehrzahl von Gläubigern, deren Forderungen durch Verrechnung getilgt werden sollen, von vornherein nur in Frage kommen könnte, wenn diese Solidargläubiger im Sinne von Art. 150 OR wären, so dass sich der Schuldner befreien könnte, indem er an einen derselben leistete (vgl. andernfalls den Wortlaut von Art. 86 Abs. 1 OR: " [...] mehrere Schulden an denselben Gläubiger zu bezahlen [...]"); dass die Beschwerdegegner Solidargläubiger wären, sei weder behauptet noch ersichtlich. Dies überzeugt und wird vom Beschwerdeführer nicht in Frage gestellt, ebensowenig wie die einlässlich begründete grundsätzliche Ablehnung einer analogen Anwendung von Art. 87 OR durch die Vorinstanz.
4.2 Der Beschwerdeführer hat gegenüber jedem einzelnen der drei Beschwerdegegner in der Klagantwort die Einrede der Verrechnung erhoben und dabei erklärt, er verrechne die jeweilige Klagforderung mit der gesamten ihm zustehenden Honorarforderung von insgesamt Fr. 269'010.80, dies in der Meinung, die Beschwerdegegner hafteten ihm dafür solidarisch und er könne daher von jedem von ihnen den ganzen Betrag verlangen und zur Verrechnung stellen.
Bei dieser Sachlage kann nicht von vornherein gesagt werden, es gehe aus der Erklärung nicht hervor, welches die zu tilgende Hauptforderung und welches die Verrechnungsforderung sei. Erstere ist die jeweilige Klagforderung, letztere die ganze Honorarforderung des Beschwerdeführers. Es wäre insofern für jede einzelne der Klagen zu prüfen gewesen, ob die zur Verrechnung gebrachte Honorarforderung von Fr. 269'010.80 effektiv Bestand hat und ob im gesamten Umfang eine Solidarhaftung besteht, mithin das Erfordernis der Gegenseitigkeit erfüllt ist.
Diese Prüfung konnte aber seitens der Vorinstanz zu Recht unterbleiben, falls die Verrechnungserklärung des Beschwerdeführers bezüglich der Bezeichnung der Haupt- und der Verrechnungsforderung dennoch unklar und daher wirkungslos sein sollte (Erwägung 2 vorne). Dem ist so. Denn aus der Tatsache, dass der Beschwerdeführer drei verschiedenen Klägern gegenübersteht und ihren Klagforderungen je seine gesamte Gegenforderung zur Verrechnung stellen will, ergibt sich ein Problemfeld, das der Beschwerdeführer in seiner Verrechnungserklärung nicht berücksichtigt hat:
Die drei Klagforderungen belaufen sich auf eine Gesamthöhe von Fr. 304'194.50, übersteigen also die zur Verrechnung gebrachte Gesamtforderung von Fr. 269'010.80 um Fr. 35'183.70. Nach Art. 144 Abs. 1 OR kann der Gläubiger nach seiner Wahl zwar von allen Solidarschuldnern je nur einen Teil oder das Ganze fordern. Soweit ein Solidarschuldner durch Zahlung oder Verrechnung den Gläubiger befriedigt hat, sind auch die übrigen befreit (Art. 147 Abs. 1 OR). Die Verrechnung bewirkt Schuldentilgung. Vorliegend bedeutet dies, dass die Honorarforderung des Beschwerdeführers im Umfang, wie sie mit den Klagforderungen der Beschwerdegegner zur Verrechnung gebracht wird, untergeht und somit insoweit nicht mehr (via Verrechnung) gefordert werden kann. Die in diesem Umfang befreiten Solidarschuldner müssen sich die Einrede der Verrechnung mangels Bestand der Verrechnungsforderung nicht entgegen halten lassen. Mit anderen Worten bewirkt die gleichzeitige Verrechnung der Gesamthonorarforderung von Fr. 269'010.80 mit den drei Klagforderungen von zusammen Fr. 304'194.50 eine um Fr. 35'183.70 überschiessende Befriedigung des Gläubigers im Aussenverhältnis. Dies ist von vornherein nicht zulässig und hätte vom Beschwerdeführer in seiner Verrechnungserklärung berücksichtigt werden müssen. Er hat aber nicht spezifiziert, gegenüber welchem der drei Beschwerdegegner er nur den Teil seiner Gesamthonorarforderung verrechnen will, der nach Verrechnung mit den Klagforderungen der anderen Beschwerdegegner verbleibt. Seine Erklärung leidet damit an einer Unklarheit, die zur Unwirksamkeit der Verrechnungseinrede führt.
4.3 Die Vorinstanz hat daher Art. 120 OR nicht verletzt, indem sie die Verrechnung mangels hinlänglicher Spezifizierung der Erklärung nicht zugelassen hat.
5. Die Beschwerde ist abzuweisen, soweit drauf eingetreten werden kann. Bei diesem Verfahrensausgang wird der Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 6'500.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegner für das bundesgerichtliche Verfahren insgesamt mit Fr. 7'500.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 7. April 2009
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Klett Widmer