Sachverhalt:
A. A.a A. X._ und B. X._ (Kläger) sind seit dem 1. Januar 1971 Mieter einer 5-Zimmerwohnung in Zürich. Ende Juni 1990 erwarb Y._ (Beklagter) diese Liegenschaft und veräusserte sie mit Vertrag vom 5. September 2000 der Y._ Immobilien AG (nachfolgend: Aktiengesellschaft), die er als Alleinaktionär und Verwaltungsratspräsident beherrscht. Der Handwechsel wurde den Klägern nicht mitgeteilt. Mit amtlichem Formular vom 19. März 2002 kündigte der Beklagte bzw. dessen Liegenschaftenverwaltung den Mietvertrag mit der Begründung "Eigenbedarf" frist- und formgerecht auf den 30. September 2002.
A.b Mit Eingabe vom 16. April 2002 beantragten die Kläger der Schlichtungsbehörde des Bezirks Zürich die Erstreckung des Mietverhältnisses um drei Jahre. Anlässlich der Schlichtungsverhandlung vom 11. Juni 2002 verlangten die Kläger, nunmehr anwaltlich vertreten, es sei die Kündigung als missbräuchlich zu erklären, eventualiter das Mietverhältnis um drei Jahre zu erstrecken. Nach durchgeführter Verhandlung einigten sich die Parteien auf die Gültigkeit der Kündigung per 30. September 2002 und die letztmalige Erstreckung des Mietverhältnisses bis und mit 30. Juni 2005. Hierauf wurde das Verfahren mit Beschluss vom 11. Juni 2002 als durch Vergleich erledigt abgeschrieben.
A.c Nachdem die Kläger im März 2004 erfahren hatten, dass nicht mehr der Beklagte, sondern die Aktiengesellschaft als Eigentümerin im Grundbuch eingetragen war, reichten sie gegen diese bei der Schlichtungsbehörde Zürich am 14. April 2004 ein Revisionsbegehren ein mit den Anträgen, den Beschluss vom 11. Juni 2002 aufzuheben und festzustellen, dass der anlässlich der Schlichtungsverhandlung geschlossene Vergleich für die Kläger wegen Irrtums über die Person des Vermieters unverbindlich sei. Die Schlichtungsbehörde berichtigte das Rubrum, indem sie statt der Aktiengesellschaft den Beklagten aufführte, und wies das Revisionsbegehren im Übrigen ab.
B. Am 16. Dezember 2004 reichten die Kläger dem Mietgericht Zürich Klage ein mit den Begehren, den Beschluss der Schlichtungsbehörde vom 11. Juni 2002 aufzuheben und festzustellen, dass der mit dem Beklagten abgeschlossene Vergleich vom 11. Juni 2002 für die Kläger unverbindlich sei. Ferner sei die Sache zur Durchführung des Schlichtungsverfahrens und zu neuer Beurteilung der Kündigungsschutzbegehren an die Schlichtungsbehörde zurückzuweisen. Das Mietgericht hielt sich - entgegen der Auffassung des Beklagten - für zuständig und wies die Klage am 17. Juni 2005 ab. Das Obergericht des Kantons Zürich wies am 11. April 2006 sowohl den Rekurs des Beklagten als auch die Berufung der Kläger ab und bestätigte den angefochtenen Entscheid.
C. Die Kläger führen Berufung beim Bundesgericht und erneuern im Wesentlichen ihre im kantonalen Verfahren gestellten Anträge. Eventualiter beantragen sie, die Sache an die Vorinstanz zurückzuweisen. Der Beklagte schliesst auf Abweisung der Berufung, soweit darauf einzutreten sei.
Das Bundesgericht zieht in Erwägung:
1. Die Kläger machen mit der Berufung geltend, die Vorinstanz habe Art. 24 Abs. 1 Ziff. 4 OR falsch angewendet, indem sie die objektive Wesentlichkeit des Irrtums über die Person des Vermieters verneint habe. Diese Rechtsfrage kann das Bundesgericht im Berufungsverfahren frei überprüfen.
1.1 Ein Vertrag ist für denjenigen unverbindlich, der sich beim Abschluss in einem wesentlichen Irrtum befunden hat (Art. 23 OR). Als wesentlich gilt ein Irrtum namentlich, wenn er einen bestimmten Sachverhalt betraf, der vom Irrenden nach Treu und Glauben im Geschäftsverkehr als eine notwendige Grundlage des Vertrages betrachtet wurde (Grundlagenirrtum, Art. 24 Abs. 1 Ziff. 4 OR).
1.2 Die Vorinstanz ging davon aus, mit dem Verkauf der Liegenschaft an die Aktiengesellschaft sei diese nach der zwingenden Bestimmung des Art. 261 Abs. 1 OR als Vermieterin in das Mietverhältnis eingetreten. Demnach habe der Beklagte die Kündigung in eigenem Namen als Nichtvermieter ausgesprochen. Dass die Kündigung eines vollmachtlosen Dritten als solche nichtig ist (Weber, Basler Kommentar, 3. Aufl., N. 29 zu Art. 271/271a OR), stellt auch die Vorinstanz nicht in Frage. Ferner ist unumstritten, dass die Kläger anlässlich der Vergleichsgespräche und beim Abschluss des Vergleichs irrtümlich annahmen, sie seien nach wie vor mit dem Beklagten in einem Mietverhältnis verbunden. Diesem Irrtum sprach die Vorinstanz die Wesentlichkeit ab, obwohl nach ihrer Auffassung grundsätzlich ein wesentlicher Irrtum anzunehmen ist, "wenn eine Vertragspartei irrtümlicherweise mit einer Nichtvertragspartei Vereinbarungen über ein Mietverhältnis trifft." Sie erwog, es hätte sich am Erstreckungsvergleich nichts oder nur minim etwas geändert, sofern dieser mit der Aktiengesellschaft abgeschlossen worden wäre. Auch die Anfechtung der Kündigung hätte den Klägern nur die Verzögerung einer neuen Kündigung (mit erneutem Verfahren) gebracht, da der Beklagte die Kündigung auch in seiner Eigenschaft als Alleinaktionär und Verwaltungsrat der Aktiengesellschaft ausgesprochen hätte, weshalb das Mietverhältnis früher oder später ohnehin endete.
1.3 Mit dem Vergleichsvertrag legen die beteiligten Parteien einen Streit oder eine Ungewissheit über ein Rechtsverhältnis mit gegenseitigen Zugeständnissen bei (BGE 130 III 49 E. 1.2 S. 51; 121 III 397 E. 2c S. 404 f., je mit Hinweisen). Als Vertrag des Privatrechts untersteht grundsätzlich auch der gerichtliche Vergleich den Irrtumsregeln (BGE 110 II 44 E. 4 S. 46; 105 II 273 E. 3a S. 277, je mit Hinweisen). Als nach Art. 24 Abs. 1 Ziff. 4 OR relevante Sachverhalte kommen Umstände in Betracht, die von beiden Parteien oder von der einen für die andere erkennbar dem Vergleich als feststehende Tatsachen zu Grunde gelegt worden sind (BGE 130 III 49 E. 1.2 S. 52; 117 II 218 E. 4b S. 226; 82 II 371 E. 2 S. 375 f.). Die Berufung auf Grundlagenirrtum kann zudem nur erfolgreich sein, wenn der Anfechtende sich über einen bestimmten Sachverhalt geirrt hat, der für ihn notwendige Vertragsgrundlage bildete und der nach Treu und Glauben im Geschäftsverkehr als gegeben vorausgesetzt werden durfte (Art. 24 Abs. 1 Ziff. 4 OR; BGE 132 II 161 E. 4.1 S. 165 f.; 123 III 200 E. 2 S. 202; 118 II 58 E. 3b S. 62, 297 E. 2 S. 299 ff.). Objektiv wesentlich ist danach eine falsche Vorstellung, die notwendigerweise beiden Parteien bewusst oder unbewusst gemeinsam und bei objektiver Betrachtung eine unerlässliche Voraussetzung für den Abschluss des Vertrages gewesen ist (BGE 113 II 25 E. 1 S. 27 mit Hinweis; vgl. auch BGE 118 II 297 E. 2b S. 300). Irrtum über Eigenschaften des Vertragspartners vermögen unter Umständen einen Grundlagenirrtum zu begründen (Schwenzer, Basler Kommentar, 3. Aufl., N. 25 zu Art. 24 OR; Bucher, Schweizerisches Obligationenrecht, Allgemeiner Teil, 2. Aufl., S. 200, insbes. Fn. 24). Abzustellen ist auf die tatsächlichen Verhältnisse im Zeitpunkt des Vertragsschlusses. Die Anfechtbarkeit darf nicht im Sinne einer Abwägung der im Zeitpunkt der Berufung auf den Irrtum bestehenden Vertragsinteressen der Parteien davon abhängig gemacht werden, ob die einseitige Unverbindlichkeit des Vertrages als unverhältnismässige Rechtsfolge erscheint. Die Geltendmachung des Irrtums verstösst vielmehr nur dann gegen Treu und Glauben, wenn es sich um unnütze Rechtsausübung handelt oder ein krasses Missverhältnis der Interessen besteht (BGE 123 III 200 E. 2a und b S. 203 f.).
2. 2.1 Nach dem angefochtenen Entscheid machten die Kläger geltend, sie hätten im Wissen darum, dass der Beklagte keine Vermieterstellung hatte, den Vergleich nicht abgeschlossen, sondern verlangt, die Kündigung als unwirksam zu erklären, um alsdann die Gültigkeit einer neuen, von der Aktiengesellschaft ausgesprochenen Kündigung anfechten zu können. Der Irrtum über die Vermietereigenschaft des Beklagten sei objektiv wesentlich, weil das Risiko bestand, dass die Aktiengesellschaft den Vergleich nicht gegen sich gelten lassen würde. Diesem Einwand begegnete die Vorinstanz mit dem Hinweis darauf, die Aktiengesellschaft habe im Nachhinein schriftlich bestätigt, dass sie sich an den Vergleich halten werde, und sie habe sich in der ganzen Zeit nach Vergleichsabschluss so verhalten, als ob sie selbst den Vergleich mit den Klägern geschlossen hätte.
2.2 In der Berufung vertreten die Kläger den Standpunkt, für die Beurteilung der objektiven Wesentlichkeit des Irrtums könnten nur Sachumstände massgeblich sein, von denen der Irrende im Zeitpunkt des Vertragsschlusses Kenntnis hatte. Die Kläger müssten sich deshalb nicht entgegenhalten lassen, ihre Befürchtung, die Aktiengesellschaft könnte sich nicht an den Vergleichsvertrag halten, sei mit Blick auf das Verhalten im Nachgang des Vergleichsabschlusses nicht nachvollziehbar.
2.3 Die Rüge ist begründet. Nach dem Gesagten (E. 1.3 hiervor) ist für die Beantwortung der Frage, ob der Irrtum der Kläger auch objektiv wesentlich ist, entscheidend, ob die falsche Vorstellung notwendigerweise beiden Parteien gemeinsam und bei objektiver Betrachtung eine unerlässliche Voraussetzung für den Abschluss des Vertrages gewesen ist (BGE 113 II 25 E. 1 S. 27 mit Hinweis). Diese Voraussetzung ist hier gegeben. Denn wäre die wahre Sachlage bereits anlässlich der Schlichtungsverhandlung bekannt geworden, wäre ohne Zweifel die Nichtigkeit der Kündigung festgestellt und das Verfahren dadurch erledigt worden. Zu einem Vorschlag, einen Vergleich wie den nunmehr angefochtenen abzuschliessen, wäre es gar nicht gekommen. Jedenfalls hätte ein sorgfältiger Anwalt seinem Klienten Ablehnung empfehlen müssen, da ein derartiger Vergleich gegenüber der Vermieterin als "res inter alios acta" grundsätzlich wirkungslos wäre und den Mietern keinerlei vollstreckbare Rechte eingeräumt hätte. Daran vermag nichts zu ändern, dass der kündigende Beklagte die Vermieterin wirtschaftlich beherrschte und deren Verwaltungsrat war, denn die rechtliche Selbständigkeit juristischer Personen ist zu beachten, es sei denn, sie werde im Einzelfall rechtsmissbräuchlich geltend gemacht (BGE 132 III 489 E. 3.2 S. 493; 121 III 319 E. 5a/aa S. 321; 113 II 31 E. 2c S. 36, je mit Hinweisen). Ob sich die Kläger, sollten sie den Vergleich gegen die AG durchsetzen müssen, erfolgreich auf den "umgekehrten Durchgriff" (BGE 132 III 489 E. 3.2 S. 493 mit Hinweisen) berufen könnten, erscheint fraglich. Ein entsprechender Versuch ist ihnen aber nicht zuzumuten, ist es doch der Beklagte, der seine Vermögensverhältnisse auf eine bestimmte Weise geordnet hat und sich dabei behaften lassen muss. Ist demgemäss davon auszugehen, dass der Vergleich in Kenntnis der wahren Sachlage überhaupt nicht zustande gekommen wäre, ist mit Blick auf die Frage der Wesentlichkeit des Irrtums entgegen der Auffassung der Vorinstanz nicht von Belang, wie es sich verhalten hätte, wenn der Vergleich mit der Aktiengesellschaft abgeschlossen worden wäre.
3. 3.1 Zu beachten ist indessen, dass die Berufung auf Irrtum nach Art. 25 Abs. 1 OR unstatthaft ist, wenn sie Treu und Glauben widerspricht. Ob dies zutrifft, ist durch eine Abwägung des Interesses des Irrenden an der Anfechtung gegen jenes des Vertragspartners an der Aufrechterhaltung des Vertrages zu ermitteln. Massgebend sind die Interessen beider Parteien, wie sie sich im Zeitpunkt der Geltendmachung des Irrtums darstellen. Zeigt sich, dass die Berufung auf Irrtum dem Irrenden kaum Vorteile, dem Anfechtungsgegner aber schwere Nachteile bringt, verstösst sie gegen Treu und Glauben und ist unzulässig (Schmidlin, Berner Kommentar, N. 7 und 8 zu Art. 25 OR, mit Hinweisen). Wie es sich damit verhält, ist im Folgenden zu prüfen.
3.2 Die Kläger haben im kantonalen Verfahren für den Fall, dass die Kündigung des Beklagten keine Sperrfrist ausgelöst haben sollte, angeführt, bei einer Ungültigerklärung hätte zumindest die Möglichkeit bestanden, eine zweite, von der Aktiengesellschaft ausgesprochene Kündigung erneut anzufechten und wiederum deren Ungültigerklärung zu beantragen. Die Vorinstanz vertritt demgegenüber die Auffassung, es spiele keine entscheidende Rolle, ob und inwiefern eine Aktiengesellschaft als Vermieterin eine Kündigung mit Eigenbedarf des Aktionärs begründen könne, denn selbst wenn anlässlich der Schlichtungsverhandlung die Eigentümerstellung der Aktiengesellschaft bekannt und allein deren Eigenbedarf bei der Interessenabwägung berücksichtigt worden wäre, sei anzunehmen, dass das Mietverhältnis nur unbedeutend länger erstreckt worden wäre, wenn überhaupt, hätten doch auch die Mieter mit dem Hinweis auf ihr tatsächlich sehr langes Mietverhältnis und die entsprechende Verwurzelung im Quartier kein überaus gewichtiges Interesse geltend machen können. Im Übrigen sei allein schon durch das Verfahren die maximale Erstreckungsdauer von vier Jahren bald erreicht.
3.3 Die Kläger halten in ihrer Berufung daran fest, dass im Rahmen der Kündigung durch die Aktiengesellschaft der Eigenbedarf des Beklagten bei der Interessenabwägung nach Art. 272 OR weniger stark ins Gewicht gefallen wäre als bei einer Kündigung durch diesen. Zu berücksichtigen seien nur die Interessen der Vertragsparteien selbst. An der Schlichtungsverhandlung sei der Eigenbedarf ausschliesslich mit persönlichen Interessen des Beklagten begründet worden. Demgegenüber verfolge die Aktiengesellschaft nach ihrem gesetzlichen und statutarischen Zweck ausschliesslich wirtschaftliche Ziele. Diesen könnte die Berücksichtigung des Eigenbedarfs des Beklagten sogar nachteilig sein, weil die Aktiengesellschaft dadurch Mietzinseinnahmen verlöre. Die Kläger folgern daraus, es treffe nicht zu, dass im Falle einer Kündigung durch die Aktiengesellschaft wegen Eigenbedarfs des Beklagten das Mietverhältnis - wenn überhaupt - nur unbedeutend länger erstreckt worden wäre.
3.3 Die Kläger halten in ihrer Berufung daran fest, dass im Rahmen der Kündigung durch die Aktiengesellschaft der Eigenbedarf des Beklagten bei der Interessenabwägung nach Art. 272 OR weniger stark ins Gewicht gefallen wäre als bei einer Kündigung durch diesen. Zu berücksichtigen seien nur die Interessen der Vertragsparteien selbst. An der Schlichtungsverhandlung sei der Eigenbedarf ausschliesslich mit persönlichen Interessen des Beklagten begründet worden. Demgegenüber verfolge die Aktiengesellschaft nach ihrem gesetzlichen und statutarischen Zweck ausschliesslich wirtschaftliche Ziele. Diesen könnte die Berücksichtigung des Eigenbedarfs des Beklagten sogar nachteilig sein, weil die Aktiengesellschaft dadurch Mietzinseinnahmen verlöre. Die Kläger folgern daraus, es treffe nicht zu, dass im Falle einer Kündigung durch die Aktiengesellschaft wegen Eigenbedarfs des Beklagten das Mietverhältnis - wenn überhaupt - nur unbedeutend länger erstreckt worden wäre.
3.4 3.4.1 Klarzustellen ist zunächst, dass mit dem "Eigenbedarf der Aktiengesellschaft", welchen die Vorinstanz in E. 2b/dd erwähnt, nichts anderes als die Absicht des Alleinaktionärs, in die von den Klägern bewohnte Wohnung zu ziehen, gemeint sein kann, geht doch aus dem angefochtenen Urteil nicht hervor und ist nicht ersichtlich, dass die Aktiengesellschaft selbst die Wohnung hätte nutzen wollen und wurden auch keinerlei diesbezügliche Behauptungen aufgestellt. Als Rechtsfrage zu prüfen ist somit, ob die Vorinstanz zutreffend angenommen hat, bei einer (hypothetischen) mit derartigem "Eigenbedarf" begründeten Kündigung durch die Aktiengesellschaft kurz nach der Schlichtungsverhandlung hätten die Kläger mit hoher Wahrscheinlichkeit bestenfalls etwa dieselbe Erstreckung wie mit dem Vergleich erreicht.
3.4.2 Bei der Miete von Wohn- und Geschäftsräumen ist eine Kündigung anfechtbar, wenn sie gegen Treu und Glauben verstösst (Art. 271 OR). Ein solcher Verstoss ist zu bejahen, wenn die Kündigung auf keinem schützenswerten Interesse beruht und damit schikanös ist oder zu einem krassen Missverhältnis berechtigter Interessen führen würde (BGE 120 II 31 E. 4a S. 33; Urteil des Bundesgerichts 4C.61/2005 vom 27. Mai 2005, E. 4.1, publ. in: SJ 2006 I S. 34 f. mit Hinweisen). Damit sich die Parteien ein Bild von der Interessenlage machen können, muss die Kündigung auf Verlangen begründet werden (Art. 271 Abs. 2 OR; Lachat/Stoll/Weber, Das Mietrecht für die Praxis, 4. Aufl., Kap. 29 Rz. 3.1 S. 524). Eine mangelnde oder fehlerhafte Begründung kann ein Indiz dafür sein, dass ein objektiv erkennbares, ernstgemeintes und schützenswertes Interesse an der Kündigung nicht besteht (BGE 125 III 231 E. 4b S. 239 f. mit Hinweis).
3.4.3 Der dringende Eigenbedarf im Sinne von Art. 271a Abs. 3 lit. a OR ist nach der Rechtsprechung des Bundesgerichts immer dann gegeben, wenn es dem Vermieter aus wirtschaftlichen oder anderen Gründen nicht zumutbar ist, auf die Benutzung der vermieteten Wohnung oder des Hauses zu verzichten. Beim Entscheid über diese Frage sind alle erheblichen Umstände des Falles zu würdigen. Das Erfordernis der Dringlichkeit ist dabei nicht allein zeitlich, sondern auch sachlich zu verstehen. Es müssen Gründe vorliegen, denen auch nach objektiver Beurteilung eine gewisse Bedeutung zukommt. Liegt ein dringender Eigenbedarf des Vermieters vor, sind bei der Erstreckung dessen Interessen gegenüber jenen des Mieters abzuwägen (BGE 118 II 50 E. 3d S. 55). Dabei ist auf die wahren Interessen der Parteien abzustellen, weshalb bloss vorgeschobene Kündigungsgründe insoweit unbeachtlich sind (vgl. BGE 120 II 31 E. 4a S. 33). Der Bedarf muss sich auf den direkten Gebrauch durch den Vermieter selbst oder eine der im Gesetz erwähnten ihm nahe stehenden Personen beziehen (Higi, Zürcher Kommentar, N. 190 zu Art. 271a OR). Weder kann der Vermieter im Hinblick auf einen Verkauf der Liegenschaft das Interesse des zukünftigen Erwerbers geltend machen (Lachat, Le bail à loyer, Kapitel 30.3.8 S. 504) noch der Erwerber den Bedarf des früheren Vermieters. Die Frage, ob sich eine Aktiengesellschaft auf das dringende Interesse an der Nutzung des Mietobjekts durch einen Aktionär berufen kann, wird in der Literatur uneinheitlich beantwortet. Die Ansichten reichen von vorbehaltloser Bejahung (SVIT-Kommentar, 2. Aufl., N. 54 zu Art. 272 OR) über geringfügige Berücksichtigung des Bedarfs des Aktionärs bei der Interessenabwägung (Lachat, Commentaire romand, N. 13 zu Art. 272 OR; Ders., Le bail à loyer, S. 503, Fn. 78, mit Hinweisen) bis zu klarer Verneinung (Higi, a.a.O., N. 191 zu Art. 271a OR). Das Bundesgericht hatte die Frage bislang nicht zu entscheiden (vgl. zur Beurteilung des Eigenbedarfs juristischer Personen BGE 115 II 181 E. 2a S. 185). Es hat aber in seinem Urteil 4C.139/2000 vom 10. Juli 2000, E. 2b, im Zusammenhang mit einer Mieterstreckung in einem obiter dictum immerhin klar festgehalten, die Berufung einer juristischen Person auf den Wunsch ihres Aktionärs, selbst die vermieteten Räumlichkeiten zu bewohnen, breche sich am Einwand, dass es sich beim Aktionär um eine von der Gesellschaft unabhängige Person handle.
3.5 Nach dem Gesagten steht fest, dass sich die Rechtslage bei einer Kündigung durch die Aktiengesellschaft wesentlich anders präsentiert hätte, als wenn der Beklagte entsprechend der Vorstellung der Kläger Vermieter gewesen wäre. Sollte der angerufene Kündigungsgrund letztlich unbeachtlich sein, könnte sich die Kündigung als grundlos und daher mangels schützenswerten Interesses der Aktiengesellschaft an der Kündigung bzw. wegen offensichtlichen Missverhältnisses der beteiligten Interessen als anfechtbar erweisen (Weber, a.a.O., N. 3 zu Art. 271/271a OR; Lachat, Commentaire romand, N. 6 zu Art. 271 OR; Merz, Berner Kommentar, N. 386 zu Art. 2 ZGB). Diesfalls würden die Kläger mit ihrem Hauptbegehren auf Ungültigerklärung der Kündigung obsiegen und könnten sich alsdann gegenüber einer neuen Kündigung auf die Sperrfrist nach Art. 271a Abs. 1 lit. e OR berufen. Aber auch wenn der Eigenbedarf des Aktionärs als Interesse an der Rechtsausübung durch die Aktiengesellschaft grundsätzlich in Frage käme, kann der hypothetische Ermessensentscheid des Sachrichters bei der Interessenabwägung nicht in der Weise vorweggenommen werden, dass eine merkliche Besserstellung der Kläger als beim Vergleich mit Sicherheit ausscheidet. Mit dieser Rechtslage lässt sich die Annahme der Vorinstanz, die Anfechtung des Vertrages wegen Grundlagenirrtums bringe dem Irrenden kaum Vorteile, dem Anfechtungsgegner aber schwere Nachteile (E. 3.1 hiervor), nicht vereinbaren. Da sich die Kläger nach dem Gesagten vielmehr in guten Treuen zur Anfechtung des Vergleichs veranlasst sehen durften, hat entgegen der Auffassung der Vorinstanz auch die Dauer des Anfechtungsprozesses ausser Acht zu bleiben. Sie bildet jedenfalls für sich genommen keinen Grund, die Anfechtung an Art. 25 Abs. 1 OR scheitern zu lassen. Würde die Anfechtung nicht zugelassen, müssten sich die Kläger den Vorwurf gefallen lassen, gegen einen gültig geschlossenen Vergleich verstossen zu haben, indem sie nach dem 30. Juni 2005 im Mietobjekt verblieben. Die Kläger haben ein legitimes Interesse daran, dies zu vermeiden.
4. Aus den dargelegten Gründen erweisen sich die Berufung und die Klage als begründet und sind gutzuheissen. Demgemäss ist der Beschluss des Obergerichts des Kantons Zürich vom 11. April 2006 aufzuheben, soweit er die kantonale Berufung der Kläger abweist, und festzustellen, dass der anlässlich der Schlichtungsverhandlung vom 11. Mai 2002 abgeschlossene Vergleich für die Kläger unverbindlich ist. Die Sache ist zur Neuregelung der Kosten- und Entschädigungsfolgen des kantonalen Verfahrens an die Vorinstanz zurückzuweisen. Nicht zu hören ist dagegen das Begehren der Kläger, die Vorinstanz anzuweisen, das Verfahren an die Schlichtungsbehörde zur Durchführung eines Schlichtungsverfahrens zurückzuweisen. Soweit es sich dabei nicht ohnehin um kantonalrechtliche Fragen handelt, welche im Rahmen der Berufung nicht zu behandeln sind (BGE 127 III 248 E. 2c S. 252 mit Hinweisen), begründen die Kläger diesen Antrag mit keinem Wort und genügen damit ihrer Begründungspflicht nicht (Art. 55 Abs. 1 lit. c OG; BGE 121 III 397 E. 2a S. 400; 116 II 745 E. 3 S. 748 f.). Dem Verfahrensausgang entsprechend ist die Gerichtsgebühr dem Beklagten aufzuerlegen (Art. 156 Abs. 1 OG), der zudem die Kläger für das bundesgerichtliche Verfahren zu entschädigen hat (Art. 159 Abs. 2 OG).
Demnach erkennt das Bundesgericht:
1. In Gutheissung von Berufung und Klage wird der Beschluss des Obergerichts des Kantons Zürich, II. Zivilkammer, vom 11. April 2006 betreffend Abweisung der kantonalen Berufung aufgehoben und festgestellt, dass der anlässlich der Schlichtungsverhandlung vom 11. Mai 2002 abgeschlossene Vergleich für die Kläger unverbindlich ist.
2. Die Gerichtsgebühr von Fr. 3'000.-- wird dem Beklagten auferlegt.
3. Der Beklagte hat die Kläger für das bundesgerichtliche Verfahren mit insgesamt Fr. 3'500.-- zu entschädigen.
4. Die Sache wird zur Neuregelung der Kosten- und Entschädigungsfolgen des kantonalen Verfahrens an die Vorinstanz zurückgewiesen.
5. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 5. September 2006
Im Namen der I. Zivilabteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber: