Sachverhalt: A. A.a A.C._ und B.C._ (Beschwerdeführer) sind seit 1. April 1996 Mieter einer 5 1/2-Zimmerwohnung und einer Garage an der X._-Strasse 14 bzw. 19 in Y._. In der Folge mieteten sie noch einen Abstellraum sowie einen Einstellplatz hinzu. Mit zwei amtlichen Formularen vom 10. Januar 2007 kündigten D._, E._ und F._ (Beschwerdegegner) sämtliche mit den Beschwerdeführern abgeschlossene Mietverhältnisse auf den 31. August 2007 mit der Begründung "umfassende Gesamtsanierung". Im Begleitschreiben dazu wurde ausgeführt, dass angesichts der geplanten Sanierungsmassnahmen (vollständige Auswechslung der Küchen, Bäder und sämtlicher Leitungsinstallationen, Veränderung der Wohnungsgrundrisse und Erneuerung der Wand- und Bodenbeläge) ein Wohnen während der Sanierungsarbeiten im Mietobjekt absolut unzumutbar sei. Im Anschluss an die Kündigung unterbreiteten die Beschwerdegegner den Mietern eine Offerte zum Abschluss eines neuen Mietvertrags nach erfolgter Gesamtsanierung. B. B.a Die Beschwerdeführer fochten die Kündigung rechtzeitig bei der Schlichtungsbehörde an. Mit Beschluss vom 27. April 2007 stellte die Schlichtungsbehörde die Gültigkeit der per 31. August 2007 ausgesprochenen Kündigung fest und wies das Erstreckungsbegehren der Beschwerdeführer ab. Diese gelangten daraufhin an das Mietgericht des Bezirkes Horgen. Mit Urteil vom 24. September 2007 stellte das Mietgericht die Gültigkeit der Kündigung per 31. August 2007 fest. Gleichzeitig erstreckte es die Mietverhältnisse einmalig um fünf Monate, d.h. bis zum 31. Januar 2008. B.b Die von den Beschwerdeführern gegen das Urteil des Mietgerichts des Bezirkes Horgen vom 24. September 2007 erhobene Berufung wies das Obergericht des Kantons Zürich mit Beschluss vom 23. Juli 2008 ab. C. Mit Beschwerde in Zivilsachen beantragen die Beschwerdeführer dem Bundesgericht, es sei der Beschluss des Obergerichts des Kantons Zürich vom 23. Juli 2008 aufzuheben und es sei die am 10. Januar 2007 auf den 31. August 2007 ausgesprochene Kündigung als rechtsmissbräuchlich zu erklären. Eventualiter sei der angefochtene Entscheid aufzuheben und zur Neubeurteilung an die Vorinstanz zurückzuweisen. Die Beschwerdegegner schliessen in ihrer Beschwerdeantwort auf Abweisung der Beschwerde, soweit darauf eingetreten werden könne. Die Vorinstanz hat auf eine Vernehmlassung verzichtet. D. Mit Präsidialverfügung vom 1. Oktober 2008 wurde der Beschwerde auf Antrag der Beschwerdeführer die aufschiebende Wirkung erteilt.