Sachverhalt: A. X._, Bauagentur und Rohstoffhandel, (Beschwerdeführer) mit Wohnsitz in Deutschland schloss im Februar oder März 2005 als Verkäufer mit Z._, Maler Gipser Isolationen, Rechtsvorgänger der Y._AG (Beschwerdegegnerin) mit Sitz in der Schweiz, einen Kaufvertrag über 191 kg Graffitischutzmittel ab. Der Beschwerdeführer verpflichtete sich zudem, das verkaufte Graffitischutzmittel in die Schweiz zu bringen. Die Ware wurde gemäss Lieferschein bzw. Auftragsbestätigung vom 13. April 2005 geliefert. Lieferadresse war das Magazin des Rechtsvorgängers der Beschwerdegegnerin an der A._strasse in B._. Mit Schreiben vom 7. Februar 2006 erhob der Rechtsvorgänger der Beschwerdegegnerin eine Mängelrüge wegen Blasenbildung an diversen Fassadenflächen infolge des darauf applizierten Graffitischutzmittels. B. Der Rechtsvorgänger der Beschwerdegegnerin klagte unter Einreichung der Weisung des Friedensrichteramtes B._ vom 26. Juni 2007 beim Bezirksgericht Hinwil, der Beschwerdeführer sei zu verpflichten, Fr. 162'430.65 zuzüglich 5 % Zins seit 15. April 2007 sowie zuzüglich Fr. 357.-- Kosten der Weisung zu bezahlen. Da der Beschwerdeführer die Einrede der Unzuständigkeit erhob, wurde in der Folge das Verfahren auf die Frage der örtlichen Zuständigkeit beschränkt. Mit Beschluss vom 24. April 2008 trat das Bezirksgericht Hinwil auf die Klage nicht ein. Gegen diesen Beschluss gelangte der Rechtsvorgänger der Beschwerdegegnerin mit Rekurs an das Obergericht des Kantons Zürich, I. Zivilkammer. Er beantragte, den Beschluss des Bezirksgerichts aufzuheben und das Bezirksgericht anzuweisen, auf die Klage einzutreten. Mit Verfügung vom 19. September 2008 wurde die Beschwerdegegnerin an Stelle ihres Rechtsvorgängers neu ins Verfahren aufgenommen. Das Obergericht bejahte die internationale und örtliche Zuständigkeit des Bezirksgerichts. Mit Beschluss vom 6. Februar 2009 hob es daher in Gutheissung des Rekurses den Beschluss des Bezirksgerichts Hinwil vom 24. April 2008 auf und wies das Bezirksgericht an, auf die Klage einzutreten. C. Mit Beschwerde in Zivilsachen vom 13. März 2009 beantragt der Beschwerdeführer dem Bundesgericht, den Beschluss des Obergerichts vom 6. Februar 2009 aufzuheben und den Beschluss des Bezirksgerichts Hinwil vom 24. April 2008 zu bestätigen. Zudem ersucht er darum, der Beschwerde die aufschiebende Wirkung zu erteilen. Die Beschwerdegegnerin schliesst auf Abweisung der Beschwerde, soweit darauf einzutreten sei. Der Beschluss des Obergerichts vom 6. Februar 2009 sei zu bestätigen. Das Obergericht verzichtete auf eine Vernehmlassung. Der Beschwerdeführer hat eine Replik und die Beschwerdegegnerin eine Duplik eingereicht. D. Mit Präsidialverfügung vom 8. April 2009 wurde das Gesuch der Beschwerdegegnerin um Erlass eines Vor- oder Zwischenentscheides über die Zulässigkeit der Beschwerde in Zivilsachen unter dem Gesichtspunkt von Art. 75 Abs. 1 BGG abgewiesen. Der Beschwerde wurde mit Präsidialverfügung vom 29. April 2009 die aufschiebende Wirkung erteilt.