Sachverhalt: A. Die X._ Vermögensverwaltung AG (Beschwerdeführerin) ist eine Vermögensverwaltungsgesellschaft mit Sitz in Zürich, vormals in Appenzell. Sie bot Y._ (Beschwerdegegnerin) mit Wohnsitz in Ludwigsburg, Deutschland, ihre Dienste an und schloss mit ihr unter anderem einen Vermögensverwaltungsvertrag. Am 13. Februar 2009 kündigte die Beschwerdegegnerin den Vermögensverwaltungsvertrag und verlangte die Rückerstattung von Euro 66'088.03, zuzüglich entgangenen Gewinns von 4 % seit den jeweiligen Einzahlungen, sowie die Freistellung von etwaigen Verpflichtungen aus Versicherungs- und Depotverträgen. Sie setzte der Beschwerdeführerin Frist bis zum 5. März 2009 und drohte ihr für den Fall, dass sie keine Antwort erhalte oder keinen Geldeingang feststellen könne, gerichtliche Schritte an. B. Am 26. März 2009 erhob die Beschwerdeführerin gegen die Beschwerdegegnerin beim Bezirksgericht Zürich eine negative Feststellungsklage mit dem Begehren, es sei festzustellen, dass die Beschwerdegegnerin durch die Beschwerdeführerin in ihrem Vermögen nicht geschädigt worden sei und seitens der Beschwerdegegnerin gegenüber der Beschwerdeführerin kein Anspruch auf Schadenersatz aus Vertrag oder aus unerlaubter Handlung bestehe. Mit Beschluss vom 8. April 2009 trat das Bezirksgericht mangels Rechtsschutzinteresses auf die Klage nicht ein. Dagegen rekurrierte die Beschwerdeführerin an das Obergericht des Kantons Zürich, das den Rekurs mit Beschluss vom 17. Februar 2010 abwies und den erstinstanzlichen Beschluss bestätigte. Das Obergericht erwog unter Bezugnahme auf die bundesgerichtliche Rechtsprechung, dass auch im Anwendungsbereich des LugÜ für eine negative Feststellungsklage ein Feststellungsinteresse vorausgesetzt werden dürfe. Das Interesse des Schuldners, die Leistungsklage des Gläubigers an einem bestimmten Gerichtsstand durch eine frühere negative Feststellungsklage an einem anderen Gerichtsstand zu verhindern ("forum running"), bilde kein schutzwürdiges Feststellungsinteresse. Vorliegend gehe es der Beschwerdeführerin mit ihrer negativen Feststellungsklage erklärtermassen darum, einen ihr genehmen Gerichtsstand zu fixieren. Damit fehle es am Rechtsschutzinteresse und an einer Prozessvoraussetzung, weshalb das Bezirksgericht zu Recht nicht auf die Klage eingetreten sei. C. Die Beschwerdeführerin beantragt mit Beschwerde in Zivilsachen, den Beschluss des Obergerichts vom 17. Februar 2010 aufzuheben und die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Die Beschwerdegegnerin stellt den Antrag, die Beschwerde abzuweisen und den angefochtenen Beschluss zu bestätigen. Die Vorinstanz verzichtete auf eine Vernehmlassung. D. Mit Präsidialverfügung vom 30. April 2010 wurde das Gesuch der Beschwerdeführerin um Erteilung der aufschiebenden Wirkung abgewiesen.