Sachverhalt:
A. Der libanesische Staatsangehörige X._ (geb. 1978) reiste am 25. Januar 2008 in die Schweiz ein und heiratete gleichentags die Schweizer Bürgerin Y._. Gestützt auf die Heirat wurde ihm eine Aufenthaltsbewilligung erteilt.
Mit Schreiben vom 18. Januar 2009 teilte die Ehegattin der Sicherheitsdirektion (Migrationsamt) des Kantons Zürich mit, dass sie von ihrem Ehemann getrennt lebe und sich scheiden lassen möchte. Zur gleichen Zeit stellte sie ein Eheschutzbegehren beim Bezirksgericht A._. Mit Verfügung vom 10. März 2009 nahm die Einzelrichterin des Bezirksgerichts A._ Vormerk davon, dass die Eheleute ab 1. Mai 2009 auf unbestimmte Dauer getrennt lebten.
B. Mit Verfügung vom 25. August 2009 wies die Sicherheitsdirektion das Gesuch von X._ vom November 2008 um Verlängerung seiner Aufenthaltsbewilligung ab mit der Begründung, dass mit der Aufgabe der ehelichen Gemeinschaft spätestens am 1. Mai 2009 der Anspruch auf Verlängerung der Aufenthaltsbewilligung entfallen sei. Die dagegen von X._ im Kanton (Regierungsrat und Verwaltungsgericht) erhobenen Rechtsmittel blieben erfolglos.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 13. April 2010 beantragt X._, den Entscheid des Verwaltungsgerichts des Kantons Zürich vom 4. März 2010 aufzuheben und die Verlängerung seiner Aufenthaltsbewilligung anzuordnen. Zudem ersucht er um Gewährung der unentgeltlichen Prozessführung.
Das Bundesgericht hat die kantonalen Akten beigezogen, aber keine Vernehmlassungen eingeholt.

Erwägungen:
1. 1.1 Gemäss Art. 42 des Bundesgesetzes vom 16. Dezember 2005 über die Ausländerinnen und Ausländer (AuG; SR 142.20) kann der mit einer Schweizer Bürgerin verheiratete Beschwerdeführer einen Bewilligungsanspruch grundsätzlich geltend machen. Insoweit ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig (<ref-law> a contrario). Ob die Eheleute zusammenwohnen oder auf dieses Erfordernis gemäss Art. 49 AuG ausnahmsweise zu verzichten ist, kann für die Eintretensfrage offen bleiben (vgl. Urteil 2C_388/2009 vom 9. Dezember 2009 E. 1 mit Hinweis).
1.2 Die Eingabe des Beschwerdeführers an das Bundesgericht entspricht nahezu wörtlich der an die Vorinstanz gerichteten Rechtsmittelschrift und setzt sich insofern nicht mit den Erwägungen im angefochtenen Entscheid auseinander. Ob sie den Anforderungen an die Begründung nach <ref-law> zu genügen vermag, kann jedoch dahingestellt bleiben, da die Beschwerde ohnehin nicht durchdringt.
2. 2.1 Nach Art. 42 Abs. 1 AuG haben ausländische Ehegatten von Schweizerinnen und Schweizern Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung, "wenn sie mit diesen zusammenwohnen". Entgegen dem früheren Recht hängt bei Trennung der Ehegatten der Fortbestand des Aufenthaltsrechtes somit nicht mehr davon ab, ob die Ehe nur noch formell besteht und sich der Ausländer daher rechtsmissbräuchlich auf sie beruft (vgl. zu dieser Prüfung <ref-ruling> E. 4 S. 266 ff.; <ref-ruling> E. 4.2, 4.3, 10.2 und 10.3 S. 117 f. und 135 f.; <ref-ruling> E. 2 und 3 S. 151 ff. mit Hinweisen). Vielmehr fällt das Aufenthaltsrecht des nicht niederlassungsberechtigten Ehepartners - von den in Art. 49 und 50 AuG vorgesehenen besonderen Situationen abgesehen - mit der Trennung der Eheleute weg.
2.2 Der Beschwerdeführer lebt unbestrittenermassen spätestens seit dem 1. Mai 2009 getrennt von seiner Ehegattin. Er bringt indessen vor, er pflege weiter engen Kontakt mit seiner Ehefrau, mit der er ernsthafte Gespräche im Hinblick auf die Wiederaufnahme der ehelichen Gemeinschaft führe, und macht geltend, jede Familie habe das Recht, die notwendigen therapeutischen Massnahmen zur Versöhnung vornehmen zu können, wozu auch die vom Gesetzgeber vorgesehene Trennungsdauer von zwei Jahren diene.
Auf das Erfordernis des Zusammenwohnens der Eheleute nach Art. 42 Abs. 1 AuG wird gemäss Art. 49 AuG verzichtet, wenn wichtige Gründe geltend gemacht werden und die Familiengemeinschaft weiter besteht. Art. 76 der Verordnung vom 24. Oktober 2007 über Zulassung, Aufenthalt und Erwerbstätigkeit (VZAE; SR 142.201) nennt sowohl berufliche Verpflichtungen als auch "eine vorübergehende Trennung wegen erheblicher familiärer Probleme" als Beispiele für einen wichtigen Grund im Sinne von Art. 49 AuG. Doch weder mit Art. 49 AuG noch mit <ref-law> sollte die Praxis wieder eingeführt bzw. fortgesetzt werden, dass das Aufenthaltsrecht des Ehepartners eines Schweizers erst endet, wenn feststeht, dass die Ehe definitiv gescheitert und daher eine weitere Berufung auf sie rechtsmissbräuchlich ist. Daher ist nicht nach jeder Trennung von Eheleuten bereits von einer Ausnahmesituation nach dieser Bestimmung auszugehen. Vielmehr kann es nur um besondere Konstellationen bei der Trennung von Eheleuten gehen. Das kommt auch in den Wortlauten von Art. 49 AuG und von <ref-law> sowie aus der Botschaft hiezu (BBl 2002 3753 Ziff. 1.3.7.5 und 3795 zu Art. 48 E-AuG) zum Ausdruck. Diese nennen nur Trennungen aus "wichtigen" Gründen bzw. wegen "erheblicher" familiärer Probleme. Dazu wurden im Parlament Fälle häuslicher Gewalt genannt (Kommissionssprecherin Heberlein AB 2005 S 304 und Ständerätin Brunner AB 2005 S 310), wobei es um die Berücksichtigung der Situation der Opfer solcher Probleme ging (vgl. Bundesrat Blocher AB 2005 S 310).
Eine solche Konstellation liegt hier nicht vor. Im Übrigen ist aber auch keine andere besondere Situation gegeben, die eine Ausnahme vom Erfordernis des Zusammenwohnens nach Art. 49 AuG rechtfertigt. Es bestehen keine konkreten Anhaltspunkte dafür, dass sich die Eheleute in einer Paartherapie befänden und begründete Hoffnung auf eine Wiederaufnahme des ehelichen Zusammenlebens in Kürze bestünde, wofür entsprechende Belege erforderlich wären. Wie die Vorinstanz zutreffend festhält, sind die Anforderungen an den Nachweis des Fortbestands des Ehewillens und der ehelichen Gemeinschaft gerade bei längerfristigem Getrenntleben der Ehegatten besonders streng. Diesen Anforderungen vermögen die nicht substantiierten und unbelegten Vorbringen des Beschwerdeführers keineswegs zu genügen. Dies umso weniger, als eine Versöhnung angesichts der Aussagen und des Verhaltens der Ehegattin ausgeschlossen erscheint.
2.3 Im Übrigen macht der Beschwerdeführer zu Recht nicht geltend, sein Anspruch auf Verlängerung der Aufenthaltsbewilligung bestehe gestützt auf Art. 50 AuG weiter. Mangels einer tatsächlich gelebten und intakten ehelichen Beziehung kann sich der Beschwerdeführer auch nicht auf Art. 8 EMRK berufen.
2.4 Damit verstösst die Verweigerung der beantragten Verlängerung der Aufenthaltsbewilligung nicht gegen Bundesrecht. Weitere Ausführungen erübrigen sich. Es genügt, ergänzend auf die Erwägungen im angefochtenen Entscheid zu verweisen (<ref-law>).
3. Besteht kein Anwesenheitsanspruch, bedarf es keiner Prüfung, ob dem Beschwerdeführer die Rückreise ins Heimatland zumutbar ist. Auf seine diesbezüglichen Darlegungen ist daher nicht einzugehen. Sie könnten allenfalls bei der Prüfung der Erteilung einer Aufenthaltsbewilligung nach freiem Ermessen der Behörden berücksichtigt werden. Diesbezüglich ist jedoch die Beschwerde ans Bundesgericht ausgeschlossen (<ref-law>).
4. 4.1 Die Beschwerde erweist sich somit als offensichtlich unbegründet und ist im vereinfachten Verfahren nach <ref-law> abzuweisen, soweit darauf eingetreten werden kann.
4.2 Dem Gesuch des Beschwerdeführers um Gewährung der unentgeltlichen Rechtspflege kann wegen Aussichtslosigkeit der Beschwerdebegehren nicht entsprochen werden (<ref-law>). Der Beschwerdeführer hat somit die Kosten des bundesgerichtlichen Verfahrens zu tragen (Art. 65 f. BGG). Bei der Bemessung der Gerichtsgebühr wird seiner finanziellen Lage Rechnung getragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird dem Beschwerdeführer, der Sicherheitsdirektion des Kantons Zürich, dem Regierungsrat des Kantons Zürich, dem Verwaltungsgericht des Kantons Zürich, 4. Kammer, und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 26. Juli 2010
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Zünd Dubs