Sachverhalt: A. Der tunesische Staatsangehörige X._ (geb. 1978) reiste im Mai 2001 in die Schweiz ein und heiratete im Juli 2001 die Schweizerin Y._. Gestützt auf die Heirat wurde ihm eine Aufenthaltsbewilligung erteilt. Mit Urteil vom 28. November 2006 wurde die Ehe nach längerem Getrenntleben geschieden, worauf die Aufenthaltsbewilligung von X._ nicht mehr verlängert wurde. X._ beschwerte sich dagegen erfolglos beim Regierungsrat und sodann beim Verwaltungsgericht des Kantons Zürich. B. Am 22. September 2008 heiratete X._ die Schweizerin Z._ (geb. 1990) und nahm mit ihr das eheliche Zusammenleben auf. Am 21. Januar 2009 ersuchte X._ um Erteilung einer Aufenthaltsbewilligung. Mit Verfügung vom 4. März 2009 lehnte die Sicherheitsdirektion des Kantons Zürich, Migrationsamt, das Gesuch wegen weiterhin bestehender Fürsorgeabhängigkeit und wegen der vergangenen Straffälligkeit ab und setzte X._ Frist zum Verlassen der Schweiz an. C. Dagegen erhob X._ am 8. April 2009 Rekurs an den Regierungsrat des Kantons Zürich. Mit Verfügung vom 28. August 2009 nahm der Einzelrichter am Bezirksgericht Zürich vom Getrenntleben der Eheleute X._ und Z._ ab 15. März 2009 auf unbestimmte Dauer Kenntnis. Mit Beschluss vom 3. März 2010 bestätigte der Regierungsrat des Kantons Zürich die Nichtverlängerung der Aufenthaltsbewilligung . Die gegen den Regierungsratsbeschluss erhobene Beschwerde wies das Verwaltungsgericht des Kantons Zürich mit Entscheid vom 16. Juni 2010 ab, wobei es gleichzeitig auch das Gesuch um unentgeltliche Rechtspflege und Verbeiständung ablehnte. D. Dagegen führt X._ mit Eingabe vom 23. August 2010 Beschwerde in öffentlich-rechtlichen Angelegenheiten sowie subsidiäre Verfassungsbeschwerde beim Bundesgericht. Er beantragt, den angefochtenen Entscheid aufzuheben und die Sache an die Vorinstanz zurückzuweisen. Eventualiter stellt er den Antrag, den angefochtenen Entscheid aufzuheben und dem Beschwerdeführer die Aufenthaltsbewilligung zu erteilen. Zudem ersucht er sowohl für das vorinstanzliche Verfahren als auch für das bundesgerichtliche Beschwerdeverfahren um Gewährung der unentgeltlichen Rechtspflege und Verbeiständung. Das Verwaltungsgericht des Kantons Zürich verzichtet auf eine Vernehmlassung. Die Sicherheitsdirektion des Kantons Zürich schliesst auf Abweisung der Beschwerde. Die Vernehmlassung des Bundesamtes für Migration erfolgte verspätet. E. Der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts hat der Beschwerde mit Verfügung vom 27. August 2010 antragsgemäss die aufschiebende Wirkung zuerkannt.