Erwägungen:
1. 1.1 Der aus Nigeria stammende X._ (geb. 1968 bzw. 1978) reiste erstmals im Dezember 2002 in die Schweiz und stellte ein Asylgesuch. Dieses wurde rechtskräftig abgewiesen (vgl. den Nichteintretensentscheid der Schweizerischen Asylrekurskommission vom 24. März 2003). Der Ausreiseverpflichtung kam X._ nicht nach. Seine im Sommer 2005 angesetzte Ausschaffung vereitelte er durch Untertauchen. Anfang 2006 reiste er nach Nigeria aus und heiratete dort am 7. März 2006 die Schweizer Bürgerin Y._ (geb. 1952). Am 6. November 2006 kehrte er in die Schweiz zurück und erhielt in der Folge eine - zuletzt bis zum 5. November 2009 verlängerte - Aufenthaltsbewilligung zum Verbleib bei der Ehefrau.
1.2 Am 19. November 2009 lehnte das Migrationsamt des Kantons Zürich die Erneuerung der Aufenthaltsbewilligung ab und setzte X._ eine Frist zur Ausreise an. Die im Kanton erhobenen Rechtsmittel wurden vom Regierungsrat am 3. März 2010 und vom Verwaltungsgericht am 2. Juni 2010 abgewiesen.
1.3 Mit Beschwerde vom 5. Juli 2010 beantragt X._ dem Bundesgericht, den Entscheid des Verwaltungsgerichts vom 2. Juni 2010 aufzuheben und das kantonale Migrationsamt anzuweisen, ihm die Aufenthaltsbewilligung zu erneuern. Eventualiter sei die Sache zur Vervollständigung der Sachverhaltsfeststellung und zu neuem Entscheid im Sinne der Erwägungen an die Vorinstanz zurückzuweisen.
Das Bundesamt für Migration stellt den Antrag, die Beschwerde abzuweisen. Das Verwaltungsgericht hat auf eine Vernehmlassung verzichtet. Der Regierungsrat und die Sicherheitsdirektion des Kantons Zürich haben sich nicht geäussert.
1.4 Der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts hat der Beschwerde mit Verfügung vom 9. Juli 2010 antragsgemäss die aufschiebende Wirkung hinsichtlich der Ausreiseverpflichtung zuerkannt.
2. Da die Ehe mit der Schweizer Bürgerin zumindest formell noch immer besteht, ist auf die form- und fristgerechte Eingabe als Beschwerde in öffentlich-rechtlichen Angelegenheiten einzutreten, soweit es um die Bewilligung des Aufenthaltes nach Art. 42, 49 bzw. 50 AuG (SR 142.20) und Art. 8 EMRK sowie <ref-law> geht (vgl. <ref-law>; <ref-ruling> E. 1.2 S. 180).
3. 3.1 Die Vorinstanzen werfen dem Beschwerdeführer vor, er lebe seit Oktober 2008 von seiner Ehefrau getrennt. Wie sie richtig bemerken, setzt die Bewilligung nach dem hier einschlägigen, seit 1. Januar 2008 geltenden Art. 42 Abs. 1 AuG voraus, dass die Eheleute zusammenwohnen. Der Beschwerdeführer habe im Oktober 2008 eine Einzimmerwohnung - zu einer monatlichen Miete von rund Fr. 800.-- - in der Stadt Zürich bezogen, während seine Ehefrau weiterhin in Kloten lebe. Wichtige Gründe im Sinne von Art. 49 AuG für eine Ausnahme vom Erfordernis des Zusammenwohnens seien nicht gegeben.
3.2 Der Beschwerdeführer behauptet, die Anreise mit den öffentlichen Verkehrsmitteln zu seiner Arbeitsstelle in Dietlikon sei von Zürich wesentlich einfacher als von Kloten aus. Er müsse nicht umsteigen und laufe damit weniger Gefahr, zu spät zur Arbeit zu erscheinen. Sein Arbeitgeber lege grossen Wert auf Pünktlichkeit. Diese Argumentation haben die Vorinstanzen angesichts der diversen Verkehrsmöglichkeiten und der geringen Entfernung zwischen Kloten und Dietlikon in berechtigter Weise nicht gelten lassen. Zudem steht sie im Widerspruch zum Vorbringen des Beschwerdeführers, er sei trotz des Zimmers in Zürich auch oft in Kloten gewesen und sei ebenfalls von dort aus zur Arbeit gefahren. Damit räumt der Beschwerdeführer selber ein, dass er auch von Kloten aus ohne grössere Probleme zur Arbeit gelangen kann.
3.3 Der Beschwerdeführer macht zusätzlich geltend, seine Ehefrau habe längere Zeit sehr viel Ruhe gebraucht und an Schlafstörungen gelitten. Zunächst habe sie an der Grenze der Belastbarkeit gestanden und im Oktober 2008 ein "Burn-out" erlitten. Später sei sie wegen einer Krebserkrankung behandelt worden. Ihrem Ruhebedürfnis habe einzig dadurch Rechnung getragen werden können, dass der Beschwerdeführer die Wohnung verlassen habe. Weil die Wohnung sehr ringhörig sei, werde alles wahrgenommen, was die Mitbewohner machen.
Die Vorinstanzen halten dem Beschwerdeführer entgegen, es sei nicht belegt, dass das Ruhebedürfnis und die Schlafstörungen über die gesamte Zeit des Getrenntwohnens bestanden hätten. Zudem sei nicht erkennbar, weshalb keine anderen Lösungen in Frage gekommen seien. Aufgrund der ehelichen Beistandspflicht (vgl. <ref-law>) hätte im Übrigen erwartet werden können, dass der Beschwerdeführer seine Gattin während ihrer Erkrankung unterstützt. Hiegegen wendet der Beschwerdeführer ein, die Verrichtung des Haushalts habe das kleinste Problem dargestellt; die Ehefrau sei vielmehr psychisch angeschlagen gewesen und habe oft keine Leute um sich herum ertragen. Ausserdem habe die Dreizimmerwohnung in Kloten die Möglichkeit von getrennten Schlafzimmern nicht zugelassen.
Der zuletzt erwähnte Einwand geht fehl, nachdem der Beschwerdeführer selber zugibt, die Tochter seiner Gattin sei Ende 2007 aus der Ehewohnung ausgezogen. Der Beschwerdeführer hätte daher das frühere Zimmer der Stieftochter an den Tagen benutzen können, an denen seine Ehefrau wegen ihrer Erkrankung alleine schlafen wollte. In seiner Freizeit hätte er auch mit Kopfhörern fernsehen können, wenn er seine Ehefrau hierbei nicht stören wollte. Zu anderen Lösungen äussert sich der Beschwerdeführer denn auch nicht weiter, sondern begnügt sich mit der ausländerrechtlich nicht korrekten Aussage, es sei den Eheleuten überlassen, wie sie die schwierige Situation bewältigen. Ausserdem befasst er sich nicht mit dem Einwand, es sei nicht belegt, dass die Ehefrau im Zeitpunkt der Verfügung des Migrationsamts im November 2009 nach wie vor sehr viel Ruhe gebraucht habe (vgl. <ref-ruling> E. 6.3 S. 120 f. zu den Begründungsanforderungen nach <ref-law> bei sog. Mehrfachbegründungen).
Daher ist der Schluss der Vorinstanzen nicht zu beanstanden, dass die Ehegatten keinen Wert mehr auf eine Wohngemeinschaft legten und keine wichtigen Gründe nach Art. 49 AuG für das getrennte Wohnen vorlagen.
3.4 Bei der Vorinstanz machte der Beschwerdeführer als neues Vorbringen zusätzlich geltend, er habe seine Wohnung in Zürich mit Schreiben vom 17. März 2010 gekündigt und werde sie bis Ende April 2010 geräumt haben, um ab diesem Zeitpunkt wieder vollumfänglich mit seiner Ehefrau in Kloten zu wohnen.
Das Verwaltungsgericht wirft dem Beschwerdeführer vor, er habe trotz Mitwirkungspflicht keine stichhaltigen Beweismittel für die behauptete Änderung eingereicht. Namentlich habe er weder dargetan noch belegt, dass er die Kündigung den Vermietern wirklich zugestellt, sich mit Blick auf den angeblich vorzeitigen Auszug - laut Mietvertrag kann bloss auf Ende März oder September mit dreimonatiger Kündigungsfrist gekündigt werden - um Nachmieter bemüht oder in Zürich abgemeldet hat.
Der Beschwerdeführer rügt, die Vorinstanz hätte ihn zur Nachreichung weiterer Belege auffordern müssen, wenn sie die vorgelegte Kopie des Kündigungsschreibens als ungenügend betrachtete. Diese Rüge greift angesichts der Gesamtumstände nicht. Unter anderem war bereits das Asylgesuch des Beschwerdeführers mangels Glaubhaftigkeit seiner Angaben abgewiesen worden. Später befolgte dieser die Ausreiseverpflichtung nicht und tauchte sogar zeitweise unter. Im vorliegenden Verfahren hatte er gegenüber den Behörden zunächst geltend gemacht, es bestünden wichtige Gründe im Sinne von Art. 49 AuG für das Getrenntwohnen; insoweit hat sich erwiesen, dass diese nur als vorgeschoben gelten. Vor Verwaltungsgericht berief sich der Beschwerdeführer denn auch plötzlich alternativ bzw. zusätzlich auf die angebliche Aufgabe der Zürcher Wohnung, was in einem gewissen Widerspruch zu seiner bisherigen Argumentation steht. Demzufolge durfte die Vorinstanz verlangen, dass sich der anwaltlich vertretene Beschwerdeführer von sich aus nicht bloss mit der Vorlage einer Kopie eines Kündigungsschreibens und der Behauptung der Wiederaufnahme des Zusammenwohnens mit der Ehefrau begnügt (vgl. Urteil des Bundesgerichts 2C_388/2009 vom 9. Dezember 2009 E. 5). Die in diesem Zusammenhang erstmals im bundesgerichtlichen Verfahren nachgereichten Unterlagen sind im Übrigen als Noven aus dem Recht zu weisen (vgl. Art. 99 und 105 BGG; <ref-ruling> E. 3 S. 395; <ref-ruling> E. 2 S. 343 f.). Insoweit wird denn auch nicht dem vom Beschwerdeführer am 22. März 2010 beim Migrationsamt gestellten Wiedererwägungsgesuch vorgegriffen.
3.5 Demzufolge hat die Vorinstanz zu Recht die Verlängerung der Aufenthaltsbewilligung nach Art. 42 in Verbindung mit Art. 49 AuG sowie nach Art. 8 EMRK und <ref-law> verweigert. Der Beschwerdeführer kann auch keine Bewilligung gestützt auf Art. 50 Abs. 1 lit. a AuG verlangen, da die Ehegemeinschaft infolge des Auszugs aus der Ehewohnung im Oktober 2008 entgegen seiner Ansicht weniger als drei Jahre bestanden hatte. Im Rahmen dieser Bestimmung kommt es nicht nur auf den formellen Bestand der Ehe von mindestens drei Jahren an. Vielmehr muss - vorbehältlich eines hier nicht gegebenen Anwendungsfalles nach Art. 49 AuG - auch die Haushaltsgemeinschaft mindestens ebenso lange in der Schweiz gelebt worden sein (vgl. <ref-ruling> E. 3.2 und 3.3 S. 116 ff.). Schliesslich sind auch keine wichtigen persönlichen Gründe im Sinne von Art. 50 Abs. 1 lit. b AuG geltend gemacht worden oder ersichtlich.
4. 4.1 Nach dem Dargelegten erweist sich die Beschwerde als offensichtlich unbegründet. Daher ist sie mit summarischer Begründung nach <ref-law> abzuweisen, wobei ergänzend auf die Ausführungen in den Entscheiden des Verwaltungsgerichts und des Regierungsrates verwiesen wird.
4.2 Diesem Ausgang entsprechend hat der Beschwerdeführer die Kosten des bundesgerichtlichen Verfahrens zu tragen (Art. 65 f. BGG). Parteientschädigungen werden nicht geschuldet (vgl. <ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 4. Kammer, und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 21. Dezember 2010
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Merz