Sachverhalt:
A. Der indische Staatsangehörige X._ (geb. 1966) reiste im September 2002 in die Schweiz ein und stellte ein Asylgesuch. Das Bundesamt für Flüchtlinge lehnte dieses am 3. Oktober 2002 ab und wies X._ aus der Schweiz weg. Auf die dagegen erhobene Beschwerde trat die Schweizerische Asylrekurskommission mit Urteil vom 19. Dezember 2002 nicht ein. Ab Oktober 2004 galt X._ als verschwunden.
Am 20. Juni 2006 heiratete X._ in Zürich die Schweizer Bürgerin Y._ (geb. 1932), worauf ihm eine Aufenthaltsbewilligung für den Kanton Zürich erteilt wurde. Diese wurde letztmals bis zum 19. Juni 2008 verlängert.
Y._ verstarb nach einer Erkrankung am 20. Oktober 2007. Am 30. Mai 2008 ersuchte X._ um Verlängerung seiner Aufenthaltsbewilligung, was das Migrationsamt des Kantons Zürich am 24. November 2008 verweigerte. Die dagegen im Kanton Zürich erhobenen Rechtsmittel wurden vom Regierungsrat am 9. Dezember 2009 und vom Verwaltungsgericht am 24. März 2010 abgewiesen.
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 10. Mai 2010 - Postaufgabe 11. Mai 2010 - beantragt X._ dem Bundesgericht, den Entscheid des Verwaltungsgerichts aufzuheben und das Migrationsamt anzuweisen, ihm die Aufenthaltsbewilligung zu verlängern.
Das Bundesamt für Migration stellt den Antrag, die Beschwerde abzuweisen. Das Verwaltungsgericht hat auf eine Vernehmlassung verzichtet. Das Migrationsamt und der Regierungsrat haben sich nicht geäussert.
C. Der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts hat der Beschwerde mit Verfügung vom 18. Mai 2010 hinsichtlich der Ausreiseverpflichtung antragsgemäss die aufschiebende Wirkung zuerkannt.

Erwägungen:
1. Am 1. Januar 2008 hat das Bundesgesetz vom 16. Dezember 2005 über die Ausländerinnen und Ausländer (AuG; SR 142.20) das Bundesgesetz vom 26. März 1931 über Aufenthalt und Niederlassung der Ausländer (ANAG; BS 1 121 und Änderungen gemäss der Fussnote zu Ziff. I von Anhang 2 zum AuG) abgelöst. Da der Beschwerdeführer sein Gesuch um Verlängerung der Aufenthaltsbewilligung im Mai 2008 gestellt hat, ist vorliegend gemäss Art. 126 Abs. 1 AuG grundsätzlich neues Recht anzuwenden. Keine Rolle spielt hierbei, dass sich der bisherige Aufenthalt auf eine Ehe stützte, die durch den Tod der Ehefrau noch während des Geltungszeitraums des alten Rechts aufgelöst worden ist.
2. Gemäss <ref-law> ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten auf dem Gebiet des Ausländerrechts betreffend Bewilligungen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumt, ausgeschlossen. Ausländische Ehegatten von Schweizerinnen haben gemäss Art. 42 Abs. 1 AuG Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung, wenn sie mit diesen zusammenwohnen. Der Beschwerdeführer war zwar mit einer Schweizerin verheiratet. Infolge ihres Ablebens kann er sich indes nicht mehr auf die Ehe berufen. Er stützt sich denn auch auf Art. 50 AuG und macht entsprechende Ausführungen. Nach Art. 50 AuG besteht der erwähnte Anspruch auch nach Auflösung der Ehe fort, wenn die Ehegemeinschaft mindestens drei Jahre bestanden hat und eine erfolgreiche Integration besteht (Abs. 1 lit. a) oder wenn wichtige persönliche Gründe einen weiteren Aufenthalt in der Schweiz erforderlich machen (Abs. 1 lit. b). Somit kann der Beschwerdeführer einen grundsätzlichen Bewilligungsanspruch geltend machen. Ob die Voraussetzungen des Art. 50 AuG tatsächlich erfüllt sind, bildet Gegenstand der materiellen Beurteilung (Urteile des Bundesgerichts 2C_460/2009 vom 4. November 2009 E. 2.1, nicht publ. in: <ref-ruling>; 2C_304/2009 vom 9. Dezember 2009 E. 1.1, nicht publ. in: <ref-ruling>13). Auf die - mit Blick auf den Stillstand nach <ref-law> - fristgerecht erhobene Beschwerde ist demnach einzutreten.
3. 3.1 Zu prüfen ist, ob der Beschwerdeführer nach dem Tode seiner Ehefrau gestützt auf Art. 50 AuG weiterhin einen Anspruch auf eine Aufenthaltsbewilligung hat. Der Beschwerdeführer macht zu Recht keinen Anspruch nach Art. 50 Abs. 1 lit. a AuG mehr geltend, da die Ehegemeinschaft weniger als drei Jahre bestanden hat (dazu <ref-ruling>13 E. 3.3 S. 117 ff.). Eine etwaige voreheliche Beziehung ist auf die Mindestdauer von drei Jahren nicht anzurechnen (Urteil des Bundesgerichts 2C_195/2010 vom 23. Juni 2010 E. 5.1). Der Beschwerdeführer meint aber, bei ihm seien wichtige persönliche Gründe im Sinne von Art. 50 Abs. 1 lit. b AuG gegeben. Schon allein das Ableben seiner Ehefrau stelle einen solchen Grund dar.
Es trifft zu, dass der Bundesrat im Zusammenhang mit Art. 50 Abs. 1 lit. b AuG den Tod des Ehepartners als einen Anwendungsfall erwähnte. Ein Teil der Lehre hat daraus geschlossen, dass in diesem Fall der weitere Aufenthalt des überlebenden Ehepartners in der Schweiz erforderlich und deshalb die Bewilligung zu verlängern ist (NICCOLÒ RASELLI ET AL., Ausländische Kinder sowie andere Angehörige, in: Uebersax et al., Ausländerrecht, 2009, Rz. 16.58; MARC SPESCHA, in: Spescha/Thür/Zünd, Migrationsrecht, 2. Aufl. 2009, N. 7 zu Art. 50 AuG; ähnlich zum alten Recht: KASPAR TRAUB, Familiennachzug im Ausländerrecht, S. 127; vgl. auch PETER KOTTUSCH, Zur rechtlichen Regelung des Familiennachzugs von Ausländern, ZBl 90/1989 S. 356 f.).
Allerdings bemerkt die Vorinstanz richtig, dass der Bundesrat den Tod des Ehepartners nicht als zwingenden Grund für den weiteren Aufenthalt bezeichnet hat. Dies kommt in seiner Formulierung zum Ausdruck, dass sich ein weiterer Aufenthalt in der Schweiz als erforderlich erweisen "kann", wenn der in der Schweiz lebende Ehepartner verstorben ist. Auch erklärt der Bundesrat, es sei wichtig, jeweils die konkreten Umstände des Einzelfalles zu prüfen. Mit Art. 50 AuG sollten Härtefälle vermieden werden (Botschaft vom 8. März 2002 zum AuG, BBl 2002 S. 3754 Ziff. 1.3.7.6).
Es ist fraglich, ob ein Härtefall im Sinne von Art. 50 AuG immer schon dann vorliegt, wenn ein Ausländer die Schweiz infolge des Hinschieds des Ehepartners verlassen muss. Unter dem alten Recht erlosch der Anspruch auf die Aufenthaltsbewilligung - vorbehältlich eines selbständigen Anspruchs auf die Niederlassungsbewilligung nach fünf Ehejahren gemäss Art. 7 Abs. 1 Satz 2 oder Art. 17 Abs. 2 Satz 2 ANAG - mit dem Tod des anwesenheitsberechtigten Ehepartners. Die Erneuerung der Bewilligung stand dann im Ermessen der Behörden (<ref-ruling>). Die damalige Praxis ging davon aus, dass ein ausländerrechtlich relevanter Härtefall, der eine Erneuerung der Aufenthaltsbewilligung rechtfertigt, nicht schon allein durch das Ableben des anwesenheitsberechtigten Ehepartners gegeben war; vielmehr waren noch andere Umstände zu berücksichtigen (Urteile des Bundesverwaltungsgerichts C-2217/2007 vom 7. Juni 2010 E. 4 und C-567/2006 vom 22. Juli 2008 E. 8; ANDREAS ZÜND, Beendigung der Anwesenheit, Entfernung und Fernhaltung, in: Uebersax et al., Ausländerrecht, 1. Aufl. 2002, Rz. 6.59; ANGELA BRYNER, Die Frau im Asyl und Ausländerrecht, ebenda, Rz. 24.27; PHILIP GRANT, La protection de la vie familiale et de la vie privée en droit des étrangers, 2000, S. 203 f.; vgl. auch ANAG-Weisungen des Bundesamt für Migration, 3. Aufl. 2006, Rz. 654 sowie Umfrage zu den verschiedenen kantonalen Praktiken bei Marc Spescha, Handbuch zum Ausländerrecht, 1999, S. 241 ff.).
Der Gesetzgeber sieht das bei Art. 50 AuG nicht wesentlich anders. Weder hat er im Gesetz ausdrücklich geregelt, dass das Ableben des Ehepartners automatisch einen Härtefall begründet, noch finden sich in den Materialien entsprechende Äusserungen. Der Bundesrat wies in einer Antwort auf eine Interpellation denn auch ausdrücklich darauf hin, dass unter dem neuen Gesetz die gleichen Grundsätze wie unter dem alten Recht für den Weiterbestand der Aufenthaltsbewilligung zur Anwendung kommen sollen (vgl. Antwort vom 26. November 2003 zur Interpellation Menétrey-Savary Nr. 03.3547). Als das Parlament in der Folge den Art. 50 AuG - im Entwurf noch als Art. 49 bezeichnet - beriet, wurde nicht erklärt, dass von dieser Sichtweise des Bundesrats abgewichen werden solle (vgl. AB 2004 N 1061 ff., AB 2005 S 310).
Dem Gesetzgeber ging es vor allem darum, dem ausländischen Ehepartner in Härtefällen im Gegensatz zum früheren Recht einen weiteren "Anspruch" auf die Bewilligung zu verschaffen. Der Entscheid über den Verbleib sollte nicht mehr dem Ermessen der Behörden überlassen werden und es sollte eine gewisse Harmonisierung der kantonalen Praxis stattfinden (vgl. BBl 2002 S. 3754 Ziff. 1.3.7.6 mit Hinweis auf die Parlamentarische Initiative Goll Nr. 96.461 "Rechte für Migrantinnen"; erwähnte Antwort des Bundesrates vom 26. November 2003). Entgegen der Darstellung des Beschwerdeführers trifft die Verpflichtung, die Schweiz nach dem Ableben des Ehepartners zu verlassen, den Ausländer denn auch nicht immer derart schwer, dass darunter ein ausländerrechtlicher Härtefall zu verstehen ist. Daran ändern auch Pietätserwägungen nichts. Das heisst jedoch nicht, dass die Umstände, die zur Auflösung der Ehe geführt haben, in der Gesamtbeurteilung keine Rolle spielen (vgl. E. 4.1 hiernach). Im Übrigen sieht auch das Recht der Europäischen Union (EU) nicht auf jeden Fall ein Verbleiberecht für den überlebenden Ehegatten eines EU-Bürgers vor (vgl. die in nachfolgender E. 3.2 erwähnte Verordnung und Richtlinie sowie die neuen Regelungen in Art. 16 ff. der Richtlinie 2004/38/EG des europäischen Parlaments und des Rates vom 29. April 2004 [ABl. L 229 vom 29. Juni 2004 S. 35]; Urteil des EuGH vom 9. Januar 2003 C-257/00 Givane, Slg. 2003 I-345).
Demzufolge stellt das Ableben der Schweizer Ehefrau allein noch keinen wichtigen persönlichen Grund im Sinne von Art. 50 Abs. 1 lit. b AuG dar (ebenso MARTINA CARONI, in: Caroni/Gächter/Thurnherr, in: Stämpflis Handkommentar Bundesgesetz über die Ausländerinnen und Ausländer, 2010, N. 25 zu Art. 50 AuG; ANDREAS ZÜND/LADINA ARQUINT HILL, Beendigung der Anwesenheit, Entfernung und Fernhaltung, in: Uebersax et al., Ausländerrecht, 2. Aufl. 2009, Rz. 8.52).
3.2 Der Beschwerdeführer macht geltend, er hätte ein Recht, in der Schweiz zu verbleiben, gehabt, wenn seine Ehefrau Staatsangehörige eines EU-Staates gewesen wäre. Das müsse auch bei Ehepartnern von verstorbenen Schweizern gelten, andernfalls werde das Rechtsgleichheitsgebot nach <ref-law> verletzt (ähnlich Marc Spescha, Migrationsrecht, 2. Aufl. 2009, N. 7 zu Art. 50 AuG).
Art. 4 Anhang I des Abkommens vom 21. Juni 1999 zwischen der Schweizerischen Eidgenossenschaft einerseits und der Europäischen Gemeinschaft und ihren Mitgliedstaaten andererseits über die Freizügigkeit (FZA; SR 0.142.112.681) nimmt ausdrücklich Bezug auf die Verordnung (EWG) Nr. 1251/70 vom 29. Juni 1970 (ABl. L 142 vom 30. Juni 1970 S. 24) und auf die Richtlinie 75/34/EWG vom 17. Dezember 1974 (ABl. L 14 vom 20. Januar 1975 S. 10) über das Recht der Arbeitnehmer und selbständig Erwerbstätigen nach Beendigung ihrer Beschäftigung bzw. Tätigkeit im Hoheitsgebiet eines Vertragsstaates zu bleiben. Gemäss Art. 3 Abs. 1 dieser Verordnung und dieser Richtlinie ist namentlich der Ehepartner, der bei einem Arbeitnehmer oder Selbständigen im Hoheitsgebiet eines Mitgliedstaates wohnt, berechtigt, dort ständig zu verbleiben, wenn der Arbeitnehmer oder der Selbständige in diesem Mitgliedstaat ein Verbleiberecht nach Art. 2 erworben hat (Satz 1). Dieses Recht steht dem Familienangehörigen auch nach dem Tode des Arbeitnehmers oder des Selbständigen zu (Satz 2; vgl. auch Urteile des Bundesgerichts 2C_531/2009 vom 22. Juni 2010 E. 4 und 2C_417/2008 vom 18. Juni 2010 E. 2.2 und 2.3 sowie E. 4).
Die Vorinstanz hat zu Recht angenommen, dass diese Regelungen dem Beschwerdeführer schon deshalb nicht weiter helfen, weil er im Zeitpunkt des Todes seiner Ehefrau seit mehreren Monaten nicht mehr mit ihr zusammen wohnte. Denn zeitlebens der Ehefrau hätte der Beschwerdeführer allenfalls während des Zusammenwohnens ein abgeleitetes Verbleiberecht haben können. Zu einem eigenen Recht wäre dieses erst mit dem Tode der Ehefrau geworden (vgl. erwähntes Urteil des EuGH i.S. Givane, Randnr. 31). Da die Eheleute damals nicht mehr zusammen lebten, war eine derartige Umwandlung des Verbleiberechts jedoch ausgeschlossen (im Ergebnis ebenso DIETER GROSSEN/STEFAN DÄPP, Sonderregelungen für Staatsangehörige der EU- und EFTA-Mitgliedstaaten, in: Uebersax et al., Ausländerrecht, 2. Aufl. 2009, Rz. 4.48 f.). Daran ändert nichts, dass der Beschwerdeführer geltend macht, er habe sich wegen der zunehmenden Erkrankung seiner Ehefrau von ihr getrennt. Er hat nicht behauptet, dass ihre Erkrankung eine Trennung zwingend erforderte. Unerheblich ist auch, dass das damals geltende nationale Recht das Zusammenwohnen grundsätzlich nicht als Bedingung für ein Aufenthaltsrecht betrachtete (dazu Art. 7 ANAG und <ref-ruling> E. 4.1 S. 116).
Nach dem Dargelegten kann offenbleiben, ob <ref-law> eine entsprechende Anwendung auf Ehepartner von Schweizer Bürgern gebietet.
4. 4.1 Bei der Beurteilung der Härtefälle nach Art. 50 Abs. 1 lit. b AuG ist wie erwähnt auf die Umstände des Einzelfalles abzustellen. Im Gegensatz zur früheren Praxis zu den Ermessensentscheiden kann es hiebei nicht darauf ankommen, wie stark der jeweilige Kanton das öffentliche Interesse an einer restriktiven Einwanderungspolitik gewichtet. Dieser Gesichtspunkt kommt zwar regelmässig bei einer Beurteilung nach Art. 18-30 AuG zum Tragen, bei Art. 50 Abs. 1 AuG ist hingegen wesentlich, ob die Verpflichtung des Ausländers, die Schweiz zu verlassen, für ihn einen Härtefall darstellt. Daher ist die persönliche Situation des jeweils Betroffenen entscheidend. Bei der Regelung in Art. 50 Abs. 1 lit. a AuG ist der Gesetzgeber davon ausgegangen, dass, wer in der Schweiz eine mindestens dreijährige Ehegemeinschaft geführt hat und erfolgreich integriert ist (vgl. zu Letzterem Art. 77 Abs. 4 der Verordnung vom 24. Oktober 2007 über Zulassung, Aufenthalt und Erwerbstätigkeit, VZAE; SR 142.201), einen Anspruch auf Erneuerung seiner Aufenthaltsbewilligung hat. Die Härtefälle nach Art. 50 Abs. 1 lit. b AuG sind demnach vor allem für Fälle gedacht, in denen die Voraussetzungen der Litera a nicht erfüllt werden, sei es, dass der Aufenthalt während der Ehe von kürzerer Dauer war oder dass die Integration nicht vorangeschritten ist oder dass es sogar an beidem mangelt.
Allerdings müssen immerhin "wichtige persönliche Gründe" den weiteren Aufenthalt "erforderlich" machen. Gemäss Art. 50 Abs. 2 AuG und der bundesgerichtlichen Rechtsprechung (<ref-ruling> E. 5 S. 3 ff.) kann dies namentlich der Fall sein, wenn der Betreffende Opfer ehelicher Gewalt wurde oder wenn die soziale Wiedereingliederung im Herkunftsland stark gefährdet erscheint (vgl. zu letzterem Urteil des Bundesgerichts 2C_376/2010 vom 18. August 2010 E. 6.3 mit Hinweis; THOMAS GEISER/MARC BUSSLINGER, Ausländische Personen als Ehepartner und registrierte Partnerinnen, in: Uebersax et al., Ausländerrecht, 2. Aufl. 2009, Rz. 14.54; Votum von Nationalrätin Menétrey-Savary in AB 2004 N 1063). Ein wichtiger persönlicher Grund kann sich aber auch aus anderen Umständen ergeben. Die in <ref-law> erwähnten Gesichtspunkte können bei der Beurteilung eine wesentliche Rolle spielen, auch wenn sie einzeln betrachtet grundsätzlich noch keinen Härtefall zu begründen vermögen. Es handelt sich hierbei um den Grad der Integration, die Respektierung der Rechtsordnung, die Familienverhältnisse, die finanziellen Verhältnisse, die Dauer der Anwesenheit in der Schweiz und der Gesundheitszustand (vgl. zu <ref-law> Urteil 2C_216/2009 vom 20. August 2009 E. 2.2). Wie erwähnt (E. 3.1 hievor), sind bei Art. 50 Abs. 1 lit. b AuG schliesslich auch die Umstände, die zur Auflösung der Ehe geführt haben, zu berücksichtigen. Insoweit können Gründe der Pietät in die Gesamtwürdigung einbezogen werden.
4.2 Der Beschwerdeführer weist darauf hin, dass er sich seit dem Jahr 2002, mithin seit rund acht Jahren in der Schweiz aufhalte, gut integriert sei und von seinem Arbeitgeber geschätzt werde. Er stelle eine wichtige Bezugsperson für die Tochter und den Sohn seiner verstorbenen Ehefrau, die beide erwachsen sind, dar. Er besuche den Sohn regelmässig und sei der Pate von einem seiner Kinder, zu denen er eine gute Beziehung habe. Sein Lebensmittelpunkt sei in der Schweiz. Er behauptet auch, seine verstorbene Ehefrau schon im Jahr 2002 kennen gelernt zu haben.
4.3 Von dem rund achtjährigen Aufenthalt in der Schweiz entfallen bloss 16 Monate auf den Bestand der Ehe, wobei der Beschwerdeführer hiervon die letzten achteinhalb Monate von der Ehefrau getrennt lebte. Zwischen der rechtskräftigen Abweisung des Asylgesuchs im Dezember 2002 und der Heirat im Juni 2006 hielt sich der Beschwerdeführer trotz Wegweisung in der Schweiz auf, seit Oktober 2004 galt er sogar als verschwunden. Seit Juni 2008 kann er sich nur noch aufgrund des laufenden Verfahrens in der Schweiz aufhalten. Es ist ständige Praxis, dass der Dauer des illegalen Aufenthaltes kein besonderes Gewicht beigemessen wird. Das Gleiche gilt für den Aufenthalt, der aufgrund der aufschiebenden Wirkung eines Rechtsmittels lediglich toleriert wird (vgl. <ref-ruling> E. 3 S. 42; Urteile 2A.105/2001 vom 26. Juni 2001 E. 3c; 2A.311/2004 vom 8. September 2004 E. 4.1 und 2A.275/1996 vom 23. Oktober 1996 E. 4).
Der gesunde Beschwerdeführer hat in Indien unter anderem noch Eltern, Geschwister und Kinder aus einer früheren Beziehung. Er hat zu ihnen den Kontakt behalten und seit seiner Einreise in die Schweiz seine Heimat wieder aufgesucht. Auch gelangte er erst mit 36 Jahren in die Schweiz. Er hat mithin den ganz überwiegenden Teil seines Lebens in Indien verbracht und ist nach wie vor mit den dortigen Verhältnissen vertraut. Anlässlich der Befragung der Ehefrau im Dezember 2006 hatte diese zudem erklärt, sie wisse nicht, ob der Beschwerdeführer von seinem Besuchsaufenthalt in Indien zurückkehren werde; er "kommt mit dem Leben hier in der Schweiz nicht zurecht". Der Beschwerdeführer behauptet zwar, in der Schweiz integriert zu sein und kein Vermögen in der Heimat zu haben. Er hat indes seinen Angabe zufolge auch in der Schweiz kein Vermögen und behauptet sogar, für die Kosten des vorliegenden Verfahrens nicht aufkommen zu können. Es ist weder ersichtlich noch dargetan, dass seine soziale Wiedereingliederung in seiner Heimat stark gefährdet wäre. Entgegen der Behauptung des Beschwerdeführers kann ebenso wenig von einer Entwurzelung im Verhältnis zu Indien die Rede sein.
Der Beschwerdeführer hatte in seinem Herkunftsland auch nicht unwiederbringlich eine gesicherte Existenz aufgegeben, um ein Familienleben mit der Schweizer Ehefrau zu führen. Vielmehr kam er in die Schweiz, um Asyl zu ersuchen, das ihm in einem raschen Verfahren verweigert wurde. Angesichts des hohen Alters der Ehefrau, ihres Gesundheitszustands und des Altersunterschieds von 34 Jahren musste er zudem damit rechnen, dass die Ehe nicht von längerer Dauer sein könnte. Zudem trennte er sich von seiner Ehefrau, als ihre gesundheitlichen Probleme zunahmen. Dass sie im Dezember 2006 den Tod unmittelbar vor Augen sah, hielt ihn damals auch nicht davon ab, mehrere Wochen ohne sie in Indien zu verweilen. Gerade wenn behauptet wird, die Ehe sei nicht bloss formell geschlossen und aufrechterhalten worden, ist ein solches Verhalten doch befremdend. Pietätserwägungen wegen des Verlustes des Ehepartners haben bei dieser Sachlage jedenfalls zurückzutreten.
Nach dem Dargelegten ist schliesslich auch fraglich, ob von einer erfolgreichen Integration im Sinne von <ref-law> auszugehen ist. Jedenfalls hielt sich der Beschwerdeführer bis zu seiner Heirat mehrere Jahre illegal in der Schweiz auf und verstiess damit gegen die rechtsstaatliche Ordnung (vgl. Art. 77 Abs. 4 lit. a sowie Art. 31 Abs. 1 lit. b VZAE). Keineswegs ist eine überdurchschnittliche Integration gegeben. Was der Beschwerdeführer zum beruflichen und gesellschaftlichen Umfeld vorbringt, ist nicht geeignet, den Grad einer gewöhnlichen Integration zu übertreffen. Beim derzeitigen Arbeitgeber ist er erst seit Mai 2008 tätig. Zuvor "erlitt" er - seinen Angaben zufolge - im Zusammenhang mit einem Geschäftsbetrieb Schulden in Höhe von mehreren Tausend Franken.
Bei einer Gesamtwürdigung sämtlicher Gesichtspunkte liegt hier demnach kein Härtefall im Sinne von Art. 50 Abs. 1 lit. b AuG vor.
5. Der Beschwerdeführer macht schliesslich einen Anspruch gestützt auf den Schutz des Privatlebens nach Art. 8 EMRK und <ref-law> geltend. Wie die Vorinstanz zutreffend darlegt, bedarf es insoweit besonders intensiver, über eine normale Integration hinausgehender privater Bindungen gesellschaftlicher oder beruflicher Natur (vgl. <ref-ruling> E. 3b S. 21 f.; <ref-ruling> E. 3.2.1 S. 286 f. mit Hinweisen). Zwar müssen sich die Voraussetzungen nach Art. 50 Abs. 1 lit. b AuG nicht mit denjenigen für die Gewährung eines Aufenthalts nach Art. 8 EMRK und <ref-law> decken. Hier kann dennoch auf obige Ausführungen in den Erwägungen 4.2 und 4.3 verwiesen werden, da sich aus ihnen ohne Weiteres ergibt, dass der Beschwerdeführer nicht die benötigten Bindungen zur Schweiz aufweist.
6. 6.1 Nach dem Dargelegten ist der Aufenthalt des Beschwerdeführers weder nach Art. 50 AuG noch nach Art. 8 EMRK und <ref-law> zu verlängern. Damit erweist sich die Beschwerde als unbegründet, weshalb sie abzuweisen ist.
6.2 Bei diesem Ausgang hat der Beschwerdeführer die Kosten des bundesgerichtlichen Verfahrens zu tragen (Art. 65 f. BGG). Parteientschädigungen werden nicht geschuldet (vgl. <ref-law>). Der Beschwerdeführer ersucht um unentgeltliche Rechtspflege und Verbeiständung. Er verweist auf einen monatlichen Nettolohn in den letzten knapp anderthalb Jahren von durchschnittlich rund Fr. 3'400.-- und einen monatlichen Mietzins von Fr. 700.--. Seinen Eltern, Geschwistern und Kindern würde er monatlich Fr. 800.-- in die Heimat überweisen. Er hat allerdings in keiner Weise dargelegt, dass diese in dem erwähnten Umfang bedürftig seien und er zu den Unterhaltszahlungen verpflichtet sei. Er hat auch weder die Anzahl, das Alter noch die Einkommenssituation seiner Kinder angegeben. Eine Veränderung der Verhältnisse namentlich gegenüber den Verfahren bei den Vorinstanzen, in denen er keine unentgeltliche Rechtspflege beantragt hatte, ist auch nicht ersichtlich. Der Beschwerdeführer hat seine Bedürftigkeit nach <ref-law> somit weder hinreichend dargetan noch belegt. Deswegen kann die unentgeltliche Rechtspflege nicht gewährt werden.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
3. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 4. Abteilung, und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 9. November 2010
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Merz