Erwägungen:
1. Der türkische Staatsangehörige X._, geb. 1946, war im Jahre 1993 im Besitz der Niederlassungsbewilligung, als er in seine Heimat zurückkehrte. Am 6. Mai 2003 heiratete er eine Schweizerin (geb. 1959), worauf ihm die Aufenthaltsbewilligung zum Verbleib bei der Ehefrau erteilt wurde. Mit Verfügung vom 21. Juni 2005 wies das Migrationsamt (Sicherheitsdirektion) des Kantons Zürich ein Gesuch um Verlängerung der Aufenthaltsbewilligung ab mit der Begründung, die Ehe sei nur geschlossen worden, um die ausländerrechtlichen Bestimmungen zu umgehen. Eine eheliche Wohn- und Lebensgemeinschaft habe nie bestanden.
Gegen die erwähnte Verfügung rekurrierte X._ erfolglos an den Regierungsrat des Kantons Zürich (Beschluss vom 5. September 2007). Mit Entscheid vom 19. März 2008 wies das Verwaltungsgericht des Kantons Zürich (2. Kammer) eine dagegen eingereichte Beschwerde ab.
Mit Eingabe vom 13. Mai 2008 erhebt X._ beim Bundesgericht Beschwerde, mit welcher er um Aufhebung des verwaltungsgerichtlichen Urteils und um Rückweisung des Verfahrens im Sinne der Erwägungen zu weiteren Abklärungen und Neubeurteilung ersucht. Eventualiter sei der Regierungsrat anzuweisen, die Aufenthaltsbewilligung zu verlängern.
Die kantonalen Akten sind eingeholt, ein Schriftenwechsel ist nicht angeordnet worden. Das Gesuch um aufschiebende Wirkung wird mit dem vorliegenden Urteil gegenstandslos.
2. 2.1 Da das streitige Gesuch um Verlängerung der Aufenthaltsbewilligung noch vor Inkrafttreten des Bundesgesetzes vom 16. Dezember 2005 über die Ausländerinnen und Ausländer (AuG, SR 142.20) eingereicht wurde, bleibt vorliegend noch das vormalige Bundesgesetz vom 26. Mai 1931 über Aufenthalt und Niederlassung der Ausländer (ANAG) anwendbar (Art. 126 Abs. 1 AuG).
2.2 Der Beschwerdeführer ist mit einer Schweizer Bürgerin verheiratet und hat damit einen grundsätzlichen Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung (Art. 7 Abs. 1 ANAG). Die Beschwerde in öffentlich-rechtlichen Angelegenheiten erweist sich damit als zulässig (Art. 83 lit. c Ziff. 2 BGG).
2.3 Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG). Die Feststellung des Sachverhalts kann nur gerügt bzw. vom Bundesgericht von Amtes wegen berichtigt oder ergänzt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 97 Abs. 1 BGG bzw. Art. 105 Abs. 2 BGG).
3. 3.1 Nach Art. 7 Abs. 2 ANAG hat der ausländische Ehegatte eines Schweizer Bürgers dann keinen Anspruch auf die ihm nach Abs. 1 dieser Bestimmung grundsätzlich zustehende Erteilung und Verlängerung der Aufenthaltsbewilligung, wenn die Ehe eingegangen worden ist, um die Vorschriften über Aufenthalt und Niederlassung von Ausländern und namentlich jene über die Begrenzung der Zahl der Ausländer zu umgehen. Erfasst wird davon die sog. Scheinehe bzw. Ausländerrechtsehe. Ein Bewilligungsanspruch soll dann nicht bestehen, wenn es zum Vornherein am Willen fehlte, eine dauerhafte Gemeinschaft zu begründen, und der einzige Zweck der Heirat darin liegt, dem Ausländer zu einer fremdenpolizeilichen Bewilligung zu verhelfen (vgl. BGE 127 II 49 E. 4a S. 55 mit Hinweisen).
3.2 Erforderlich sind konkrete Hinweise darauf, dass die Ehegatten nicht eine eigentliche Lebensgemeinschaft führen wollen, sondern die Ehe nur aus fremdenpolizeilichen Überlegungen eingegangen wurde (vgl. BGE 127 II 49 E. 5a S. 57). Diesbezügliche Indizien lassen sich u.a. darin erblicken, dass dem Ausländer die Wegweisung drohte, etwa weil er ohne Heirat keine Aufenthaltsbewilligung erhalten hätte oder sie ihm nicht verlängert worden wäre. Für das Vorliegen einer Ausländerrechtsehe können sodann die Umstände und die kurze Dauer der Bekanntschaft sprechen sowie insbesondere die Tatsache, dass die Ehegatten eine Wohngemeinschaft gar nie aufgenommen haben. Dasselbe gilt, wenn für die Heirat eine Bezahlung vereinbart wurde. Dass die Begründung einer wirklichen Lebensgemeinschaft gewollt war, kann umgekehrt nicht schon daraus abgeleitet werden, dass die Ehegatten während einer gewissen Zeit zusammenlebten und intime Beziehungen unterhielten; ein derartiges Verhalten kann auch nur vorgespielt sein, um die Behörden zu täuschen (BGE 122 II 289 E. 2b S. 295 mit Hinweisen).
3.3 Das Verwaltungsgericht ging in tatsächlicher Hinsicht davon aus, dass die Ehefrau, wie von ihr selber behauptet und vom Beschwerdeführer nicht bestritten, bei der Heirat von diesem Fr. 30'000.-- erhalten hat. Dass es sich dabei um die Rückzahlung eines vorehelich gewährten Darlehens der Ehefrau gehandelt haben soll, stelle eine blosse Schutzbehauptung dar. Sodann habe die Ehefrau im Laufe des Verfahrens zugegeben, den Beschwerdeführer nicht zu lieben. Die Ehegatten hätten sich durch Vermittlung türkischer Bekannter kennengelernt. Ihre zum Teil widersprüchlichen früheren Aussagen habe die Ehefrau damit begründet, dass sie ihrem Ehemann den Aufenthalt in der Schweiz nicht habe vereiteln wollen. Der Beschwerdeführer selbst habe erst auf ein eheliches Zusammenleben gedrängt, als seine Wegweisung gedroht habe. Weitere Indizien für das Vorliegen einer Scheinehe könnten darin erblickt werden, dass die Ehefrau den Eheschluss gegenüber ihren erwachsenen Kindern aus früherer Ehe verheimlicht habe und der Beschwerdeführer bereits ein halbes Dutzend erfolglose Versuche unternommen habe, um nach der erloschenen früheren Niederlassungsbewilligung wieder zu einer Aufenthaltsbewilligung zu gelangen. Dass die eheliche Gemeinschaft, sobald sich die zwischenzeitlich inhaftierte Ehefrau wieder in Freiheit befinde, wieder aufgenommen würde, sei nicht substantiiert und widerspreche der in einer späteren Eingabe an das Verwaltungsgericht gemachten Aussage des Beschwerdeführers, wonach er die angebliche Verhaftung seiner Ehefrau zum Anlass nehme, sich schnellstmöglich von ihr scheiden zu lassen.
3.4 Wenn das Verwaltungsgericht in der erstellten Zahlung eines Heiratsgeldes von Fr. 30'000.-- zusammen mit den übrigen in diese Richtung weisenden Sachumstände ein nicht zu erschütterndes Indiz erblickt und demzufolge auf das Vorliegen einer Scheinehe schliesst, lässt sich dies bundesrechtlich nicht beanstanden. Der Beschwerdeführer bringt nichts vor, was die tatsächlichen Feststellungen der Vorinstanz und die von ihr daraus gezogenen rechtlichen Schlussfolgerungen in Frage stellen könnte. Insbesondere bestreitet er auch in seiner Beschwerde an das Bundesgericht nicht, die erwähnte Zahlung getätigt zu haben. Die erneut vorgebrachte, jedoch nicht näher belegte Behauptung, wonach es sich dabei um die Begleichung von vorehelichen Schulden handle, durfte ohne weiteres als Schutzbehauptung qualifiziert werden. Für weitere Beweisvorkehren, so unter anderem die (nochmalige) Befragung der Ehefrau des Beschwerdeführers, bestand angesichts der klaren Sachlage kein Anlass.
3.5 Nichts zu seinen Gunsten vermag der Beschwerdeführer ferner aus dem in Art. 8 EMRK gewährleisteten Recht auf Achtung des Privatlebens abzuleiten. Dazu müssten besonders intensive, über eine normale Integration hinausgehende private Bindungen gesellschaftlicher oder beruflichter Natur bzw. entsprechende vertiefte soziale Beziehungen zum ausserfamiliären oder ausserhäuslichen Bereich vorliegen (vgl. BGE 130 II 281 E. 3.2.1 S. 286 f. mit Hinweisen), woran es vorliegend bereits angesichts der fast zehnjährigen Landesabwesenheit des Beschwerdeführers und der kurzen Aufenthaltsdauer seit seiner Wiedereinreise fehlt. Auf Art. 50 Abs. 1 lit. a AuG kann sich der Beschwerdeführer schon deshalb nicht berufen, weil im vorliegenden Verfahren - wie bereits erwähnt (E. 2.1) - noch das bisherige Recht zur Anwendung kommt.
4. Die im Sinne von Art. 109 BGG offensichtlich unbegründete Beschwerde ist im vereinfachten Verfahren mit summarischer Begründung abzuweisen.
Bei diesem Ausgang sind die Kosten des bundesgerichtlichen Verfahrens dem Beschwerdeführer aufzuerlegen (Art. 66 BGG). Auf die Zusprechung einer Parteientschädigung besteht kein Anspruch (Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Migrationsamt, dem Regierungsrat und dem Verwaltungsgericht des Kantons Zürich (2. Kammer) sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 5. Juni 2008
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Der Gerichtsschreiber:
Hungerbühler Moser