Sachverhalt:
A. Das Bezirksgericht Zürich befand X._ mit Urteil vom 22. März 2007 schuldig der mehrfachen sexuellen Handlungen mit Kindern, der mehrfachen sexuellen Nötigung und der mehrfachen Pornographie. Von den Vorwürfen der Vergewaltigung bzw. der versuchten Vergewaltigung sprach es ihn hingegen frei (Dispositiv-Ziffer 1). Es bestrafte X._ mit einer Freiheitsstrafe von vier Jahren, unter Anrechnung des Polizeiverhafts sowie der erstandenen Untersuchungshaft (Dispositiv-Ziffer 2), und ordnete eine ambulante Behandlung im Sinne von <ref-law> während des Strafvollzugs an (Dispositiv-Ziffer 3). X._ wurde ausserdem zur Bezahlung von Schadenersatz und Genugtuung an das Opfer verpflichtet, wobei die Zivilansprüche zur genauen Feststellung ihres Umfangs an den Zivilrichter verwiesen wurden (Dispositiv-Ziffer 4 und 5).
B. Gegen dieses Urteil legte X._ im Strafpunkt Berufung ein, welcher sich die Anklagebehörde und die Geschädigte anschlossen. Am 23. Mai 2008 stellte das Obergericht des Kantons Zürich die Rechtskraft des Urteils des Bezirksgerichts Zürich namentlich hinsichtlich des Schuldspruchs und des Teilfreispruchs fest. Es bestrafte X._ mit 5 Jahren Freiheitsstrafe, unter Anrechnung des Polizeiverhafts und der erstandenen Untersuchungshaft (Dispositiv-Ziffer 1), und ordnete in Bestätigung des erstinstanzlichen Urteils eine ambulante Behandlung im Sinne von <ref-law> (Behandlung psychischer Störungen) ohne Aufschub des Strafvollzugs an (Dispositiv-Ziffer 2). Ausserdem wurde X._ verpflichtet, der Geschädigten Fr. 25'000.-- zuzüglich 5% Zins seit dem 29. März 2005 als Genugtuung zu bezahlen. Im Mehrbetrag wurde das Genugtuungsbegehren abgewiesen (Dispositiv-Ziffer 3).
C. Dagegen gelangt X._ mit Beschwerde in Strafsachen an das Bundesgericht. Er beantragt, es sei Dispositiv-Ziffer 2 des Urteils des Obergerichts des Kantons Zürich aufzuheben und der Strafvollzug in Anwendung von <ref-law> aufzuschieben. Eventualiter sei Dispositiv-Ziffer 2 des angefochtenen Urteils aufzuheben und die Sache an die Vorinstanz zurückzuweisen.
D. Vernehmlassungen wurden keine eingeholt.

Erwägungen:
1. Mit seiner Beschwerde wendet sich der Beschwerdeführer gegen die Verweigerung des Strafaufschubs zugunsten der angeordneten ambulanten Massnahme. Er macht dabei insbesondere eine Verletzung des rechtlichen Gehörs geltend, weil die Vorinstanz auf das Einholen eines Zweitgutachtens zur Frage der Auswirkungen des Vollzugs auf die Erfolgsaussichten der Massnahme verzichtet habe. Im Weiteren erachtet er den Gehörsanspruch auch deshalb als verletzt, weil sich die Vorinstanz weder mit seinen Vorbringen, die für den Strafaufschub sprächen, noch mit seiner Kritik am amtlichen Ergänzungsgutachten befasst habe. Der angefochtene Entscheid sei insoweit unzureichend begründet.
1.1 Zum Anspruch auf rechtliches Gehör im Sinne von <ref-law> gehört das Recht auf Abnahme der rechtzeitig und formrichtig angebotenen rechtserheblichen Beweismittel. Die Verfassungsgarantie steht einer vorweggenommenen Beweiswürdigung nicht entgegen. Das Gericht kann auf die Abnahme von Beweisen verzichten, wenn es aufgrund bereits abgenommener Beweise seine Überzeugung gebildet hat und ohne Willkür annehmen kann, diese Überzeugung werde durch weitere Beweiserhebungen nicht geändert (<ref-ruling> E. 5.2 und 5.3, mit Hinweisen).
1.1.1 Die Vorinstanz führt zum Antrag auf erneute psychiatrische Begutachtung des Beschwerdeführers bzw. zur Einholung eines Zweitgutachtens aus, dass sich der amtliche Gutachter in seiner Gutachtensergänzung vom 23. März 2008 einlässlich mit der Frage nach dem Sinn einer ambulanten Massnahme im Strafvollzug auseinandergesetzt habe. Dieses beschränkte Thema zu behandeln sei auch ohne neues Explorationsgespräch mit dem Beschwerdeführer möglich gewesen, nachdem sich seit der früheren Begutachtung vom 25. September 2005 nichts Neues ergeben habe, wozu sich der Gutachter in seiner Ergänzung nicht hätte äussern können, und ihm das Ergebnis der 100 Therapie-Sitzungen gemäss den Verlaufsberichten des Therapeuten vorgelegen habe. Auf die Anordnung einer (ergänzenden) psychiatrischen Begutachtung könne daher verzichtet werden.
Der Beschwerdeführer macht geltend, dass im Hinblick auf eine aktualisierte gutachterliche Einschätzung weitere persönliche Untersuchungen bzw. zumindest eine neuerliche Exploration seinerseits durch den amtlichen Gutachter unabdingbar gewesen wären. Da in der Gutachtensergänzung überdies verschiedene nicht verifizierte Hypothesen aufgestellt worden seien, die sich zu seinem Nachteil auswirkten, und die darin enthaltenen Schlussfolgerungen zur Frage des all-fälligen Strafaufschubs zugunsten einer Massnahme widersprüchlich seien, hätte ein Zweitgutachten zwingend eingeholt werden müssen.
1.1.2 Die Frage nach der Einholung eines Zweitgutachtens ist auf der Grundlage des amtlichen Gutachtens, insbesondere unter Einschluss der Gutachtensergänzung, zu beantworten. Dabei ergibt sich Folgendes:
Die erste Begutachtung durch den amtlichen Gutachter erfolgte am 22. September 2005 und ist mithin noch jüngeren Datums. Sie gründet auf umfassenden psychiatrischen Untersuchungen des Beschwerdeführers und spricht sich unter anderem zu dessen Massnahmebedürftigkeit und zur Frage der Vereinbarkeit von Strafvollzug und ambulanter Massnahme aus, wobei der amtliche Gutachter zum Schluss gelangt, dass eine ambulante Behandlung des Beschwerdeführers auch während des Strafvollzugs sinnvoll durchführbar sei. Am 30. November 2007 beauftragte die Vorinstanz den amtlichen Gutachter mit der Aktualisierung seines psychiatrischen Gutachtens vom 22. September 2005, dies insbesondere deshalb, weil die von der Verteidigung angerufenen medizinischen Experten (Therapeut, Privatgutachter) die Auswirkungen des Strafvollzugs auf die Erfolgsaussichten der ambulanten Massnahme, im Unterschied zum amtlichen Gutachter, negativ beurteilten. Die entsprechende Gutachtensergänzung erfolgte am 23. März 2008. Der amtliche Gutachter sah sich dabei im Stande, die ihm von der Vorinstanz zur Beurteilung vorgelegte eingeschränkte Fragestellung auch ohne persönliche Exploration des Beschwerdeführers fachgerecht vorzunehmen. Eine solche Exploration war denn entgegen der Beschwerde auch nicht zwingend geboten, weil der amtliche Gutachter den Beschwerdeführer bereits 21⁄2 Jahre früher anlässlich der Erstbegutachtung eingehend persönlich untersucht hatte, keine Anhaltspunkte dafür bestanden, dass sich die Grundlagen zwischenzeitlich wesentlich geändert hätten (nach wie vor gleichbleibendes Krankheitsbild) und dem Gutachter die aktuellen Therapieverlaufsberichte von Dr. R._ vom 31. Oktober 2006 und 12. Dezember 2007 sowie das Privatgutachten von Dr. S._ vom 1. November 2006 vorlagen, aus welchen sich deren abweichende Einschätzung zur Frage der Vereinbarkeit von Strafvollzug und ambulanter Massnahme klar ergeben. Die Gutachtensergänzung ist ihrem Zustandekommen nach nicht zu beanstanden.
Dass und inwiefern die fragliche Gutachtensergänzung vom 23. März 2008 inhaltlich mangelhaft sein sollte, ist ferner ebenfalls nicht erkennbar. Entgegen der Beschwerde sind ihr weder nicht verifizierte Hypothesen zu entnehmen, die sich zu Lasten des Beschwerdeführers auswirkten, noch können die darin enthaltenen Schlussfolgerungen als widersprüchlich bezeichnet werden. Der amtliche Gutachter nimmt in seiner Gutachtensergänzung vielmehr umfassend Stellung zu den Argumenten, die nach Ansicht des Therapeuten und des Privatgutachters für einen Strafaufschub sprechen, und hinterfragt deren Standpunkte kritisch, wobei er anhand einzelner Beispiele die zum Teil therapeutisch eng involvierte Sichtweise deutlich aufzeigt und in der Folge differenziert zu relativieren sucht bzw. im Rahmen der Stellungnahme zum Privatgutachten das Fehlen einer vertieften therapeutischen Auseinandersetzung unter anderem zur Frage des Nachtatverhaltens des Beschwerdeführers moniert. Nach sorgfältigem Abwägen aller relevanten Für und Wider spricht sich der amtliche Gutachter im Ergebnis erneut für eine vollzugsbegleitende Massnahme aus, auch wenn er die bisherige psychotherapeutische Behandlung des Beschwerdeführers als grundsätzlich positiv beurteilt und er deren Fortsetzung ebenfalls als sinnvoll erachtet. Inwieweit sich diese Ausführungen widersprechen und eine neuerliche Begutachtung erfordern sollten, ist gestützt auf die Vorbringen des Beschwerdeführers nicht einzusehen und auch sonst nicht ersichtlich.
1.1.3 Unter diesen Umständen hat die Vorinstanz bei ihrer Entscheidfindung ohne weiteres auf das Gutachten und dessen Ergänzung vom 23. März 2008 abstellen dürfen. Sie hat deshalb auch von der Einholung eines Zweitgutachtens absehen können, ohne dadurch den Gehörsanspruch des Beschwerdeführers zu verletzen.
1.2 Aus dem in <ref-law> garantierten Anspruch auf rechtliches Gehör folgt die Pflicht der Behörde, ihren Entscheid zu begründen. Die Begründung muss so abgefasst sein, dass der Betroffene den Entscheid gegebenenfalls sachgerecht anfechten kann. Sie muss kurz die wesentlichen Überlegungen nennen, von denen sich das Gericht hat leiten lassen und auf die sich sein Entscheid stützt. Nicht erforderlich ist hingegen, dass sich der Entscheid mit allen Parteistandpunkten einlässlich auseinandersetzt und jedes einzelne Vorbringen ausdrücklich widerlegt (<ref-ruling> E. 3.1; <ref-ruling> E. 3.3 je mit Hinweisen).
Der Vorwurf des Beschwerdeführers, die Vorinstanz sei ihrer Begründungspflicht nicht nachgekommen, trifft nicht zu. Zwar sind ihre Erwägungen im angefochtenen Entscheid zur Frage eines allfälligen Strafaufschubs in der Tat eher knapp ausgefallen. Aus diesem Umstand lässt sich jedoch noch keine Verletzung des Anspruchs auf rechtliches Gehör ableiten. Die Vorinstanz hat ihrem Entscheid das aktualisierte Ergänzungsgutachten vom 23. März 2008 zugrunde gelegt. Darin würdigt der amtliche Gutachter die Umstände, die nach Auffassung der Verteidigung und der von ihr angerufenen Experten für einen Strafaufschub sprechen, einlässlich und nachvollziehbar. Die Vorinstanz brauchte deshalb nicht noch einmal detailliert darauf einzugehen. Im Weiteren zeigt sie hinreichend deutlich auf, dass und weshalb sie die als überzeugend beurteilte Einschätzung des amtlichen Gutachters teilt, wonach eine ambulante Behandlung des Beschwerdeführers auch im Strafvollzug weiterhin sinnvoll durchführbar sei. Damit verwirft sie gleichsam die gegen das Ergänzungsgutachten gerichtete Kritik des Beschwerdeführers, insbesondere was den erhobenen Vorwurf der Widersprüchlichkeit anbelangt. Die Begründung der Vorinstanz erlaubt mithin, den Entscheid sachgerecht anzufechten, was auch aus der eingereichten Rechtsschrift hervorgeht. Eine Verletzung des Anspruchs auf rechtliches Gehör im Sinne der Begründungspflicht ist unter diesen Umständen nicht erkennbar.
2. Soweit der Beschwerdeführer der Vorinstanz Willkür bei der Feststellung des Sachverhalts (<ref-law>) vorwirft, geht seine Rüge an der Sache vorbei. Sein Vorwurf, die Vorinstanz stelle willkürlich fest, dass seine Kritik am gleichzeitigen Vollzug von Strafe und Massnahme genereller Natur sei und eine Kombination von Strafvollzug und ambulanter Massnahme ausschlösse, läuft darauf hinaus, dass die Vorinstanz seine Vorbringen zu Unrecht als unbegründet erachtet habe. Dies ist indessen eine Frage der materiellen Beurteilung nach <ref-law>, nicht aber der Willkür.
3. Nach dem Dafürhalten des Beschwerdeführers ist insbesondere gestützt auf die Einschätzung seines Therapeuten davon auszugehen, dass der Strafvollzug den Erfolg der Massnahme erheblich beeinträchtigen würde. Dies gelte umso mehr, als er in der laufenden psychotherapeutischen Behandlung grosse Fortschritte gemacht habe, die im Falle eines Vollzugs unter anderem wegen des für ihn ungünstigen Therapeutenwechsels zunichte gemacht oder erheblich beeinträchtigt würden. Ein Strafvollzug führte überdies zu einer depressiven Reaktion seinerseits. Er sei 61 Jahre alt und verlöre mit dem Vollzug jegliche Aussicht, sich nach der Haftentlassung wieder in die Gesellschaft eingliedern bzw. eine Arbeitstätigkeit aufnehmen zu können. Überdies bedeutete ein Vollzug das Ende seiner Firma. Dadurch würde ihm die Existenzgrundlage definitiv entzogen, und er wäre früher oder später auf Sozialhilfe angewiesen. Im Falle eines Vollzugs würde ihm auch verunmöglicht, das Opfer und dessen Familie weiterhin finanziell zu unterstützen. Die Weiterführung der bisherigen Therapie in Freiheit biete ihm sehr gute Resozialisierungschancen, die durch den Strafvollzug in der konkreten Situation verhindert oder wesentlich vermindert würden. Vor diesem Hintergrund verletze der angefochtene Entscheid <ref-law>.
3.1 Die Vorinstanz stützt sich beim Verzicht auf einen Aufschub der Strafe auf das Gerichts- und Ergänzungsgutachten. Aus der einlässlichen Auseinandersetzung des amtlichen Gutachters mit den Einschätzungen des Therapeuten und des Privatgutachters ergebe sich, dass der Erfolg der ambulanten Massnahme durch einen vorherigen oder gleichzeitigen Strafvollzug nicht verhindert oder erheblich beeinträchtigt würde. Allenfalls sei davon auszugehen, dass bei einem allfälligen Strafantritt und dem hiermit wohl zwangsläufig verbundenen Therapeutenwechsel nicht nur ein Unterbruch in der bisherigen therapeutischen Arbeit entstehen würde, sondern initial bis zur Herstellung eines neuen tragfähigen therapeutischen Beziehungsbündnisses auch ein therapeutischer Stillstand zu erwarten wäre. Dies sei jedoch nach dem amtlichen Gutachter nicht mit einer erheblichen Verhinderung oder Verunmöglichung einer strafbegleitenden ambulanten Behandlung gleichzusetzen, sondern schiebe (lediglich) den Zeitrahmen bis zum allfällig erfolgreichen Abschluss der Massnahme nach hinten. Die von der Verteidigung und den von ihr angerufenen eigenen Experten geäusserte Kritik am gleichzeitigen Vollzug von Strafe und Massnahme sei weitgehend genereller Natur und schlösse diese Kombination kategorisch aus. Das Gesetz eröffne aber diese Möglichkeit, und sie sei im vorliegenden Fall gemäss den Ausführungen des amtlichen Gutachters keineswegs zum Scheitern verurteilt. Hinzu komme, dass bei langjährigen Freiheitsstrafen wie hier und bei Tätern wie dem Beschwerdeführer mit keiner oder nur geringer Verminderung der Zurechnungsfähigkeit der Strafaufschub zugunsten einer ambulanten Massnahme nur zurückhaltend gewährt werde. Aus all diesen Gründen rechtfertige sich vorliegend der Aufschub des Strafvollzugs zugunsten der Massnahme nicht.
3.2 Nach der Rechtsprechung des Bundesgerichts ist der Strafaufschub anzuordnen, wenn eine tatsächliche Aussicht auf erfolgreiche Behandlung durch den sofortigen Vollzug der ausgefällten Freiheitsstrafe erheblich beeinträchtigt würde. Die Therapie geht vor, falls eine sofortige Behandlung gute Resozialisierungschancen bietet, welche der Strafvollzug klarerweise verhindern oder vermindern würde. Dabei sind einerseits die Auswirkungen des Strafvollzugs, die Erfolgsaussichten der ambulanten Behandlung und die bisherigen Therapiebemühungen zu berücksichtigen, andererseits aber auch das kriminalpolitische Erfordernis, Straftaten schuldangemessen zu ahnden bzw. rechtskräftige Strafen grundsätzlich zu vollziehen.
Wo ein Therapieerfolg wahrscheinlich ist, sollte nach der Praxis des Bundesgerichts - tendenziell - zunächst ärztlich behandelt werden. Ein Aufschub rechtfertigt sich aber nur, wenn die ambulante Therapie (ausserhalb des Strafvollzugs) im konkreten Einzelfall aktuelle und günstige Bewährungsaussichten eröffnet, die durch den Strafvollzug zunichte gemacht oder erheblich vermindert würden. Unter dem Gesichtspunkt des Gleichheitsgebotes muss der Behandlungsbedarf um so ausgeprägter sein, je länger die zugunsten der ambulanten Therapie aufzuschiebende Freiheitsstrafe ist. Die ambulante Massnahme darf im Übrigen nicht dazu missbraucht werden, den Vollzug der Strafe zu umgehen oder auf unbestimmte Zeit hinauszuschieben. Ein Aufschub muss sich aus Gründen der Heilbehandlung hinreichend rechtfertigen (vgl. zum Ganzen <ref-ruling> E. 4.1-4.4).
3.3 Soweit der Beschwerdeführer seine Rüge der Verletzung von <ref-law> auf die Meinungsäusserungen seines Therapeuten stützt, geht die Beschwerde an der Sache vorbei, da die Vorinstanz auf das amtliche Gutachten und dessen Ergänzung abstellen durfte (vgl. E. 1.1). Sodann vermögen die in der Beschwerde angeführten Gründe, die nach Ansicht der Verteidigung für einen Strafaufschub sprechen, nicht durchzudringen. Zum einen betreffen sie nicht die zu beurteilende Frage des Strafaufschubs, sondern vielmehr Gesichtspunkte der Strafempfindlichkeit, die allenfalls im Rahmen der Strafzumessung zu berücksichtigen gewesen wären. Dies gilt insbesondere in Bezug auf die Einwände des Beschwerdeführers, ein Gefängnisaufenthalt bedeutete das Ende für seine Firma, er selber verlöre dadurch seine Existenzgrundlage und zusätzlich die Möglichkeit, das Opfer und seine Familie finanziell zu unterstützen. Zum anderen sind sie, wie die Vorinstanz zu Recht erwägt, weitgehend allgemeiner Natur und könnten dementsprechend in jedem Fall geltend gemacht werden. Reichten sie aber aus, um den Strafaufschub nach <ref-law> zu rechtfertigen, könnte der Strafvollzug in Fällen, in denen eine ambulante Behandlung erforderlich ist, kaum noch je angeordnet werden. Soweit sich die Situation des Beschwerdeführers insbesondere angesichts seines fortgeschrittenen Alters und dem sich zumindest initial ungünstig auswirkenden Therapeutenwechsel dennoch leicht verschärft darstellt - was im Übrigen auch im angefochtenen Entscheid nicht verkannt wird - kann gleichwohl nicht davon gesprochen werden, dass der Vollzug der Strafe die Erfolgschancen der Therapie erheblich vermindern oder gar vernichten würden, zumal dem Beschwerdeführer - namentlich mit Blick auf die angeordnete lange Freiheitsstrafe von fünf Jahren - ein erfolgreicher Abschluss der ambulanten Behandlung, wenn auch mit einer gewissen Verzögerung, laut dem Gutachter trotzdem möglich sein sollte. Vor diesem Hintergrund vermag der Beschwerdeführer auch aus dem angerufenen Entscheid des Bundesgerichts vom 2. November 2006 (6S.295/2006 E. 6.3.2) nichts für sich ableiten. Zwar wurde im damaligen Fall der als sehr ungünstig anerkannte Therapeutenwechsel angesichts des relativ hohen Alters und der festgestellten Persönlichkeitsstruktur des fraglichen Täters ins Zentrum der Überlegungen für einen Strafaufschub gestellt. Anders als hier ging es im angerufenen Entscheid aber um den Aufschub einer viel kürzeren Freiheitsstrafe von zwei Jahren und wies der damalige Täter, der wegen eines früheren schweren Arbeitsunfalls in psychiatrischer Behandlung stand, bereits körperliche und depressive Symptome, insbesondere auch Suizidgedanken, auf, die sich im Strafvollzug laut dem psychiatrischen Gutachten verstärkt hätten.
4. Zusammenfassend erweist sich die Beschwerde als unbegründet, soweit darauf überhaupt eingetreten werden kann. Der Beschwerdeführer trägt die Kosten vor Bundesgericht (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 4'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Strafkammer, schriftlich mitgeteilt.
Lausanne, 26. Dezember 2008
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Schneider Arquint Hill