Sachverhalt:
A. A.a X._ (nachfolgend: Beschwerdeführer) und Z._ (nachfolgend: Beschwerdegegnerin) sind die nicht verheirateten Eltern des 2000 geborenen Sohnes Y._, den der Vater bereits am 3. August 2000 im Sinne von Art. 260 ZGB vor dem Zivilstandsbeamten anerkannt hatte. Am 15. Januar 2001 unterzeichneten die in einem gemeinsamen Haushalt wohnenden Eltern eine Vereinbarung betreffend gemeinsame elterliche Sorge, in der sie überdies den gemeinsamen Unterhalt und die Betreuung des Sohnes regelten. Mit Beschluss vom 15. Februar 2001 übertrug die Vormundschaftsbehörde der Stadt A._ gestützt auf Art. 298a Abs. 1 ZGB den nicht verheirateten Eltern die gemeinsame elterliche Sorge über den Sohn und genehmigte ihre Vereinbarung über die Anteile an der Betreuung des Kindes und die Verteilung der Unterhaltskosten.
A.b Im Verlaufe des Jahres 2002 zog der Vater wegen Beziehungsschwierigkeiten aus dem gemeinsamen Haushalt der Parteien aus, worauf die Mutter am 6. August 2004 den Bezirksrat A._ als untere vormundschaftliche Aufsichtsbehörde darum ersuchte, ihr das alleinige Sorgerecht zu übertragen. Im nachfolgenden Verfahren stellte die Vormundschaftsbehörde entsprechend Antrag. Nachdem überdies die Parteien angehört worden waren, beschloss der Bezirksrat, die gemeinsame elterliche Sorge aufzuheben und die alleinige Sorge über den Sohn der Mutter zu übertragen. Den dagegen erhobenen Rekurs des Beschwerdeführers wies das Obergericht des Kantons Zürich, II. Zivilkammer, mit Beschluss vom 15. Dezember 2005 ab und bestätigte den bezirksrätlichen Beschluss. Die Parteien wurden zudem eingeladen, binnen 30 Tagen eine Vereinbarung über den Unterhalt des Kindes und das Besuchsrecht des Vaters einzureichen.
A.c Die vom Beschwerdeführer gegen den obergerichtlichen Beschluss beim Bundesgericht eingereichte Berufung wurde mit Urteil vom 27. Juni 2006 abgewiesen, soweit darauf einzutreten war (5C.34 /2006).
B. B.a Da die Eltern von Y._ in der Folge nicht in der Lage waren, eine einvernehmliche Lösung vorzulegen, wandte sich die Vormundschaftsbehörde am 11. Oktober 2006 an den damaligen Leiter des Institutes S._ mit dem Ersuchen, die Verhältnisse fachkundig abzuklären und den Vorschlag für eine Kontaktregelung vorzulegen, der den Interessen und Bedürfnissen des Kindes bestmöglich Rechnung trage. Der Bericht des Experten liegt noch nicht vor.
B.b Am 12. Juli 2007 stellte der Beschwerdeführer beim Bezirksrat den formellen Antrag, es sei die Sorge für Y._ dessen Mutter zu entziehen und auf ihn, den Beschwerdeführer, zu übertragen. Während der Dauer des Verfahrens solle er berechtigt sein, das Kind die Hälfte der Zeit zu sich zu nehmen und zu betreuen, nach Umteilung der Sorge solle formell das Gegenteil gelten, solle nämlich die Mutter die Hälfte der Zeit Y._ zu sich nehmen und betreuen dürfen. Der Bezirksrat überwies die Sache der Vormundschaftsbehörde.
Am 29. November 2007 beschloss die Vormundschaftsbehörde, dem Bezirksrat die Abweisung des Gesuchs um Umteilung der Sorge zu beantragen. Für die Dauer des Verfahrens wurde festgelegt, dass Y._ in den ungeraden Kalenderwochen das ganze Wochenende (nämlich von Freitag Schulschluss bis Montag Schulbeginn) mit dem Vater verbringen solle. Die Eltern wurden ermahnt, alles zu unterlassen, was das Verhältnis des Kindes zum anderen Teil beeinträchtige oder die Aufgabe des Erziehens erschwere, und es wurde für Y._ zusätzlich zur bestehenden Beistandschaft eine solche mit einer eigenen (anderen) Beiständin zur Umsetzung und Überwachung der Kontakte zum Vater errichtet. Innert Frist focht der Rekurrent diesen Beschluss nicht an.
B.c Mit unverlangter Eingabe vom 12. März 2008 nahm der Beschwerdeführer gegenüber dem Bezirksrat Stellung zum Beschluss der Vormundschaftsbehörde. Er liess sich zur Frage der Sorge vernehmen und stellte den Antrag, es sei ihm "ab sofort ein Besuchsrecht jede zweite Woche, d.h. von jeweils jedem zweiten Freitag ab Schulschluss bis Schulbeginn am nächsten Freitag zu gewähren".
Der Bezirksrat beschloss am 12. Juni 2008, die elterliche Sorge der Mutter von Y._ nicht zu entziehen. Auf den Antrag betreffend das Besuchsrecht trat er nicht ein.
B.d Der vom Beschwerdeführer beim Obergericht des Kantons Zürich, II. Zivilkammer, eingereichte Rekurs hatte keinen Erfolg. Mit Beschluss vom 24. Juli 2008 wurde das Rechtsmittel abgewiesen und der Beschluss des Bezirksrats vom 12. Juni 2008 wurde bestätigt.
C. Mit Eingabe vom 15. September 2008 hat der Beschwerdeführer die Sache an das Bundesgericht weitergezogen und beantragt in der Hauptsache die Rückweisung an das Obergericht. Eventualiter sei der Beschwerdegegnerin die elterliche Sorge über den Sohn Y._ zu entziehen und auf den Beschwerdeführer zu übertragen, und ferner sei die Beschwerdegegnerin berechtigt zu erklären, den Sohn während der Hälfte der Zeit zu sich oder mit sich auf Besuch zu nehmen bzw. zu betreuen.
Es wurden keine Vernehmlassungen eingeholt.
Erwägungen:
1. 1.1 Der angefochtene Entscheid des Obergerichts ist letztinstanzlich im Sinne von Art. 75 Abs. 1 BGG und die Beschwerde in Zivilsachen grundsätzlich zulässig (Art. 72 Abs. 1 BGG).
1.2 Der Hauptantrag, die Sache an das Obergericht zurückzuweisen, genügt nicht. Denn gleich wie nach der Praxis zur Berufung gemäss OG, muss der Beschwerdeführer angeben, welche Punkte des Entscheides angefochten und welche Abänderungen beantragt werden. Grundsätzlich ist ein materieller Antrag erforderlich; Anträge auf Rückweisung der Sache an die Vorinstanz zu neuer Entscheidung oder blosse Aufhebungsanträge genügen nicht und machen die Beschwerde unzulässig. Ein blosser Rückweisungsantrag reicht ausnahmsweise aus, wenn das Bundesgericht im Falle der Gutheissung in der Sache nicht selbst entscheiden könnte, weil die erforderlichen Sachverhaltsfeststellungen der Vorinstanz fehlen (BGE 133 III 489 E. 3 S. 489 f. mit Hinweisen). Zulässig ist dagegen der Eventualantrag, aber nur insoweit die Untersuchungsmaxime gerügt wird.
1.3 Anfechtungsgegenstand im vorliegenden Verfahren ist ausschliesslich das Sorgerecht, das bisher der Beschwerdegegnerin zustand und das der Beschwerdeführer auf sich selber übertragen möchte. Nicht eingetreten werden kann deshalb auf alle Vorbringen, die das Besuchsrecht beschlagen, denn der Entscheid der Vormundschaftsbehörde vom 29. November 2007, mit dem während der Dauer des Verfahrens ein Wochenendbesuchsrecht ausgesprochen wurde, ist am 13. Dezember 2007 rechtskräftig geworden.
1.4 Mit der Beschwerde kann insbesondere die Verletzung von Bundesrecht, Völkerrecht und kantonaler verfassungsmässiger Rechte geltend gemacht werden (Art. 95 BGG). Die Feststellung des Sachverhaltes kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Dabei ist "offensichtlich unrichtig" mit "willkürlich" gleichzusetzen (BGE 133 II 249 E. 1.2.2; 133 III 393 E. 7.1 S. 398). Es genügt aber nicht, einen von den tatsächlichen Feststellungen der Vorinstanz abweichenden Sachverhalt zu behaupten. Vielmehr ist in der Beschwerdeschrift im Einzelnen darzulegen, inwiefern diese willkürlich bzw. unter Verletzung einer verfahrensrechtlichen Verfassungsvorschrift zustande gekommen sein sollen (BGE 133 II 249 E. 1.4.3 S. 255).
1.5 1.5.1 Der Beschwerdeführer rügt die Feststellung im angefochtenen Beschluss als aktenwidrig, wonach er "auffällig von seinen Rechten, von seinen Ansprüchen" spreche. Es trifft zu, dass diese Bemerkung in der Rekursschrift vom 30. Juni 2008 keine Stütze findet. Der Beschwerdeführer tut jedoch nicht dar, inwiefern dieser Mangel für den Ausgang entscheidend im Sinne von Art. 97 Abs. 1 BGG sein soll. Der Beschwerdeführer hält sich in diesem Zusammenhang auch darüber auf, dass das Obergericht festgestellt habe, der Antrag des Beschwerdeführers (auf Umteilung der elterlichen Sorge) würde lediglich eine Veränderung der Machtverhältnisse bewirken. Er begründet aber nicht, inwiefern diese Schlussfolgerung der Vorinstanz willkürlich sein soll. Auch darauf ist nicht einzutreten. Im Übrigen hat der Beschwerdeführer selbst das Machtproblem aufgeworfen (Rekursschrift, S. 3 Abs. 3), und dieses wird in der vorliegenden Begründung zu den Eventualanträgen mehrfach erörtert.
1.5.2 Eine weitere und eindeutige Aktenwidrigkeit erblickt der Beschwerdeführer in der Feststellung des Obergerichts, er selbst würde eine gute Betreuung von Y._ durch die Beschwerdegegnerin bestätigen. Der Einwand ist unbegründet. Der Beschwerdeführer führt selbst in der Beschwerdeschrift an das Bundesgericht aus, das Kind werde in vieler Hinsicht gut betreut, doch habe die Beschwerdegegnerin seit Jahren immer wieder versucht, einen guten und intensiven Kontakt zwischen Vater und Sohn zu torpedieren. Ob sich die Beschwerdegegnerin gegen eine konstruktive Ausübung des Besuchsrechts wehrt, ist zwar ein wesentlicher Gesichtspunkt, wie im Folgenden zu zeigen sein wird. Dieser hat indessen nichts mit der Bestätigung zu tun, die Beschwerdegegnerin kümmere sich gut um Y._. Das Eine schliesst das Andere vielmehr nicht aus. Jedenfalls wird mit diesem Einwand keine Verletzung von Art. 9 BV dargetan (zum Willkürbegriff: BGE 134 I 140 E. 5.4 S. 148).
2. Im Weitern trägt der Beschwerdeführer vor, die Vorinstanz führe aus, dass die Beschwerdegegnerin allenfalls bis zur Festlegung eines vorläufigen Besuchsrechts gegen das Wohl von Y._ verstossen habe, indem sie allenfalls ungerechtfertigt Kontakte mit seinem Vater verhindert habe. Das Obergericht habe die früheren Verfehlungen der Beschwerdegegnerin jedoch nicht geprüft. Das sei rechtswidrig, verletze im Ergebnis nicht nur Art. 311 ZGB, sondern ebenso den Anspruch von Y._ auf Anwendung der Offizial- und Untersuchungsmaxime in der Frage der Prüfung der Notwendigkeit von Kindesschutzmassnahmen und schliesslich den Anspruch auf adäquate Begründung eines Entscheids.
2.1 Im angefochtenen Beschluss wird dazu erwogen, die Vorwürfe des Beschwerdeführers würden in erster Linie die Zeit, während welcher keine verbindliche Kontaktregelung bestanden habe, betreffen. Es möge sein, dass sich die Mutter damals nicht kooperativ verhalten habe. Die Beschwerdegegnerin sei jedoch darauf hingewiesen worden, dass sie Y._ auch gegen seinen Willen zu Kontakten mit seinem Vater anzuhalten habe. Das sei freilich vor dem Hintergrund der ausserordentlich schwierigen Paar- und Eltern-Beziehung der Parteien zu sehen, wie sie in den Akten belegt und dem Obergericht aus dem letzten Verfahren direkt bekannt sei. Gerade darum habe die gemeinsame elterliche Sorge aufgehoben werden müssen. Dass es die Mutter in dieser Situation an einer loyalen und vorurteilsfreien Haltung gegenüber dem Vater hätte fehlen lassen (was sie bestreite), wäre zwar bedauerlich und für Y._ sicher nicht günstig, im Grunde aber nicht erstaunlich. Der Beschwerdeführer räume selber ein, dass die Kontakte wieder aufgenommen worden seien, als das neue Verfahren in Gang gewesen sei, und dass sich die Mutter von Y._ gegen die vorläufige Anordnung der Kontakte nicht gewehrt habe. Mit der Installierung einer klaren Regelung, mit der Ernennung einer Beiständin eigens zum Begleiten und Überwachen der Kontakte seien die Interessen des Kindes jedenfalls zur Zeit ausreichend geschützt und die vom Beschwerdeführer postulierten Kindesschutzmassnahmen angeordnet. Der von der Vormundschaftsbehörde eingesetzte Gutachter habe die Regelung befürwortet. Unter diesen Umständen komme eine Umteilung der elterlichen Sorge zur Zeit nicht in Frage. Die Beiständin habe den ausdrücklichen Auftrag, der Behörde Antrag zu stellen, wenn sich aus ihrer Sicht weitere Massnahmen aufdrängten. Auch insofern bestehe ein Frühwarnsystem, das die Interessen des Kindes im Auge habe.
2.2 Diese Überlegungen des Obergerichts sind nicht zu beanstanden. Nicht eingetreten werden kann vorweg auf die blosse Behauptung, der Beschwerdeführer habe immer wieder ausführlich dargelegt, dass und wann die Beschwerdegegnerin Kontakte zwischen ihm und Y._ verhindert habe. Es wird in keiner Weise belegt, wann und in welchen Verfahren dies geschehen sei. Im Übrigen hat das Obergericht die früher schwierige Situation und die fehlende Kooperation der Beschwerdegegnerin nicht verneint, sondern das in jüngerer Zeit verbesserte Zusammenwirken in den Vordergrund gestellt. Ohne unmittelbaren Belang ist weiter die Berufung des Beschwerdeführers auf BGE 130 III 585, denn zum einen ist vorliegend das Sorgerecht und nicht das Besuchsrecht Beschwerdegegenstand und zum andern wird die Feststellung im angefochtenen Beschluss, dass der vorläufig angeordnete Kontakt von der Beschwerdegegnerin befolgt werde, nicht beanstandet oder gar als willkürlich gerügt. Dies ist entscheidend. Da sich die Beschwerdegegnerin an die vorläufig angeordnete Besuchsrechtsregelung hält, und auch keine Anhaltspunkte dafür bestehen, dass sie sich an eine definitive, allenfalls sogar erweiterte Besuchsrechtsregelung nicht halten wird, besteht kein Anlass, ihr das Sorgerecht zu entziehen und es dem Beschwerdeführer zuzuordnen. Die Vorinstanz hat im Übrigen - entgegen der Auffassung des Beschwerdeführers - eine mögliche Kontaktverhinderung durch die Beschwerdegegnerin nicht gebilligt, sondern (wohl mit Blick auf die durch das Scheitern des geteilten Sorgerechts ausgelösten Emotionen) als "nicht erstaunlich" beurteilt, dabei aber klar auf die Pflichten und die Verantwortung des Inhabers des Sorgerechts und der Obhut hingewiesen. Diese Pflicht besteht nicht nur darin, das angeordnete Besuchsrecht zu beachten, sondern weitergehend darin, die Beziehung zwischen dem Kind und dem anderen Teil zu fördern und das Kind für die Kontaktpflege positiv vorzubereiten (so der erwähnte BGE 130 III 585 S. 589). Der Vorwurf der Verletzung der Begründungspflicht (zur Begründungsdichte eines Urteils: BGE 133 III 439 E. 3.3 S. 445) geht somit ebenso fehl wie derjenige der Verletzung von Art. 311 ZGB. Es kann heute, d.h. im massgebenden Zeitpunkt vor der oberen kantonalen Behörde, nicht gesagt werden, dass die angeordneten Kindesschutzmassnahmen erfolglos geblieben sind. Schliesslich trägt es nicht zur Verbesserung der Beziehung zwischen den Eltern bei, und es dient namentlich auch nicht dem Wohl des Kindes, wenn sich der Beschwerdeführer auf vergangene Vorkommnisse fixiert, wo doch Schritte zur Lösung der bestehenden Konflikte in die Wege geleitet worden sind. Jedenfalls hat das Obergericht weder die Offizial- noch die Untersuchungsmaxime verletzt, wenn es den alten Vorkommnissen vor der vorläufigen Besuchsrechtsregelung nicht vertiefter nachgegangen ist.
Inwiefern das Obergericht mit dem angefochtenen Entscheid schliesslich Art. 8 EMRK missachtet haben könnte, wenn es eine Umteilung der elterlichen Sorge zur Zeit abgelehnt hat, ist weder ersichtlich noch dargetan.
3. Nach dem Ausgeführten ist die Beschwerde in Zivilsachen abzuweisen, soweit darauf einzutreten ist. Der Beschwerdeführer wird damit kostenpflichtig (Art. 66 Abs. 1 BGG). Eine Parteientschädigung an die Beschwerdegegnerin entfällt, da sie nicht zur Vernehmlassung eingeladen worden ist (vgl. Art. 68 Abs. 1 BGG)
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 10. November 2008
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Der Gerichtsschreiber:
Escher Schett