Sachverhalt:
A. A.a X._ (geb. 1960) und Y._ (geb. 1963) sind die unverheirateten Eltern der Söhne A._ (geb. 1997) und B._ (geb. 1999) sowie der Tochter C._ (geb. 2002). Die Parteien führten von 1995 bis anfangs 2007 einen gemeinsamen Haushalt, seit 2002 in einem dem Vater gehörenden Haus. Nach der Trennung blieb Y._ vorerst mit ihren Kindern und ihrem neuen Lebenspartner D._ in dieser Liegenschaft wohnen. Mit Beschluss des Obergerichts des Kantons Zürich vom 11. März 2009 wurden sie allerdings ausgewiesen.
A.b Bis im Sommer 2007 fand ein regelmässiger Kontakt zwischen dem Vater und seinen Kindern statt. Seither ist der persönliche Verkehr faktisch unterbrochen. Am 10. Oktober 2007 wandte sich X._ an die Sozialbehörde von Fällanden und beantragte, die elterliche Sorge über die gemeinsamen Kinder beiden Eltern zu übertragen und den persönlichen Verkehr zu regeln. Nach Einholung eines Abklärungsberichtes, in welchem ein gerichtsübliches Besuchsrecht empfohlen worden war, räumte die Sozialbehörde Fällanden dem Vater vorerst für die Dauer von sechs Monaten ein eingeschränktes und begleitetes Besuchsrecht ein. Sodann errichtete sie eine Besuchsrechtsbeistandschaft nach Art. 308 Abs. 2 ZGB an und ernannte eine Beiständin. Auf den Antrag, die elterliche Sorge beiden Eltern zuzuteilen, trat die Sozialbehörde nicht ein; die Anträge auf Anordnung einer Beistandschaft im Sinne von Art. 308 Abs. 1 ZGB bzw. Abklärung der Erziehungsfähigkeit der Mutter lehnte die Sozialbehörde ab (Beschluss vom 24. April 2008).
A.c Auf Beschwerde des Vaters ordnete der Bezirksrat Uster mit Beschluss vom 25. Juni 2008 ein unbegleitetes Besuchsrecht am ersten und dritten Wochenende eines jeden Monats sowie an Feiertagen und während der Schulferien für die Dauer von vier Wochen an. Er legte ferner fest, dass der Vater die Kinder zu Beginn des Besuchsrechts und die Mutter die Kinder nach Beendigung desselben abhole, was alles von der Beiständin zu organisieren und zu überwachen sei. Soweit weitergehend, wies der Bezirksrat die Beschwerde ab.
B. B.a Mit Beschluss vom 4. März 2009 änderte die Sozialbehörde Fällanden die Modalitäten des Besuchsrechts. Neu sollte die Mutter die Kinder zum Vater bringen und dieser die Kinder nach Beendigung des Besuchsrechts zurückbringen. Die Beiständin wurde neu beauftragt, die Entwicklung der Kinder zu verfolgen, mit den Kindern periodisch Kontakt zu pflegen und sich bei Bedarf bei den Lehrkräften über die persönliche und schulische Entwicklung zu erkundigen. Zudem wurde der Mutter unter Androhung der Ungehorsamsstrafe befohlen, die Kinder zur Ausübung des Besuchsrechts dem Vater herauszugeben und sie ihm zu überbringen, und der Vater wurde in gleicher Weise angewiesen, die Kinder rechtzeitig wieder in den mütterlichen Haushalt zurückzuführen. Hingegen verzichtete die Sozialbehörde Fällanden auf die Anordnung weiterer Kindesschutzmassnahmen und wies die diesbezüglichen Begehren ab.
B.b Gegen diesen Beschluss erhob der Vater am 17. März 2009 Beschwerde beim Bezirksrat Uster und beantragte, es seien unverzüglich Kindesschutzmassnahmen anzuordnen, welche die Kinder vor psychischen und physischen Übergriffen der Mutter schützen. Letztere sei unter Androhung von griffigen Massnahmen anzuhalten, ihren Lebensabschnittspartner von den Kindern fernzuhalten und ihn mit sofortiger Wirkung aus der derzeitigen Wohnung der Kinder auszuweisen. Ferner sei die Erziehungsfähigkeit der Mutter abzuklären, die Obhut über die Kinder auf ihn zu übertragen und die Notwendigkeit der Übertragung der elterlichen Sorge an ihn abzuklären. Sodann seien die Modalitäten und die Notwendigkeit von flankierenden Massnahmen für die Obhutszuteilung an ihn abzuklären. Schliesslich beantragte der Vater, es sei die Teilrechtskraft des angefochtenen Beschlusses festzustellen und der angeordnete persönliche Verkehr als einstweilige vorsorgliche Massnahme anzuordnen unter Entzug der aufschiebenden Wirkung eines allfälligen Rechtsmittels. Mit Präsidialverfügung vom 24. März 2009 stellte der Bezirksrat Uster fest, dass die Anordnung des Besuchsrechts nicht angefochten worden und dieses somit durchzuführen sei. Mit Beschluss vom 22. Juli 2009 wies der Bezirksrat Uster die Beschwerde ab.
C. Gegen den Beschluss des Bezirksrats Uster vom 22. Juli 2009 erhob der X._ Rekurs beim Obergericht des Kantons Zürich. Er wiederholte - zum Teil in leicht abgeänderter Form - seine im bisherigen Verfahren gestellten Begehren. Nach Einholung eines kinderpsychiatrischen Gutachtens wies das Obergericht den Rekurs mit Beschluss vom 30. Juli 2010 ab, ebenso das Begehren auf Anordnung einer Erziehungsbeistandschaft und weiterer Kindesschutzmassnahmen. Ferner sistierte es das Besuchsrecht bis zum 31. Dezember 2011 und forderte die Eltern auf, das gemeinsame Gespräch aufzunehmen und nötigenfalls um mediatorische Unterstützung bemüht zu sein. In den Erwägungen wies es die Mutter darauf hin, dass sich die Frage des Sorgerechts- und Obhutsentzugs ernsthaft stellen werde, sollte sie sich diesen Gesprächen grundlos verschliessen. Sodann beauftragte das Obergericht die Beiständin, sich regelmässig bei den Lehrkräften der Kinder über den aktuellen Zustand zu erkundigen und nötigenfalls der Vormundschaftsbehörde Bericht und Antrag über zu ergreifende Kindesschutzmassnahmen zu stellen.
D. Mit undatierter, am 14. September 2010 der Schweizerischen Post übergebener Eingabe wendet sich X._ (nachfolgend Beschwerdeführer) an das Bundesgericht. Er beantragt, eine Erziehungsbeistandschaft sowie weitere Kindesschutzmassnahmen (psychologische Betreuung und Begleitung der Kinder, "Erziehungs-Kurs" der Kindsmutter, Anweisung an die Vormundschaftsbehörde betreffend Gesprächsführung und Kontrolle der Massnahmen) anzuordnen, das mit Beschluss des Bezirksrates Uster vom 25. Juni 2008 angeordnete und mit Beschluss des Sozialbehörde Fällanden vom 4. März 2009 in den Modalitäten abgeänderte Besuchsrecht aufrechtzuerhalten und mit geeigneten Massnahmen durchzusetzen; alles unter Kosten- und Entschädigungsfolgen zulasten der Beschwerdegegnerin.
Es wurden die Akten, aber keine Vernehmlassungen eingeholt.
Erwägungen:
1. 1.1 Angefochten ist ein kantonal letztinstanzlicher Endentscheid in einer nicht vermögensrechtlichen Zivilsache. Die Beschwerde in Zivilsachen steht offen (Art. 72 Abs. 1, Art. 75 Abs. 1 und Art. 90 BGG).
1.2 In rechtlicher Hinsicht sind alle Rügen gemäss Art. 95 f. BGG zulässig und das Bundesgericht wendet in diesem Bereich das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG), was heisst, dass es behauptete Rechtsverletzungen (Art. 42 Abs. 2 BGG) mit freier Kognition prüft. Trotzdem obliegt es dem Beschwerdeführer, sich in seiner Beschwerde sachbezogen mit den Darlegungen im angefochtenen Entscheid auseinanderzusetzen (Art. 42 Abs. 1 und 2 BGG).
Dagegen ist das Bundesgericht an den vorinstanzlich festgestellten Sachverhalt grundsätzlich gebunden (Art. 105 Abs. 1 BGG). Diesbezüglich kann einzig vorgebracht werden, er sei offensichtlich unrichtig festgestellt worden (Art. 97 Abs. 1 BGG), wobei "offensichtlich unrichtig" mit "willkürlich" gleichzusetzen ist (Botschaft, BBl 2001 IV 4338; BGE 133 II 249 E. 1.2.2 S. 252), oder er beruhe auf einer anderen Rechtsverletzung im Sinn von Art. 95 BGG (z.B. Art. 29 Abs. 2 BV oder Art. 8 ZGB). Ausserdem muss in der Beschwerde aufgezeigt werden, inwiefern die Behebung der vorerwähnten Mängel für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG; BGE 135 I 19 E. 2.2.2 S. 22). Für all diese Elemente gilt das strenge Rügeprinzip (Art. 106 Abs. 2 BGG; BGE 133 II 249 E. 1.4.2 S. 255). Das Bundesgericht prüft nur klar und detailliert erhobene und soweit möglich belegte Rügen, während es auf ungenügend begründete Rügen und rein appellatorische Kritik am angefochtenen Entscheid nicht eintritt. Wird die Verletzung des Willkürverbots gerügt, reicht es sodann nicht aus, die Lage aus Sicht des Beschwerdeführers darzulegen und den davon abweichenden angefochtenen Entscheid als willkürlich zu bezeichnen; vielmehr ist im Einzelnen darzulegen, inwiefern das kantonale Gericht willkürlich entschieden haben soll und der angefochtene Entscheid deshalb an einem qualifizierten und offensichtlichen Mangel leidet (BGE 134 II 244 E. 2.2 S. 246).
2. Nach dem Gesagten hat das Bundesgericht seinem Entscheid die kantonalen Sachverhaltsfeststellungen zugrunde zu legen. Der Beschwerdeführer kritisiert zwar explizit oder implizit verschiedene Feststellungen, indem er ausführlich seine eigene Wahrnehmung des Geschehenen schildert (S. 3 bis 23 der Beschwerde). Eigentliche Willkürrügen erhebt er aber keine. Daher ist die Beschwerde rein appellatorisch begründet. Wie in E. 1.2 festgehalten, müsste der Beschwerdeführer unter Bezugnahme auf einzelne Aktenstellen bzw. Erwägungen detailliert aufzeigen, inwiefern das Obergericht den Sachverhalt offensichtlich unrichtig festgestellt haben soll; ausserdem müsste auch dargelegt werden, inwiefern der betreffende Verstoss für den Verfahrensausgang entscheidend wäre. Auf die Beschwerde kann mithin nicht eingetreten werden, soweit der Beschwerdeführer lediglich explizit oder implizit Kritik an den Sachverhaltsfeststellungen des Obergerichts übt.
Auf die Beschwerde kann auch insoweit nicht eingetreten werden, als der Beschwerdeführer die behaupteten Bundesrechtsverletzungen gestützt auf den von ihm selbst dargestellten und nicht auf den vom Obergericht - für das Bundesgericht verbindlich - festgestellten Sachverhalt begründet. Dies gilt namentlich für die Rüge, das Obergericht habe die Erziehungsfähigkeit der Mutter zu Unrecht bejaht.
3. Der Beschwerdeführer wirft dem Obergericht wiederholt vor, nicht die geeigneten Kindesschutzmassnahmen getroffen zu haben. Er hat indes zu beachten, dass dem Sachgericht in Kindesschutzbelangen ein weites Ermessen zukommt (Art. 4 ZGB). Wohl überprüft das Bundesgericht Ermessensentscheide kantonaler Instanzen an sich frei. Es übt aber Zurückhaltung und schreitet nur ein, wenn die Vorinstanz grundlos von in Rechtsprechung und Lehre anerkannten Grundsätzen abgewichen ist, wenn sie Gesichtspunkte berücksichtigt hat, die für den Entscheid im Einzelfall keine Rolle hätten spielen dürfen, oder wenn Umstände nicht in Betracht gezogen worden sind, die hätten beachtet werden müssen. Das Bundesgericht greift ausserdem in Ermessensentscheide ein, wenn sich diese offensichtlich unbillig, als in stossender Weise ungerecht erweisen (BGE 128 III 428 E. 4 S. 432; s. auch Urteil 5A_254/2010 vom 5. Juli 2010, E. 3.2.5).
Entgegen den Behauptungen des Beschwerdeführers hat das Obergericht sehr wohl erkannt, dass die Instrumentalisierung der Kinder durch die Mutter und der daraus resultierende fehlende Kontakt zum Vater dem Kindeswohl grundsätzlich abträglich ist. Es kommt indes gestützt auf die Meinung der Gutachter zum Schluss, dass nicht nur das Verhalten der Mutter, sondern auch dasjenige des Vaters für die Entfremdungstendenzen der Kinder und deren Weigerung, einen Kontakt zum Vater zu pflegen, verantwortlich sind und eine Normalisierung nur erreicht werden könne, wenn im Verhältnis unter den Eltern Ruhe einkehre. Das war der Grund, das formell eingeräumte, aber nie durchgesetzte und auch nicht durchsetzbare Besuchsrecht zu sistieren. Mit einer Dauer von fast eineinhalb Jahren ist die Sistierung zwar für eine lange Zeit angeordnet worden, die an der oberen Grenze des Üblichen liegt. In Anbetracht der konkreten Umstände erscheint die Regelung aber nicht als geradezu unbillig, umso weniger, als das Obergericht es für notwendig erachtete, die Eltern im gleichen Zug dazu aufzufordern, das gemeinsame Gespräch aufzunehmen und nötigenfalls um mediatorische Unterstützung bemüht zu sein. Von weiteren Massnahmen (Obhutsentzug, Errichtung einer Erziehungsbeistandschaft, Verpflichtung der Mutter, einen "Erziehungs-Kurs" zu besuchen) sah das Obergericht ab, weil solche Anordnungen die dringend empfohlene Einkehr von Ruhe im System verhindern und gegenteils zu einer weiteren Eskalation führen würden.
In seinen Ausführungen beschränkt sich der Beschwerdeführer darauf, seine Sicht der Dinge darzulegen und die - durchaus relevanten - Kriterien einer eigenen Würdigung zu unterziehen. Er zeigt aber nicht auf, in welchem Zusammenhang das Obergericht grundlos von in Rechtsprechung und Lehre anerkannten Grundsätzen abgewichen ist, wo es Gesichtspunkte berücksichtigt hat, die für den Entscheid im Einzelfall keine Rolle hätten spielen dürfen, bzw. welche Umstände es nicht in Betracht gezogen hat, die hätten beachtet werden müssen. Damit ist nicht dargetan, dass das Obergericht mit seinen Erwägungen das ihm zustehende Ermessen missbraucht oder überschritten hat.
4. Nur der Vollständigkeit halber sei die Mutter darauf hingewiesen, dass der persönliche Verkehr als Pflichtrecht ausgestaltet ist, indem der Elternteil, dem das Sorge- oder Obhutsrecht nicht zusteht, und das unmündige Kind gegenseitig Anspruch auf angemessenen persönlichen Verkehr haben (Art. 273 Abs. 1 ZGB). Bei dessen Ausgestaltung steht zwar das Kindeswohl im Vordergrund (BGE 131 III 209 E. 5 S. 212), dem Kind - und insbesondere dem Sorgerechtsinhaber - kommt aber kein eigentliches Selbstbestimmungsrecht zu (BGE 100 II 76 E. 4b S. 82 ff.). Sodann entspricht es kinderpsychologischer Erkenntnis, dass in der Entwicklung des Kindes eine Beziehung zu beiden Elternteilen sehr wichtig ist (BGE 130 III 585 E. 2.2.2 S. 590). Der Mutter sei in diesem Sinn nahegelegt, im Dreieck der Beteiligten ihr eigenes Verhältnis zum Kindsvater klar von demjenigen zwischen Vater und Kindern zu trennen und im Interesse der Kinder sowie zur Vermeidung von Massnahmen im Sinn von Art. 273 Abs. 2 oder von Art. 307-311 ZGB (bis hin zum Sorgerechts- und Obhutsentzug) ihren Kooperationspflichten nachzuleben, einerseits im Verhältnis zu den Behörden, andererseits aufgrund ihrer gesetzlichen Pflicht, alles zu unterlassen, was das Verhältnis des Kindes zum anderen Elternteil beeinträchtigt (Art. 274 Abs. 1 ZGB), auch gegenüber dem Beschwerdeführer. In diesem Sinn sollte die Mutter auch die von den Gutachtern geäusserten Bedenken am Verhalten bzw. an der Art der Einflussnahme ihres Lebensabschnittspartners beherzigen.
5. Nach dem Gesagten ist die Beschwerde abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Ausgang sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG). Der Beschwerdegegnerin sind keine entschädigungspflichtigen Aufwendungen entstanden (Art. 68 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf eingetreten werden kann.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 13. Januar 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl V. Monn