Sachverhalt:
A. X._, geboren 1962, leidet an einer chronisch-paranoiden Schizophrenie (F20.0) und war deswegen erstmals in der Zeit vom 18. November bis 20. Dezember 2006 auf freiwilliger Basis in der Psychiatrischen Privatklinik Sanatorium Y._ untergebracht. Ein weiterer (freiwilliger) Aufenthalt im Sanatorium erfolgte krisenbedingt vom 20. Februar bis 22. Februar 2007. Am 12. Juni 2009 wurde X._ fürsorgerisch die Freiheit entzogen und gestützt darauf die Einweisung in die vorgenannte Privatklinik verfügt. Die Einweisung ist rechtskräftig.
B. Mit Verfügung vom 26. Juni 2009, mitgeteilt am 30. Juni 2009, ordnete die ärztliche Leitung der Psychiatrischen Privatklinik Sanatorium Y._ die zwangsweise Behandlung von X._ mit Clozapin (antipsychotisch wirkendes Neuroleptikum) mit einer Zieldosis von 300-600 mg/Tag bzw. mit Olanzapin mit einer Dosierung von 10-20 mg/Tag an, worauf X._ am 9. Juli 2009 den Einzelrichter betreffend fürsorgerische Freiheitsentziehung am Bezirksgericht Z._ darum ersuchte, die Verfügung vom 26. Juni 2009 aufzuheben. Mit Urteil vom 14. Juli 2009 wies der Einzelrichter das Gesuch ab. Die gegen dieses Urteil am 15. Juli 2009 eingereichte Berufung blieb erfolglos (Beschluss vom 3. August 2009).
C. X._ gelangt mit Beschwerde in Zivilsachen vom 12. August 2009 an das Bundesgericht mit dem Begehren, es sei der Beschluss des Obergerichts vom 3. August 2009 aufzuheben und es sei zu verbieten, ihm zwangsweise Medikamente zu verabreichen. Für das bundesgerichtliche Verfahren ersucht der Beschwerdeführer um unentgeltliche Rechtspflege. Die ärztliche Leitung der Klinik hat sich am 17. August 2009 vernehmen lassen, ohne einen Antrag zu stellen. Das Obergericht hat auf Vernehmlassung verzichtet.
D. Der Beschwerde ist mit Verfügung vom 24. August 2009 aufschiebende Wirkung zuerkannt worden.
E. Der Beschwerdeführer hat am 23. August 2009 seine Beschwerde ergänzt. Der Anwalt des Beschwerdeführers hat am 25. August 2009 repliziert.

Erwägungen:
1. 1.1 Angefochten ist ein letztinstanzliches (<ref-law>) Urteil betreffend Anordnung einer Zwangsmassnahme im Zusammenhang mit einer fürsorgerischen Freiheitsentziehung, die mit Beschwerde in Zivilsachen dem Bundesgericht unterbreitet werden kann (Art. 72 Abs. 2 lit. b Ziff. 6 BGG; Urteil 5A_396/2007 vom 23. Juli 2007 E. 1.1).
1.2 Der angefochtene Beschluss ist dem Vertreter des Beschwerdeführers am 4. August 2009, mithin während der Gerichtsferien zugestellt worden (<ref-law>). Die Beschwerdefrist begann demnach am 16. August 2009 zu laufen (5A_634/2008 vom 9. Februar 2009 E. 1 nicht publ. in <ref-ruling>), womit die Beschwerdeergänzung vom 23. August 2009 als rechtzeitig erfolgt zu den Akten zu nehmen ist. Darauf ist soweit erforderlich zurückzukommen.
2. 2.1 Das Obergericht führt zu den für die Behandlung vorgesehenen Medikamenten aus, die erste Instanz erwäge zutreffend, dass die zwangsweise medikamentöse Behandlung einer Verhältnismässigkeitsprüfung bedürfe. Die Gutachterin führe aus, die Behandlung der schizophrenen Erkrankung mit Clozapin in ansteigender Dosis sei grundsätzlich geeignet, zeige aber etwas mehr Nebenwirkungen als das vom Beschwerdeführer früher freiwillig eingenommene Leponex. Die Vorinstanz hält im Weiteren dafür, die Zwangsmedikation müsse mit dem vorgeschlagenen Medikament durchgeführt werden, da es keine grosse Auswahl an hierfür geeigneten Mitteln gebe. Der Berufungsinstanz sei es verwehrt, auf die konkrete medikamentöse Behandlung eines Patienten bzw. auf die Wahl des Medikaments Einfluss zu nehmen, da dies in die Kompetenz der Ärzte falle.
Der Beschwerdeführer macht geltend, er habe in der Berufungsschrift beantragt, dass sich die Gutachterin zu den Indikationen, Kontraindikationen von Clozapin und Olanzapin und den Gefahren und Nebenwirkungen, die für ihn persönlich von diesen Arzneimitteln ausgehen, äussere und sich dazu vernehmen lasse, inwiefern ein nachhaltiger Heilungserfolg erwartet werden kann. Die Vorinstanz habe diesem für die erforderliche Prüfung der Verhältnismässigkeit des Eingriffs in seine persönliche Freiheit wesentlichen Beweisantrag nicht stattgegeben und damit <ref-law> und Art. 6 Ziff. 1 EMRK verletzt.
2.2 Der Beschwerdeführer legt nicht dar, inwiefern ihm Art. 6 Ziff. 1 EMRK mit Bezug auf das Recht, Beweisanträge zu stellen, einen weitergehenden Schutz gewährt als <ref-law>. Die Rüge des Beschwerdeführers ist somit allein im Lichte der Verfassungsbestimmung zu prüfen.
2.3 Das rechtliche Gehör dient einerseits der Sachaufklärung, andererseits stellt es ein persönlichkeitsbezogenes Mitwirkungsrecht beim Erlass eines Entscheides dar, welcher in die Rechtsstellung des Einzelnen eingreift. Dazu gehört insbesondere das Recht des Betroffenen, sich vor Erlass eines in seine Rechtsstellung eingreifenden Entscheids zur Sache zu äussern, Beweise beizubringen, Einsicht in die Akten zu nehmen, mit erheblichen Beweisanträgen gehört zu werden und an der Erhebung wesentlicher Beweise entweder mitzuwirken oder sich zumindest zum Beweisergebnis zu äussern, wenn dieses geeignet ist, den Entscheid zu beeinflussen (<ref-ruling> E. 2b; <ref-ruling> E. 2b; <ref-ruling> E. 3.1 S. 277).
2.4 Obwohl sich die Gutachterin im erstinstanzlichen Verfahren nur sehr oberflächlich zu etwaigen Nebenwirkungen der geplanten Zwangsbehandlung äusserte, hat das Obergericht dem Beweisantrag des Beschwerdeführers nicht stattgegeben. Es fragt sich als Erstes, ob es damit einem erheblichen Antrag nicht entsprochen hat.
2.4.1 Nach der Rechtsprechung des Bundesgerichts stellt die medikamentöse Zwangsbehandlung einen schweren Eingriff in die persönliche Freiheit des Beschwerdeführers dar und betrifft die Menschenwürde zentral. Nebst der erforderlichen gesetzlichen Grundlage, die vorliegend mit den §§ 24 ff. des Zürcher Patientinnen- und Patientengesetzes vom 5. April 2004 gegeben ist, verlangt der Eingriff eine vollständige und umfassende Interessenabwägung. Zu berücksichtigen sind dabei die öffentlichen Interessen, die Notwendigkeit der Behandlung, die Auswirkungen einer Nichtbehandlung, die Prüfung von Alternativen sowie die Beurteilung von Selbst- und Fremdgefährdung (<ref-ruling> E. 4 und 5). In diese Interessenabwägung miteinzubeziehen sind nach der bundesgerichtlichen Rechtsprechung insbesondere auch längerfristige Nebenwirkungen einer zwangsweise vorgesehenen Neuroleptika-Behandlung (<ref-ruling> E. 5.3 S. 21). Der Antrag des Beschwerdeführers, die Gutachterin solle sich zu den Gefahren und Nebenwirkungen äussern, die für ihn persönlich von diesen Arzneimitteln ausgehen, erweist sich demnach als für die bundesgerichtlich geforderte Interessenabwägung notwendig und damit als erheblich.
2.4.2 Das Obergericht ist der Ansicht, dass die Behandlung und die Wahl des Medikamentes Sache der Ärzte sei. Das trifft an sich zu, ändert aber nichts an der Pflicht der Gerichte, die verlangte Interessenabwägung, insbesondere auch bezüglich der längerfristigen Nebenwirkung einer geplanten Zwangsmedikation, vorzunehmen. Mit seinem Hinweis, in der Klinik hätten regelmässige und laborchemische Überwachung bezüglich der Verträglichkeit des Medikaments zu erfolgen, hat das Obergericht der bundesgerichtlichen Rechtsprechung nicht die Bedeutung beigemessen, die ihr tatsächlich zukommt, nämlich die möglichen oder zu erwartenden Nebenwirkungen in seine Interessenabwägung miteinzubeziehen. Der Beweisantrag des Beschwerdeführers erfolgte mit dem Ziel, der Vorinstanz die nötigen tatsächlichen Grundlagen für die durchzuführende Interessenabwägung zu verschaffen. Indem das Obergericht dem erheblichen Beweisantrag des Beschwerdeführers keine Beachtung schenkte, hat es <ref-law> verletzt.
3. Da nicht alle für die Beurteilung der Zulässigkeit der angeordneten Zwangsbehandlung erforderlichen Tatsachenelemente zusammengetragen worden sind, kann zum heutigen Zeitpunkt nicht abschliessend über deren Zulässigkeit befunden werden. Die Beschwerde ist gutzuheissen und der angefochtene Beschluss ohne Prüfung der weiteren Rügen aufzuheben. Das Obergericht wird nunmehr dem Beweisantrag zu entsprechen und alsdann die Interessenabwägung nach dem in <ref-ruling> E. 5 aufgezeigten Beurteilungsraster, namentlich auch mit Bezug auf mögliche Alternativen, vorzunehmen haben.
4. Im vorliegenden Fall ist der angefochtene Beschluss wegen eines ausschliesslich vom Kanton Zürich zu verantwortenden Mangels aufgehoben worden. Dem Kanton Zürich dürfen keine Gerichtskosten auferlegt werden, da das Obergericht in seinem Wirkungskreis gehandelt hat (<ref-law>). Angesichts des ihm anzulastenden Mangels hat der Kanton Zürich jedoch den Beschwerdeführer für das bundesgerichtliche Verfahren eine Entschädigung auszurichten (<ref-law>).
5. Mit der vorliegenden Kosten- und Entschädigungsregelung wird das Gesuch um unentgeltliche Rechtspflege gegenstandslos.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen und der Beschluss des Obergerichts des Kantons Zürich, II. Zivilkammer, vom 3. August 2009 wird aufgehoben. Die Sache wird im Sinn der Erwägungen an das Obergericht zurückgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege wird als gegenstandslos abgeschrieben.
3. Es werden keine Kosten erhoben.
4. Der Kanton Zürich hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 800.-- zu entschädigen.
5. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 2. September 2009
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Zbinden