Sachverhalt:
A. A.a X._, geboren 1962, leidet an einer chronisch paranoiden Schizophrenie (F20.0) und war deswegen mehrmals freiwillig in der Psychiatrischen Privatklinik Sanatorium Kilchberg untergebracht. Nachdem es 2009 zu fünf sexuellen Übergriffen gegenüber Frauen gekommen war, wurde ihm am 12. Juni 2009 fürsorgerisch die Freiheit entzogen und gestützt darauf die Einweisung in diese Klinik verfügt. Die Einweisung erwuchs in Rechtskraft.
A.b Mit Verfügung vom 26. Juni 2009 ordnete die ärztliche Leitung der Klinik die zwangsweise Behandlung von X._ mit Clozapin (antipsychotisch wirkendes Neuroleptikum) mit einer Zieldosis von 300-600 mg/Tag bzw. mit Olanzapin mit einer Dosierung von 10-20 mg/Tag an. X._ focht diesen Entscheid erfolglos beim Einzelrichter betreffend fürsorgerische Freiheitsentziehung am Bezirksgericht Horgen an (Urteil des Einzelrichters vom 14. Juli 2009). Die dagegen erhobene Berufung wies das Obergericht des Kantons Zürich mit Beschluss vom 3. August 2009 ab. Das Bundesgericht hiess mit Urteil vom 2. September 2009 eine gegen den obergerichtlichen Beschluss erhobene Beschwerde von X._ gut, hob den angefochtenen Beschluss auf und wies die Sache zu ergänzenden Abklärungen und zu neuem Entscheid an das Obergericht zurück (Urteil 5A_524/2009). Der entsprechende Entscheid des Obergerichts steht noch aus.
B. Am 10. September 2009 ersuchte X._ beim Einzelrichter betreffend fürsorgerische Freiheitsentziehung des Bezirks Horgen um gerichtliche Beurteilung betreffend Entlassung aus der psychiatrischen Klinik. Der Einzelrichter wies das Gesuch um Entlassung mit Entscheid vom 15. September 2009 ab, gewährte dem Betroffenen die unentgeltliche Rechtspflege und bestellte ihm Rechtsanwalt Roger Burges als unentgeltlichen Rechtsbeistand. Die gegen die Abweisung der Entlassung aus der Anstalt erhobene Berufung wies das Obergericht des Kantons Zürich mit Beschluss vom 2. Oktober 2009 ab und bestätigte das erstinstanzliche Urteil. Die Kosten des Verfahrens wurden X._ auferlegt, zufolge Gewährung der unentgeltlichen Rechtspflege aber einstweilen auf die Gerichtskasse genommen und eine Nachzahlungspflicht gestützt auf <ref-law> vorbehalten. Für das zweitinstanzliche Verfahren sprach das Obergericht keine Parteientschädigungen zu.
C. X._, verbeiständet durch Rechtsanwalt Roger Burges, hat beim Bundesgericht am 14. Oktober 2009 gegen den obergerichtlichen Beschluss vom 2. Oktober 2009 Beschwerde in Zivilsachen erhoben. Er beantragt, den angefochtenen Beschluss aufzuheben und ihn aus der fürsorgerischen Freiheitsentziehung zu entlassen. Ferner sei festzustellen, dass der angefochtene Beschluss Art. 5 Ziff. 1 i.V.m. Art. 5 Ziff. 3 sowie Art. 13 EMRK verletze. Für das Verfahren vor dem Obergericht sei ihm die unentgeltliche Rechtspflege und Verbeiständung zu gewähren und sein Rechtsbeistand angemessen zu entschädigen. Für das Verfahren vor Bundesgericht ersucht er ebenso um unentgeltliche Rechtspflege und Verbeiständung, wobei eine allfällige Entschädigung seinem Rechtsbeistand auszuzahlen sei.
D. Das Obergericht hat auf Vernehmlassung verzichtet. Die Vormundschaftsbehörde Thalwil schliesst in ihrer Vernehmlassung vom 19. Oktober 2009 auf Abweisung der Beschwerde. Sie hat ihrer Stellungnahme eine Kopie des psychiatrischen Gutachtens vom 24. September 2009 betreffend den Beschwerdeführer sowie einen Beschluss vom 5. Oktober 2009 betreffend Antrag auf Bevormundung des Beschwerdeführers beigelegt. Die Psychiatrische Privatklinik Sanatorium Kilchberg hat sich am 16. Oktober 2009 vernehmen lassen, ohne aber einen Antrag zu stellen.
E. Rechtsanwalt Burges hat am 23. Oktober 2009 repliziert. Er beharrt darin auf seinem in der Beschwerdeschrift vertretenen Standpunkt. Der Beschwerdeführer hat am 20., 23. und 25. Oktober 2009 dem Bundesgericht persönliche Eingaben zukommen lassen.

Erwägungen:
1. 1.1 Angefochten ist ein letztinstanzlicher kantonaler Endentscheid betreffend fürsorgerische Freiheitsentziehung, wogegen die Beschwerde in Zivilsachen gegeben ist (Art. 72 Abs. 2 lit. b Ziff. 6 BGG, Art. 75 Abs. 1 und Art. 90 BGG). Mit dieser kann insbesondere die Verletzung von Bundesrecht einschliesslich verfassungsmässiger Rechte sowie von Völkerrecht gerügt werden (<ref-law>).
1.2 Der Beschwerdeführer wehrt sich dagegen, dass seinem unentgeltlichen Rechtsbeistand für die Bemühungen im kantonalen Berufungsverfahren trotz gewährter unentgeltlicher Rechtspflege keine Entschädigung ausbezahlt worden ist. Der amtlich bestellte Rechtsanwalt wird für seine Bemühungen direkt vom Staat entschädigt und ist insbesondere nicht befugt, sich von der durch ihn verbeiständeten Partei eine zusätzliche Entschädigung auszahlen zu lassen (<ref-ruling> E. 3b S. 325). Im vorliegenden Fall hat der Kanton dem Anwalt des Beschwerdeführers keine Entschädigung ausgerichtet, womit der Beschwerdeführer selbst bei einer Verbesserung seiner wirtschaftlichen Verhältnisse (vgl. <ref-law>/ZH) nicht zu einer Nachzahlung an den Kanton verhalten werden kann. Er zeigt nicht auf, inwiefern er unter den gegebenen Umständen über ein rechtlich geschütztes Interesse an der Anfechtung der unterbliebenen Entschädigung verfügt (<ref-law>; Urteil 5P.113/1997 vom 13. Juni 1997 E. 5; 5A_341/2009 vom 30. Juni 2009 E. 2.1). Insoweit ist auf die Beschwerde nicht einzutreten.
1.3 Auf die Beschwerde ist ferner nicht einzutreten, soweit der Beschwerdeführer die Einweisung in die psychiatrische Klinik im Rahmen fürsorgerischer Freiheitsentziehung beanstandet. Die am 12. Juni 2009 verfügte Einweisung ist rechtskräftig (vgl. Sachverhalt A.a hiervor). Gegenstand des vorliegenden Verfahrens ist ausschliesslich der Beschluss des Obergerichts vom 2. Oktober 2009, mit dem die erstinstanzlich geschützte Zurückbehaltung in der Anstalt bestätigt worden ist.
1.4 Das von der verfahrensbeteiligten Vormundschaftsbehörde eingereichte psychiatrische Gutachten vom 24. September 2009 sowie der Zirkulationsbeschluss vom 5. Oktober 2009 betreffend Antrag auf Entmündigung des Beschwerdeführers werden im angefochtenen Entscheid nicht erwähnt und es wird auch nicht erörtert, dass diese Unterlagen im vorinstanzlichen Verfahren ordnungsgemäss eingereicht worden sind. Sie gelten damit als neu (<ref-law>) und sind für das vorliegende Verfahren unbeachtlich. Soweit sich der Beschwerdeführer oder sein Anwalt dazu äussert, ist darauf nicht einzutreten.
1.5 Der Beschwerdeführer hat die Beschwerdeschrift seines Rechtsbeistands mit Eingaben vom 20., 23. und 25. Oktober 2009 ergänzt. Diese Eingaben sind je am 23. (Schreiben vom 20. und 23. Oktober) bzw. 30. Oktober 2009 (Schreiben vom 25. Oktober 2009) der Post aufgegeben worden. Der angefochtene Beschluss ist ihm bzw. seinem Anwalt am 7. Oktober 2009 zugestellt worden. Die Eingaben sind somit innert der Beschwerdefrist (<ref-law>) erfolgt und daher zulässig. Auf sie wird soweit erforderlich im Rahmen der Behandlung der Rügen zurückzukommen sein.
1.6 Die Beschwerde ist zu begründen (<ref-law>). Mit ihr ist in gedrängter Form durch Auseinandersetzung mit den Erwägungen des angefochtenen Entscheids darzulegen, welche Vorschriften und warum sie vom Obergericht verletzt worden sein sollen. Allgemein gehaltene Einwände, die ohne aufgezeigten oder erkennbaren Zusammenhang mit bestimmten Entscheidungsgründen vorgebracht werden, genügen nicht (<ref-ruling> E. 3 S. 749; 5A_92/2008 vom 25. Juni 2008 E. 2.3). Verfassungsverletzungen werden nur geprüft, wenn sie gerügt und gehörig begründet werden (<ref-law>; <ref-ruling> E. 1.4 S. 287; <ref-ruling> E. 3.2. S. 88 mit Hinweisen). Aufgrund des für behauptete Verfassungsverletzungen geltenden Rügeprinzips sind neue rechtliche Vorbringen unzulässig (<ref-ruling> E. 2 S. 640). Wird eine Sachverhaltsfeststellung beanstandet, muss in der Beschwerdeschrift dargelegt werden, inwiefern diese Feststellung willkürlich oder durch eine andere Rechtsverletzung im Sinn von <ref-law> (z.B. <ref-law> oder <ref-law>) zustande gekommen ist (vgl. <ref-ruling> E. 1.2.2 und 1.4.3 S. 255) und inwiefern die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 in fine BGG; <ref-ruling> E. 2.2.2 S. 22). Auf rein appellatorische Kritik am Sachverhalt tritt das Bundesgericht nicht ein. In der Beschwerde in Zivilsachen dürfen überdies keine neuen Tatsachen und Beweismittel vorgebracht werden, es sei denn, erst der Entscheid der Vorinstanz habe dazu Anlass gegeben (<ref-law>). In der Beschwerde ist darzutun, inwiefern die Voraussetzung für eine nachträgliche Einreichung von Tatsachen und Beweismitteln erfüllt sein soll (<ref-ruling> E. 3 S. 395).
2. 2.1 Der Beschwerdeführer macht geltend, die Vorinstanz behaupte zwar, seine strafrechtlich relevanten Verhaltensweisen bildeten keinen Grund für die Einweisung in die Klinik bzw. die Zurückbehaltung in der Anstalt. Die entsprechende tatsächliche Feststellung erweise sich indes aufgrund der Akten als willkürlich.
2.2 Das Obergericht hält dagegen auf S. 9 des angefochtenen Beschlusses fest, dass der Vorwurf sexueller Belästigung nur den Anlass für die Einweisung des Beschwerdeführers bilde, der Grund für die fürsorgerische Freiheitsentziehung hingegen in der (gutachterlich festgestellten) Krankheit des Beschwerdeführers liege. Es ist bereits dargelegt worden, dass hier nicht die Rechtmässigkeit der Einweisung in die Anstalt zu überprüfen ist (E. 1.2). Mit seinen Einwendungen ficht der Beschwerdeführer mit Bezug auf die Zurückbehaltung in der Anstalt keine tatsächlichen Feststellungen als willkürlich an; vielmehr wendet er sich gegen den Grund für die Zurückbehaltung in der Anstalt. Seine Ausführungen zur angeblich willkürlichen Sachverhaltsfeststellung gehen an der Sache vorbei.
3. 3.1 Der Beschwerdeführer rügt im Weiteren, die Vorinstanz habe die Zurückbehaltung im Rahmen eines fürsorgerischen Freiheitsentzugs gestattet, anstatt diese Frage durch eine strafrechtliche Massnahme zu regeln. Mit der weiteren Zurückbehaltung im Rahmen einer fürsorgerischen Freiheitsentziehung habe sie <ref-law> verletzt. Da ihm die Freiheit nicht auf die vorgeschriebene Weise noch während des Strafverfahrens wegen Ausführungs- und Fortsetzungsgefahr entzogen worden sei, seien Art. 5 Ziff. 1 i.V.m. Art. 5 Ziff. 3 bzw. Art. 31 Abs. 1 und 3 BV verletzt worden. Die Vorinstanz sei in ihrem Entscheid auch nicht auf die entsprechende Rüge eingegangen und habe damit Art. 13 EMRK verletzt.
3.2 Wie das Obergericht verbindlich feststellt, ist der Beschwerdeführer wegen des Vorwurfs sexueller Übergriffe bisher noch nicht rechtskräftig verurteilt worden. Der Beschwerdeführer räumt denn auch selbst ein, dass über ihn weder stationäre noch ambulante Massnahmen angeordnet worden sind, sondern dass er ohne Auflage aus der Untersuchungshaft entlassen worden ist. Folglich erweist sich die Rüge als abwegig, das Vorgehen der für die fürsorgerische Freiheitsentziehung zuständigen Behörden verletze die EMRK. Den zivilen Behörden standen vielmehr nur die Massnahmen des Zivilrechts zur Verfügung. Angesichts der geschilderten Krankheit und des ausgewiesenen Fürsorgebedürfnisses hatte das Obergericht zu prüfen, ob die Voraussetzungen für eine Zurückbehaltung nach <ref-law> gegeben waren. Es hatte aber nicht zum Vorgehen der Strafbehörden Stellung zu nehmen und den Beschwerdeführer auf seine Rechte (Anordnung von Massnahmen) aufmerksam zu machen. Das Vorgehen des Obergerichts erhellt aus der Begründung des angefochtenen Entscheides, weshalb sich auch der Vorwurf der Verletzung des rechtlichen Gehörs (<ref-law>, Art. 6 Ziff. 1 EMRK) als unbegründet erweist. Inwiefern Art. 13 EMRK verletzt sein könnte, ist nicht ersichtlich. Im Folgenden gilt es zu prüfen, ob eine Zurückbehaltung im Lichte von <ref-law> zu rechtfertigen ist.
4. 4.1 Nach Ansicht des Beschwerdeführers sieht das Obergericht den Grund für die Zurückbehaltung in der Anstalt in der Drittgefährdung in Form sexueller Übergriffe auf Frauen. Er hält im Weiteren dafür, nach dem geltenden Recht stelle die Drittgefährdung keinen Grund für die Beibehaltung eines fürsorgerischen Freiheitsentzugs dar. Eine schwerwiegende Verwahrlosung sei nicht ausgewiesen und zudem verfüge er zurzeit noch über eine ungekündigte Wohngelegenheit. Nach Auffassung des Obergerichts sei die Zwangsbehandlung nur ein Aspekt im Rahmen des Behandlungskonzepts, wobei nicht erörtert werde, worin die anderen Aspekte bestünden. Die weitere Zurückbehaltung sei unverhältnismässig und daher mit <ref-law> nicht zu vereinbaren, zumal die notwendige Fürsorge lediglich darin bestehe, ihn (den Beschwerdeführer) wegzusperren. In seinen persönlichen Eingaben bestreitet er erneut jeglichen Grund für die Zurückbehaltung und schliesst sich den Ausführungen seines Anwalts an.
4.2 Eine mündige oder entmündigte Person darf wegen Geisteskrankheit, Geistesschwäche, Trunksucht, anderen Suchterkrankungen oder schwerer Verwahrlosung in einer geeigneten Anstalt untergebracht oder zurückbehalten werden, wenn ihr die nötige persönliche Fürsorge nicht anders erwiesen werden kann (<ref-law>). Wie bei der Einweisung in eine Anstalt ist auch bei der Zurückbehaltung des Betroffenen das Prinzip der Verhältnismässigkeit zu beachten. Erforderlich ist, dass der Betroffene infolge der im Gesetz umschriebenen Schwächezustände persönlicher Fürsorge bedarf, die ihm nur in einer Anstalt gewährt werden kann (<ref-ruling> E. 5). Ferner ist die Belastung zu berücksichtigen, welche die Person für ihre Umgebung bedeutet (<ref-law>). Sobald es sein Zustand erlaubt, muss der von der fürsorgerischen Freiheitsentziehung Betroffene entlassen werden (<ref-law>; zum Ganzen: <ref-ruling> E. 4).
4.3 Dem Beschwerdeführer ist insoweit beizupflichten, dass die Gefährdung Dritter weder Einweisungsvoraussetzung nach <ref-law> darstellt, noch für die Anordnung der fürsorgerischen Freiheitsentziehung ausreichend sein kann (THOMAS GEISER, Basler Kommentar Zivilgesetzbuch I, 3. Aufl. 2006, N. 26 zu <ref-law>). Zudem spricht das Obergericht nur von einer Verwahrlosungstendenz und verweist in diesem Zusammenhang auf Fotos; verwiesen wird ferner auf ein fehlendes Beziehungsnetz und die mögliche Kündigung der Wohnung. Diese Angaben sind aber zu allgemein gehalten, als dass sie eine konkrete schwerwiegende Verwahrlosung oder eine Selbstgefährdung des Beschwerdeführers zu belegen vermöchten.
4.4 Nach den für das Bundesgericht verbindlichen Feststellungen leidet der Beschwerdeführer an einer chronisch paranoiden Schizophrenie (act. 2 E. 2.1), die nach Ansicht des Obergerichts zumindest eine Geistesschwäche im Sinn von <ref-law> darstellt. Diese rechtliche Qualifikation wird vom Beschwerdeführer nicht infrage gestellt, sodass sich Weiterungen zu diesem Punkt erübrigen. Das Obergericht hat denn auch eine Geistesschwäche im Sinn der genannten Bestimmung angenommen, womit der Vorwurf nicht zutrifft, es habe einen gesetzlich nicht vorgesehenen Grund für die Beibehaltung der fürsorgerischen Freiheitsentziehung berücksichtigt.
Was den Bedarf nach Fürsorge anbelangt, so hat der Beschwerdeführer im Jahr 2008 ausserhalb der psychiatrischen Kliniken keine fachmännische Hilfe mehr in Anspruch genommen und die über 20 Jahre hinweg eingenommenen Medikamente abgesetzt. Aufgrund der Begutachtung kann nach den Feststellungen des angefochtenen Beschlusses davon ausgegangen werden, dass der Beschwerdeführer unter seiner Krankheit leidet. Aus den weiteren Feststellungen im angefochtenen Beschluss ergibt sich, dass der Beschwerdeführer während der ganzen Verhandlung vor dem erstinstanzlichen Richter auf die Tischplatte geschaut, extrem leise gesprochen und Antworten gegeben habe, die teilweise nicht zur gestellten Frage gepasst hätten. Zu erwähnen sind ferner die Aussagen von Dr. G._ anlässlich der Verhandlung vom 15. September 2009, wonach von einer Verschlechterung des Gesundheitszustandes auszugehen ist. Dies wird denn auch vom Oberarzt bestätigt, wobei er zurzeit wenigstens noch nicht von einer massiven Verschlechterung spricht. Mitzuberücksichtigen ist schliesslich, dass die Gefahr weiterer sexueller Übergriffe des Beschwerdeführers auf Frauen von der Gutachterin als sehr hoch bezeichnet wird. Unter den gegebenen tatsächlichen Feststellungen ist somit davon auszugehen, dass sich der Gesundheitszustand des Beschwerdeführers weiter verschlechtern wird, wenn eine Behandlung seiner Krankheit unterbleibt. Überdies darf das Risiko nicht unterschätzt werden, dass es infolge der unbehandelten Krankheit erneut zu sexuellen Übergriffen und damit zu weiteren Strafverfahren kommt. Es liegt nicht im Interesse des Betroffenen, ihn solchen Risiken auszusetzen. Damit bedarf der Beschwerdeführer der persönlichen Fürsorge durch Behandlung seiner Krankheit.
Nach dem angefochtenen Beschluss ist der Beschwerdeführer nicht gewillt, die ihm vorgeschlagenen Medikamente einzunehmen oder an einer anderen Form der Therapie teilzunehmen. Krankheitseinsicht ist nicht vorhanden, sodass auch keine Gewähr dafür besteht, dass sich eine ambulante Therapie erfolgreich durchführen lässt. Damit aber ist im Ergebnis mit dem Obergericht davon auszugehen, dass dem Beschwerdeführer die nötige persönliche Fürsorge - zurzeit wenigstens - nur in einer Anstalt gewährt werden kann.
4.5 Unter Berücksichtigung der tatsächlichen Gegebenheiten macht eine Zurückbehaltung in der Anstalt freilich nur Sinn, wenn dem Beschwerdeführer auch gegen seinen Willen Medikamente verabreicht werden dürfen, da andere Behandlungsformen angesichts seiner renitenten Haltung offenbar nicht infrage kommen. Im vorliegenden Fall wurde die Zwangsmedikation zwar mit Verfügung vom 26. Juni 2009 angeordnet. Die vom Obergericht bestätigte Verfügung ist jedoch durch Urteil des Bundesgerichts vom 2. September 2009 aufgehoben und die Sache zur Neubeurteilung an das Obergericht zurückgewiesen worden (5A_524/2009). Zum heutigen Zeitpunkt ist noch nicht über die Zwangsbehandlung entschieden. Dem angefochtenen Beschluss lässt sich auch nicht entnehmen, worin die erwähnten anderen Aspekte der Behandlung der Krankheit konkret bestehen, die im Fall einer nicht durchführbaren (medikamentösen) Zwangsbehandlung zum Zuge kommen sollen. Damit aber kann zurzeit nicht abschliessend beurteilt werden, ob sich die fürsorgerische Freiheitsentziehung als verhältnismässig erweist. Eine zeitlich unbeschränkte Fortsetzung der fürsorgerischen Freiheitsentziehung kann unter diesen Umständen nicht bewilligt werden. Der angefochtene Beschluss ist aufzuheben. Das bedeutet aber nicht, dass der Beschwerdeführer bereits heute aus der Anstalt zu entlassen ist.
4.6 Das Obergericht wird nunmehr unverzüglich über die Zwangsbehandlung zu entscheiden haben. Erweist sich diese als nicht verfassungskonform, ist die fürsorgerische Freiheitsentziehung umgehend aufzuheben. Ist die Zwangsbehandlung dagegen unter Berücksichtigung der Grundsätze der Verfassung zulässig, ist sie anzuordnen und im gleichen Entscheid über die weitere Zurückbehaltung des Beschwerdeführers in der Anstalt zu befinden.
5. Der Beschwerdeführer obsiegt hier insoweit, als zum heutigen Zeitpunkt noch nicht definitiv über die fürsorgerische Freiheitsentziehung entschieden ist. Es rechtfertigt sich daher, ihm keine Kosten aufzuerlegen. Der Kanton Zürich, der in seinem Wirkungskreis gehandelt hat, trägt keine Gerichtskosten (<ref-law>). Er hat indes den Beschwerdeführer für das bundesgerichtliche Verfahren zu entschädigen (Art. 68 Abs. 1 und 2 BGG).
6. Mit der vorliegenden Kosten- und Entschädigungsregelung wird das Gesuch um unentgeltliche Rechtspflege gegenstandslos.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird teilweise gutgeheissen, soweit darauf einzutreten ist. Die Ziffern 1, 2 und 3 des Beschlusses des Obergerichts des Kantons Zürich, II. Zivilkammer, vom 2. Oktober 2009 werden aufgehoben und die Sache wird zu neuem Entscheid im Sinn der Erwägungen an das Obergericht zurückgewiesen. Das Obergericht wird angewiesen, innert 20 Tagen seit Zustellung des begründeten Urteils neu zu entscheiden.
2. Das Gesuch um unentgeltliche Rechtspflege wird als gegenstandslos abgeschrieben.
3. Es werden keine Kosten erhoben.
4. Der Kanton Zürich hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 1'000.-- zu entschädigen.
5. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 2. November 2009
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Zbinden