Sachverhalt:
A. A.a Mit Eingabe vom 19. Oktober 2009 beantragte Z._ bei der Einzelrichterin im summarischen Verfahren des Bezirks Winterthur "eine Verfügung wegen Nötigung gegen: X._". Sie führte im Wesentlichen aus, auf der Internetseite des X._ sei ein Link mit ihren persönlichen Daten und Fotografien im Zusammenhang mit der Tierhaltung aufgeschaltet. Das Bild von ihr und ihrem Ehemann sei ohne ihr Einverständnis aufgenommen und veröffentlicht worden; zudem sei der geschilderte Sachverhalt über ihre Tierhaltung und die Beschuldigung der Tierquälerei inhaltlich falsch.
A.b In teilweiser Gutheissung des Begehrens befahl die Einzelrichterin unter Strafandrohung mit Verfügung vom 20. Oktober 2010 (recte: 2009) X._ superprovisorisch, bestimmte Angaben und Bilder von der Internetseite zu entfernen. Gleichzeitig wurde X._ im Sinne von aArt. 28d Abs. 1 ZGB (in der bis 31. Dezember 2010 gültigen Fassung) eine 10-tägige Frist zur schriftlichen Stellungnahme angesetzt. Nachdem X._ innert Frist zum Begehren von Z._ Stellung genommen hatte, bestätigte die Einzelrichterin mit Verfügung vom 15. Juli 2010 die superprovisorische Massnahme bezüglich der auf der Internetseite zu entfernenden Textpassagen im Sinne einer provisorischen Massnahme. Im Übrigen wurde das Verfahren als zufolge Gegenstandslosigkeit erledigt abgeschrieben, Z._ eine Frist von 30 Tagen zur Klageeinreichung im ordentlichen Verfahren angesetzt, die Gerichtsgebühr auf Fr. 1'000.- festgesetzt und die definitive Regelung der Kostenfolgen und der Parteikosten dem ordentlichen Verfahren vorbehalten.
B. Mit Schreiben vom 9. August 2010 gelangte X._ mit Rekurs an das Obergericht des Kantons Zürich und beantragte im Wesentlichen, das Begehren um vorsorgliche Massnahmen kostenpflichtig abzuweisen. Z._ teilte mit Eingabe vom 11. Oktober 2010 mit, dass sie auf die Durchführung einer Sühneverhandlung zur Einleitung des ordentlichen Prozesses verzichtet habe. Darauf stellte das Obergericht mit Beschluss vom 26. Oktober 2010 fest, dass die in der angefochtenen Verfügung angeordneten vorsorglichen Massnahmen mit Ablauf der Z._ gesetzten Klagefrist von Gesetzes wegen am 23. August 2010 dahingefallen seien, und schrieb den Rekurs als gegenstandslos geworden ab. Es setzte die Gerichtsgebühr mit Fr. 1'000.- fest, auferlegte sie je zur Hälfte den Parteien und schlug die Parteikosten wett.
C. Gegen diesen Beschluss gelangt X._ (Beschwerdeführer) mit Beschwerde in Zivilsachen an das Bundesgericht. Er verlangt im Wesentlichen, den angefochtenen Beschluss im Kostenpunkt aufzuheben und die zweitinstanzliche Gerichtsgebühr vollständig Z._ (Beschwerdegegnerin) aufzuerlegen.
Vernehmlassungen sind keine eingeholt worden.
Erwägungen:
1. 1.1 Angefochten ist die kantonal letztinstanzliche (Art. 75 Abs. 1 BGG) Verteilung der Gerichts- und Parteikosten in einem Verfahren, welches vorsorgliche Massnahmen im Bereich des Persönlichkeitsschutzes zum Gegenstand hat. Ausgangspunkt bildet somit eine Zivilsache im Sinn von Art. 72 Abs. 1 BGG. Fraglich ist indes, ob es sich dabei um eine vermögensrechtliche Angelegenheit handelt, zumal vor Bundesgericht nur noch der Kostenpunkt strittig ist. In einem Fall, wo die Parteien vor der letzten kantonalen Instanz ihre Appellationen in der Sache zurückgezogen hatten und nur noch die Verlegung der Kosten strittig war, hat das Bundesgericht mit Bezug auf den Streitwert allein auf die Höhe der strittigen Kosten abgestellt (Urteil 4A_148/2009 vom 25. Juni 2009 E. 1.1). Ebenso hat es in einem Fall, in dem es nur noch um die Zusprechung von Anwaltshonoraren im Rahmen eines Verantwortlichkeitsprozesses gegen die vormundschaftlichen Organe ging, für die Ermittlung des erforderlichen Streitwertes das strittige Honorar als massgebend erachtet (Urteil 5A_52/2009 vom 27. Februar 2009 E. 1). Ob es sich vorliegend um eine vermögensrechtliche Angelegenheit handelt, kann letztlich offenbleiben. Weil das kantonale Verfahren eine vorsorgliche Massnahme betraf, kann selbst dann, wenn die Beschwerde in Zivilsachen gegeben wäre, nur eine Verletzung verfassungsmässiger Rechte gerügt werden (Art. 98 BGG).
1.2 Obgleich es sich in der Sache nur um eine vorsorgliche Massnahme handelt, hat das Obergericht im angefochtenen Beschluss endgültig über die Kosten des zweitinstanzlichen Verfahrens entschieden. Es liegt somit ein Endentscheid im Sinne von Art. 90 BGG vor und es ist auf die Beschwerde grundsätzlich einzutreten.
1.3 Das Bundesgericht wendet bei der Prüfung auf die Verfassungsmässigkeit eines Entscheids das Recht nicht von Amtes wegen an (Art. 106 Abs. 2 BGG; BGE 133 III 588), sondern prüft die Verletzung von verfassungsmässigen Rechten nur insofern, als eine solche Rüge in der Beschwerde vorgebracht und hinreichend begründet worden ist (Art. 106 Abs. 2 BGG). Dabei ist in der Beschwerdeschrift selbst anzuführen, welches verfassungsmässige Recht verletzt sein soll, und kurz darzulegen, worin die behauptete Verletzung besteht (BGE 133 II 396 E. 3.1 S. 400).
2. Der Beschwerdeführer macht geltend, der Kostenentscheid werde im angefochtenen Beschluss damit begründet, die Beschwerdegegnerin hätte bei Weiterführung des Persönlichkeitsschutzverfahrens vermutlich etwa zur Hälfte obsiegt. Er beanstandet diese angeblich vom Obergericht stammende Begründung als willkürlich und erblickt darin eine Verletzung des rechtlichen Gehörs.
Entgegen der Behauptung des Beschwerdeführers hat das Obergericht die Verteilung der Gerichtskosten nicht aufgrund des vermutlichen Ausgangs des Persönlichkeitsschutzverfahrens, d.h. des Hauptverfahrens, verlegt. Bei der beanstandeten Kostenregelung ist es vielmehr davon ausgegangen, der Beschwerdeführer wäre im Falle einer materiellen Beurteilung des Rekurses gegen die Anordnung vorsorglicher Massnahmen vermutlich lediglich etwa zur Hälfte durchgedrungen. Soweit der Beschwerdeführer dem Obergericht vorwirft, es habe auf den Ausgang des Hauptverfahrens, statt auf denjenigen des Rekursverfahrens abgestellt, geht seine Rüge an den tatsächlichen Gegebenheiten des angefochtenen Beschlusses vorbei. Die auf dieser unzutreffenden Grundlage erhobenen Rügen erweisen sich als unzulässig. Darauf ist insgesamt nicht einzutreten. Die weiteren Rügen des Beschwerdeführers sind im Lichte der tatsächlichen Gegebenheiten zu prüfen.
3. Der Beschwerdeführer wiederholt seinen Vorwurf, die erstinstanzliche Richterin sei befangen gewesen und sein Rekurs hätte schon deshalb gutgeheissen werden müssen. Er legt aber in keiner Weise dar, worin die im Rekurs geltend gemachte Befangenheit bestanden haben soll und setzt sich auch nicht mit dem seinen Befangenheitsantrag abweisenden Beschluss des Obergerichts auseinander. Auf die Rüge ist deshalb mangels ausreichender Substantiierung nicht einzutreten (E. 1.3).
4. 4.1 Der Beschwerdeführer macht geltend, er habe in den Ziffern 11, 20, 26, und 31 des Rekurses in mehrfacher Hinsicht eine Verletzung des rechtlichen Gehörs im erstinstanzlichen Verfahren gerügt, womit sich das Obergericht in seinem Beschluss in keiner Weise befasst habe. Der Rekurs hätte mit Blick auf den Eventualantrag 2 allein wegen dieser Verletzung gutgeheissen werden müssen. Das habe das Obergericht nicht beachtet und damit eine willkürliche Sachverhaltsfeststellung getroffen sowie den Anspruch auf rechtliches Gehör verletzt.
Der Beschwerdeführer begnügt sich damit, auf die kantonale Rekursschrift zu verweisen und zu behaupten, er habe im kantonalen Verfahren formelle Rügen erhoben, die zur Gutheissung seines Rekurses hätten führen müssen. Er legt aber entgegen den Begründungsanforderungen nicht in der Beschwerdeschrift selbst (E. 1.3) im Einzelnen dar, worin diese Rügen bestanden haben sollen, die zur Gutheissung des Rekurses hätten führen müssen. Darauf ist nicht einzutreten.
Es ist überdies auch nicht zu sehen, inwiefern sein rechtliches Gehör verletzt sein soll. Gemäss den für das Bundesgericht verbindlichen Sachverhaltsfeststellungen der Vorinstanz (Art. 105 Abs. 1 BGG) hatte die erstinstanzliche Richterin dem Beschwerdeführer sehr wohl Frist für eine Stellungnahme angesetzt, von der er auch Gebrauch gemacht und eine Stellungnahme mit Anträgen eingereicht hatte. Dass er nicht auch vor dem Entscheid über die superprovisorische Massnahme angehört worden ist, liegt in der Natur der Sache. Ob ihm eine Frist zur Einsprache statt zur Stellungnahme hätte angesetzt werden müssen, ist keine Frage des rechtlichen Gehörs, sondern der Auslegung des kantonalen Prozessrechts, welche das Bundesgericht nur auf Willkür hin überprüfen kann. Abgesehen davon, dass diesbezüglich keine Willkürrüge vorliegt, ist zu beachten, dass § 110 Abs. 2 ZPO/ZH die Frist zur Einsprache ausdrücklich als eine Alternative vorsieht, von der das Gericht Gebrauch machen kann, aber nicht muss (vgl. FRANK/STRÄULI/MESSMER, Kommentar zur zürcherischen Zivilprozessordnung, 3. Aufl. 1997, N. 67 zu § 110 ZPO).
4.2 Der Beschwerdeführer wirft der Vorinstanz eine Verletzung des rechtlichen Gehörs vor, weil sie sich nicht zu seiner Rüge geäussert habe, es habe gar kein Gesuch um eine vorsorgliche Massnahme vorgelegen.
Es ist im vorliegenden Fall zu beachten, dass beide Parteien nicht anwaltlich vertreten sind, sodass keine hohen Anforderungen an die Formulierungen der Rechtsbegehren vor erster Instanz gestellt werden dürfen. Die Beschwerdegegnerin verlangte von der erstinstanzlichen Richterin "eine Verfügung wegen Nötigung". Die erste Instanz durfte dies sehr wohl als Begehren um vorsorgliche Massnahmen und nicht als Klage aufgrund einer Persönlichkeitsverletzung verstehen. Die kantonalen Instanzen haben insofern der Beschwerdegegnerin nicht mehr zugesprochen, als sie verlangte, und haben insofern das rechtliche Gehör des Beschwerdeführers nicht verletzt. Es kann somit nicht gesagt werden, der Rekurs wäre vermutlich aufgrund dieser Rüge gutgeheissen worden.
5. Sodann hält der Beschwerdeführer auch die Einschätzung des Obergerichts für willkürlich, dass die Beschwerdegegnerin in der Sache selber (Klage wegen Persönlichkeitsverletzung) zur Hälfte obsiegt hätte. Auch in diesem Zusammenhang rügt er eine Verletzung des rechtlichen Gehörs. Einmal mehr gilt es darauf hinzuweisen, dass es vorliegend nur darum geht, ob die Beurteilung des Obergerichts, der Beschwerdeführer wäre mit seinem Rekurs gegen die vorsorglichen Massnahmen vermutlich in etwa zur Hälfte durchgedrungen, vor der Verfassung standhält.
5.1 Mit seinen Ausführungen beschränkt sich der Beschwerdeführer auf eine allgemein gehaltene Kritik an den Ausführungen des Obergerichts, was den Anforderungen an die Begründung einer Willkürrüge nicht genügt (E. 1.3).
5.2 Im Übrigen lässt sich auch nicht sehen, worin die Willkür bestehen soll. Dass der Vorwurf der Tierquälerei sehr wohl im strafrechtlichen Sinn verstanden werden kann und damit nicht zutrifft, wenn nicht gegen die Tierschutzverordnung verstossen wird, lässt sich ohne weiteres vertreten. Welche besonderen "Voraussetzungen für eine vorsorgliche Medienzensur" nicht erfüllt sein sollen, legt der Beschwerdeführer nicht dar. Falls er sich diesbezüglich auf aArt. 28c Abs. 3 ZGB (in der bis 31. Dezember 2010 gültigen Fassung) berufen will, übersieht er, dass sich diese Bestimmung nur auf periodisch erscheinende Medien bezieht, worunter ein Internetauftritt nicht zu subsumieren ist.
5.3 Sodann werden die Argumente in der Beschwerde selbst nicht erwähnt (E. 1.3), die angeblich zu einer Gutheissung des Rekurses hätten führen müssen und deshalb in Verletzung des rechtlichen Gehörs nicht berücksichtigt worden sein sollen. Auch auf den Vorwurf der Verletzung des rechtlichen Gehörs ist nicht einzutreten.
6. Schliesslich sieht der Beschwerdeführer den Grundsatz der Öffentlichkeit des Gerichtsverfahrens verletzt, weil das Verfahren vor der ersten Instanz ausschliesslich schriftlich durchgeführt worden ist. In der Tat sehen die Art. 6 Ziff. 1 EMRK und 30 Abs. 3 BV, welche insoweit die ähnliche Tragweite haben (BGE 134 I 21 E. 4.2.), die Öffentlichkeit der Gerichtsverfahren vor. Wie Art. 30 Abs. 3 BV ausdrücklich bestimmt, sind aber Ausnahmen durchaus zulässig. Solche sind insbesondere angebracht, soweit das Verfahren ausschliesslich schriftlich abläuft und über den Anspruch gar nicht endgültig entschieden wird (vgl. GEROLD STEINMANN, in: Ehrenzeller/Schweizer/ Mastronardi/Vallender (Hrsg.), Die Schweizerische Bundesverfassung Kommentar, Zürich/St. Gallen 2008, N. 32 ff. zu Art. 30 BV).
Entsprechend ist auch nicht zu beanstanden, wenn das Verfahren auf superprovisorische und auf vorsorgliche Massnahmen schriftlich durchgeführt wird und folglich keine öffentliche Verhandlung stattfindet. Anders sähe es im nachfolgenden ordentlichen Prozess aus, mit dem die vorsorglichen Massnahmen prosequiert werden. Um diesen geht es aber vorliegend nicht. Es kann somit auch nicht gesagt werden, der Rekurs hätte allein gestützt auf die angebliche Verletzung von Art. 6 Ziff. 1 EMRK gutgeheissen werden müssen. Eine Gutheissung des Rekurses im Sinn der gerügten Verletzung von Art. 6 Ziff. 1 EMRK hätte sich überdies auch deshalb nicht aufgedrängt, weil das Obergericht selbst eine öffentliche Verhandlung hätte durchführen und so den angeblichen Mangel hätte heilen können, wenn das Verfahren nicht gegenstandslos geworden wäre.
7. Die Beschwerde erweist sich somit insgesamt als unbegründet, soweit darauf einzutreten ist. Bei diesem Verfahrensausgang hat der Beschwerdeführer die Prozesskosten zu tragen (Art. 66 Abs. 1 BGG). Eine Parteientschädigung ist nicht zu sprechen, zumal keine Vernehmlassung eingeholt worden ist.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 4. Mai 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Zbinden