Sachverhalt:
A. X._ reichte am 23. Oktober 2008 Privatstrafklage gegen A._ und B._ wegen Ehrverletzung ein. Er wirft ihnen vor, sie hätten ihm unredliche Machenschaften und strafbare Handlungen unterstellt.
B. Das Obergericht des Kantons Zürich sprach A._ und B._ am 26. August 2011 in Bestätigung des Urteils des Bezirksgerichts Zürich vom 3. November 2010 vom Vorwurf eines Ehrverletzungsdelikts im Sinne von Art. 173 f. StGB, eventualiter im Sinne von Art. 177 StGB zum Nachteil von X._ frei. Auf dessen Genugtuungsbegehren trat es nicht ein. Es bestätigte das erstinstanzliche Kosten- und Entschädigungsdispositiv, auferlegte X._ die zweitinstanzlichen Gerichtsgebühren und verpflichtete ihn, A._ für das Berufungsverfahren eine Prozessentschädigung von Fr. 3'019.70 und B._ eine Umtriebsentschädigung von Fr. 250.-- zu bezahlen.
C. X._ erhebt Beschwerde in Strafsachen. Er beantragt, das Urteil des Obergerichts des Kantons Zürich sei aufzuheben und die Sache zur neuen Beurteilung und Entscheidung zurückzuweisen, unter Kosten- und Entschädigungsfolgen zu Lasten von A._ und B._.
Erwägungen:
1. 1.1 Dem Ehrverletzungsverfahren liegt ein Eheschutzverfahren zugrunde. Die inkriminierten Äusserungen tätigte die Beschwerdegegnerin 1 in ihrer Funktion als Rechtsanwältin namens und im Auftrag der Beschwerdegegnerin 2 im Rahmen der Anschlussrekurs- bzw. Rekursantwortschrift an das Obergericht des Kantons Zürich (kantonale Akten, act. 5 S. 8, S. 10 f. und S. 24). Der Beschwerdeführer erachtete zunächst verschiedene Passagen dieser Rechtsschrift als ehrverletzend (Urteil, E. II.2.1 S. 5 f.). Gegenstand der vorliegenden Beschwerde bildet indes nur noch folgende Passage: "Die 'Bestätigung' von Herrn H._ vom 2. Juni 2008 (...) und die daraus abgeleitete Behauptung sind unzulässige Noven. Das Schreiben wurde unter vom Rekurrenten bestellt (oder gar von ihm persönlich aufgesetzt) und ist eine blosse Parteibehauptung."
1.2 Nach ständiger Rechtsprechung beschränkt sich der strafrechtliche Schutz der Ehrverletzungsdelikte nach Art. 173 f. StGB auf den menschlich-sittlichen Bereich. Geschützt wird der Ruf, ein ehrbarer Mensch zu sein, d.h. sich so zu benehmen, wie nach allgemeiner Anschauung ein charakterlich anständiger Mensch sich zu verhalten pflegt (sittliche Ehre bzw. ethische Integrität). Den Tatbestand erfüllen danach nur Behauptungen sittlich vorwerfbaren, unehrenhaften Verhaltens. Äusserungen, die geeignet sind, jemanden in anderer Hinsicht, z.B. als Geschäfts- oder Berufsmann, als Politiker oder Künstler in seiner gesellschaftlichen Geltung oder sozialen Funktion herabzusetzen (gesellschaftliche oder soziale Ehre), sind demgegenüber nicht ehrverletzend, solange die Kritik nicht zugleich die Geltung als ehrbarer Mensch trifft (BGE 128 IV 53 E. 1a mit Hinweisen). Die sittliche Ehre ist namentlich tangiert beim Vorwurf, jemand habe eine strafbare Handlung begangen (BGE 132 IV 112 E. 2).
Die Zulässigkeit einer ehrverletzenden Äusserung kann sich aus Art. 14 StGB ergeben. Gemäss dieser Bestimmung verhält sich rechtmässig, wer handelt, wie es das Gesetz gebietet oder erlaubt, auch wenn die Tat nach diesem oder einem andern Gesetz mit Strafe bedroht ist. Neben Richtern und Beamten können sich Prozessparteien bei allfälligen ehrenrührigen Bemerkungen auf ihre prozessualen Darlegungspflichten und damit auf Art. 14 StGB berufen. Die gleichen Befugnisse stehen dem Anwalt zu, der eine Partei vertritt, sofern seine Ausführungen sachbezogen sind, sich auf das für die Erläuterung des jeweiligen Standpunktes Notwendige beschränken, nicht wider besseres Wissen erfolgen und blosse Vermutungen als solche bezeichnen (BGE 135 IV 177 E. 4 mit Hinweisen). Innerhalb dieser Grenzen sollen die Anwälte die Interessen ihrer Mandanten auch pointiert vertreten dürfen, um die zu erläuternden Rechtspositionen nachhaltig auf den Punkt zu bringen. Hinzunehmen ist dabei ein gewisses Mass an übertreibenden Bewertungen und gar Provokationen, soweit sich die anwaltlichen Äusserungen weder als völlig sachwidrig noch als unnötig beleidigend erweisen. Diese "rhetorische Freiheit" ist den Anwälten mit Rücksicht auf ihre berufsrechtliche Verpflichtung zur einseitigen Interessenwahrung ihrer Auftraggeber zuzubilligen. Sie sind zur Parteilichkeit, nicht zur Objektivität berufen (Urteile 6B_358/2011 vom 22. August 2011 E. 2.2.2; 6S.453/2004 vom 2. Mai 2005 E. 4.1; je mit Hinweisen). Der Rechtfertigungsgrund von Art. 14 StGB hat Vorrang vor dem Entlastungsbeweis im Sinne von Art. 173 Ziff. 2 StGB (BGE 131 IV 154 E. 1.3.1 mit Hinweisen).
1.3 Der Beschwerdeführer rügt eine Verletzung des Willkürverbots (Art. 9 BV) und seines Anspruchs auf rechtliches Gehör (Art. 29 Abs. 2 BV). Die Vorinstanz berücksichtige nicht, dass der Vorwurf, einen Revisionsbericht manipuliert zu haben, ihn in seiner Tätigkeit als Wirtschaftsprüfer in einem äusserst sensiblen Bereich treffe und daher als besonders gravierend erachtet werden müsse. Auch werde ausser Acht gelassen, dass er seine Ausführungen im Eheschutzverfahren zu seiner finanziellen Situation nicht nur mittels Behauptungen glaubhaft gemacht, sondern mittels Urkunden, insbesondere der Bestätigung der Revisionsstelle, belegt habe. Diese Bestätigung gelte als Urkunde im Sinne von Art. 110 Abs. 4 StGB. Demnach impliziere die Formulierung "vom Rekurrenten bestellt (oder gar von ihm persönlich aufgesetzt)" den Vorwurf eines strafbaren Verhaltens im Sinne einer Urkundenfälschung i.e.S., indem ihm vorgeworfen werde, die Unterschrift von H._ gefälscht zu haben, oder aber, im Sinne einer Falschbeurkundung, indem dem Revisor H._ unterstellt werde, eine inhaltlich unwahre Urkunde als richtig bestätigt zu haben. Eine willkürfreie Feststellung des Sachverhalts ergebe, dass die inkriminierten Äusserungen ehrverletzend seien, da ihm ein strafbares Verhalten vorgehalten werde (Beschwerde, S. 7 f.).
1.4 Die Vorinstanz erwägt, in der beanstandeten Passage lasse sich grundsätzlich kein Vorwurf eines strafbaren Verhaltens erblicken. Selbst wenn man von einer ehrenrührigen Äusserung ausgehen wolle, sei das Verhalten der Beschwerdegegnerin 1 insofern gerechtfertigt, als sie sich auf die Substanzierungspflicht im Prozess nach § 113 der (auf den 1. Januar 2011 aufgehobenen) Zivilprozessordnung des Kantons Zürich vom 13. Juni 1976 (aZPO/ZH) und auf ihre Berufspflicht nach Art. 12 lit. a des Bundesgesetzes vom 23. Juni 2000 über die Freizügigkeit der Anwältinnen und Anwälte (BGFA; SR 935.61) stützen könne. Auch die Beschwerdegegnerin 2 könne sich auf ihre Substanzierungspflicht berufen, weshalb die Äusserungen durch einen Rechtfertigungsgrund im Sinne von Art. 14 StGB gedeckt seien (Urteil, E. II.4.2.c S. 13 f. und E. II.5 S. 14 f.).
1.4 Die Vorinstanz erwägt, in der beanstandeten Passage lasse sich grundsätzlich kein Vorwurf eines strafbaren Verhaltens erblicken. Selbst wenn man von einer ehrenrührigen Äusserung ausgehen wolle, sei das Verhalten der Beschwerdegegnerin 1 insofern gerechtfertigt, als sie sich auf die Substanzierungspflicht im Prozess nach § 113 der (auf den 1. Januar 2011 aufgehobenen) Zivilprozessordnung des Kantons Zürich vom 13. Juni 1976 (aZPO/ZH) und auf ihre Berufspflicht nach Art. 12 lit. a des Bundesgesetzes vom 23. Juni 2000 über die Freizügigkeit der Anwältinnen und Anwälte (BGFA; SR 935.61) stützen könne. Auch die Beschwerdegegnerin 2 könne sich auf ihre Substanzierungspflicht berufen, weshalb die Äusserungen durch einen Rechtfertigungsgrund im Sinne von Art. 14 StGB gedeckt seien (Urteil, E. II.4.2.c S. 13 f. und E. II.5 S. 14 f.).
1.5 1.5.1 Soweit sich der Beschwerdeführer darauf beschränkt, seine Vorbringen gegen das erstinstanzliche Urteil im Berufungsverfahren zu wiederholen (Beschwerde, S. 4 ff.), setzt er sich nicht mit den vorinstanzlichen Erwägungen auseinander. Darauf ist nicht einzutreten.
Wird die Verletzung von Grundrechten (einschliesslich der willkürlichen Anwendung von kantonalem Recht und Willkür bei der Sachverhaltsfeststellung) gerügt, gelten qualifizierte Anforderungen an die Begründung. Eine solche Rüge prüft das Bundesgericht nicht von Amtes wegen, sondern nur, wenn sie in der Beschwerde vorgebracht und substanziiert begründet worden ist. Es ist anhand der Erwägungen des angefochtenen Entscheids klar und detailliert darzulegen, inwiefern verfassungsmässige Rechte verletzt worden sein sollen. Auf appellatorische Kritik am angefochtenen Urteil tritt das Bundesgericht nicht ein (Art. 106 Abs. 2 BGG; BGE 137 IV 1 E. 4.2.3 mit Hinweis).
1.5.2 Es kann vorliegend offen bleiben, ob es sich bei der beanstandeten Passage um eine ehrenrührige Äusserung im Sinne von Art. 173 f. StGB handelt. Wie die Vorinstanz zu Recht erwägt, ist das Verhalten der Beschwerdegegnerinnen aufgrund ihrer prozessualen Darlegungspflichten ohnehin gerechtfertigt. Im Rahmen eines Eheschutzverfahrens muss das Gericht auf Begehren eines Ehegatten die Geldbeträge, die der eine Ehegatte dem andern schuldet, festsetzen (vgl. Art. 176 Abs. 1 Ziff. 1 ZGB). Die Vorinstanz erläutert ausführlich, die Parteidarstellungen betreffend die finanzielle Leistungsfähigkeit des Beschwerdeführers seien weit auseinandergegangen. Die erstinstanzliche Richterin habe den während der Ehe geführten Lebensstandard der Parteien als sehr hoch bezeichnet und dem Beschwerdeführer ein höheres Einkommen angerechnet, als dieser anerkannt habe. In der Folge hätten die Beschwerdegegnerinnen auf Ungereimtheiten und die Möglichkeit hingewiesen, dass weitere vom Beschwerdeführer nicht offengelegte Geldmittel vorhanden seien (Urteil, E. II.1 S. 5). Die beanstandete Passage in der Rekursantwortschrift sei daher als Bewertung eines vom Beschwerdeführer eingebrachten Beweismittels zu verstehen. Dass die Beschwerdegegnerin 1 dessen Beweiswert in Frage stelle, sei von ihrer Berufspflicht gedeckt und gehe nicht über das Notwendige hinaus. Im Weiteren sei in Übereinstimmung mit der ersten Instanz offensichtlich davon auszugehen, es fehle das Wort "Umstände", so dass der Satz richtigerweise laute: "Das Schreiben wurde unter Umständen vom Rekurrenten bestellt (oder gar von ihm persönlich aufgesetzt) und ist eine blosse Parteibehauptung." Folglich müsse es die Absicht der Beschwerdegegnerin 1 gewesen sein, die Behauptung nicht als Tatsache, sondern als Vermutung darzustellen. Die Äusserung sei weder sachwidrig noch unnötig beleidigend (Urteil, E. II.4.2.c S. 14 und E. II.5 S. 14 f.). Mit diesen Erwägungen setzt sich der Beschwerdeführer nicht auseinander. Was er gegen das vorinstanzliche Urteil vorbringt, richtet sich lediglich gegen die Auffassung, die Äusserung sei nicht ehrverletzend, nicht aber gegen die begründete Ansicht, eine solche sei gegebenenfalls ohnehin gerechtfertigt. Es ist denn auch nicht ersichtlich, inwiefern die Erwägungen der Vorinstanz zum Rechtfertigungsgrund im Sinne von Art. 14 StGB willkürlich sein sollten (zum Begriff der Willkür BGE 137 I 1 E. 2.4 mit Hinweisen) oder Bundesrecht verletzen. Insbesondere die Annahme, die Beschwerdegegnerin 1 habe lediglich eine Vermutung äussern wollen, liegt nahe, wenn man die weiteren - zu Beginn ebenfalls beanstandeten - Passagen berücksichtigt (vgl. Urteil, E. II.2.1 S. 5 f. und E. II.4.1.e S. 12). Diese sind eindeutig als Vermutungen formuliert, so dass sich die Schlussfolgerung aufdrängt, die Beschwerdegegnerin 1 lasse sich nicht zu blossen Behauptungen und Unterstellungen verleiten.
1.5.3 Die Vorinstanz verletzt auch nicht den Anspruch auf rechtliches Gehör des Beschwerdeführers. Sie begründet ihren Entscheid ausführlich, so dass es diesem möglich war, das vorinstanzliche Urteil sachgerecht anzufechten. Insbesondere ist sie nicht verpflichtet, sich mit allen Parteistandpunkten einlässlich auseinanderzusetzen und jedes einzelne Vorbringen ausdrücklich zu widerlegen, sofern sie die für den Entscheid wesentlichen Punkte berücksichtigt (vgl. BGE 136 I 184 E. 2.2.1 mit Hinweisen).
2. Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens sind die bundesgerichtlichen Kosten dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG). Die Beschwerdegegnerinnen wurden nicht zur Stellungnahme aufgefordert. Es sind ihnen im bundesgerichtlichen Verfahren keine Kosten erwachsen, weshalb ihnen keine Parteientschädigung zuzusprechen ist.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Strafkammer, schriftlich mitgeteilt.
Lausanne, 12. März 2012
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Schneider
Die Gerichtsschreiberin: Horber