Sachverhalt:
A.
Das Bezirksgericht Zürich bestrafte am 28. November 2014 X._ wegen mehrfacher übler Nachrede und mehrfacher Beschimpfung mit einer bedingten Geldstrafe von 20 Tagessätzen zu Fr. 700.--. Genugtuungsbegehren der Privatkläger wies es ab.
B.
Das Obergericht des Kantons Zürich stellte am 9. Dezember 2015 auf Berufung von X._ die Rechtskraft von Teilfreisprüchen des Bezirksgerichts in mehreren Anklagepunkten fest. Es sprach ihn der mehrfachen üblen Nachrede im Sinne von <ref-law> (Anklage I.2. Abschnitte 4., 7. und 8.; II.3) sowie der Beschimpfung im Sinne von <ref-law> (Anklage I.2. Abschnitt 1.) schuldig und in mehreren Anklagepunkten vom Vorwurf der Ehrverletzung frei. Es nahm von einer Bestrafung Umgang.
Das Obergericht wies die Genugtuungsbegehren der Privatkläger ab. Es bestätigte das erstinstanzliche Kosten- und Entschädigungsdispositiv, auferlegte X._ die Kosten des Berufungsverfahrens zur Hälfte (nahm sie im Übrigen auf die Gerichtskasse) und sprach ihm eine reduzierte Entschädigung (<ref-law>) von Fr. 10'000.-- aus der Gerichtskasse zu.
C.
X._ beantragt mit Beschwerde in Strafsachen:
1. das obergerichtliche Urteil aufzuheben und die Sache an die Staatsanwaltschaft zur Verbesserung der Anklage zurückzuweisen;
2. eventualiter das Urteil in den Dispositivziffern 1, 2, 5, 6, 7 aufzuheben (Schuld- und Strafpunkt, bezirksgerichtliches Kosten- und Entschädigungsdispositiv, obergerichtliche Gerichtsgebühr, Auferlegung der hälftigen Kosten des Berufungsverfahrens);
3. das Verfahren bis zum rechtskräftigen Entscheid im Strafverfahren in Sachen B.X._ wegen Diebstahls, Sachentziehung und Urkundenfälschung zu sistieren;
4. die Akten dieses Strafverfahrens (Ziff. 3) beizuziehen;
5. die Akten des obergerichtlichen Verfahrens beizuziehen;
6. der Beschwerde die aufschiebende Wirkung zu erteilen;
7. unter Kosten- und Entschädigungsfolgen zulasten der Staatskasse bzw. allfälliger Privatkläger.

Erwägungen:
1.
1.1. Der Präsident der Strafrechtlichen Abteilung verfügte am 17. Mai 2016 die aufschiebende Wirkung.
1.2. Der Beschwerdeführer informierte das Bundesgericht über den Gang des Strafverfahrens (vgl. Rechtsbegehren 3 und 4) nicht. Er macht in der Beschwerde geltend, dieses durch seine Strafanzeige eingeleitete Verfahren sei relevant, da er sich durch seine Aussagen nicht strafbar gemacht haben könne, wenn er in guten Treuen von der Wahrheit der seinem Bruder vorgeworfenen Taten ausgehen durfte, bzw. sich herausstellen sollte, dass seine Aussagen tatsächlich der Wahrheit entsprachen. Aus diesen Akten würden sodann gewichtige Indizien für seinen Standpunkt ersichtlich. Zudem ginge daraus hervor, dass ihr Verhältnis stets äusserst schlecht und gereizt gewesen sei (Beschwerde S. 6).
Nach der vorinstanzlichen Mitteilung ist in der Sache kein kantonales Verfahren hängig. Das vom Beschwerdeführer behauptete Strafverfahren richtet sich gegen eine Drittperson. Da Verfahrensgegenstand einzig das vorinstanzliche Urteil ist (<ref-law>) und neue Vorbringen unzulässig sind (<ref-law>), ist auf die Rechtsbegehren 3 und 4 nicht einzutreten.
1.3. In der Beschwerde ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt (<ref-law> sowie Art. 97 Abs. 1 i.V.m. <ref-law>). Dabei ist auf die Motivation des Urteils einzugehen und daran die geltend gemachte Bundesrechtsverletzung im Einzelnen darzulegen (<ref-ruling> E. 2). Auf eine bloss appellatorische Beschwerdeführung ist nicht einzutreten (<ref-ruling> E. 1.3.1, 317 E. 5.4, 369 E. 6.3; <ref-ruling> E. 2.3). Im Übrigen legt das Bundesgericht seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>).
Rechtsschriften haben die Begründung der Begehren zu enthalten (<ref-law>). Verweisungen auf die Akten oder das Plädoyer sind unbehelflich (<ref-ruling> E. 2; Urteil 6B_384/2015 vom 7. Dezember 2015 E. 1).
2.
Der Beschwerdeführer macht eine Verletzung des rechtlichen Gehörs und des Anklagegrundsatzes sowie eine unzulässige antizipierte Beweiswürdigung geltend.
2.1. Der Beschwerdeführer bringt vor, einige Tage vor der erstinstanzlichen Hauptverhandlung habe ihm die Staatsanwaltschaft eine eigenmächtig korrigierte Anklageschrift zugestellt, die ein zuvor nicht Gegenstand der Anklage bildendes E-Mail enthielt. Daher habe er den neuen Vorwürfen nicht begegnen und keine wirksame Verteidigung erarbeiten können. Es sei entgegen der Vorinstanz irrelevant, dass ihm das E-Mail im Untersuchungsverfahren vorgelegt wurde. Angesichts der Komplexität des Verfahrens hätte ihm in der staatsanwaltschaftlichen Schlusseinvernahme die Gelegenheit geboten werden müssen, sich zu diesem E-Mail zu äussern. Es möge richtig sein, dass Beweisstücke nicht in der Anklageschrift abgedruckt werden müssten; falls die Staatsanwaltschaft dies aber tue, hätte sie auch dieses E-Mail abdrucken müssen. Entgegen der Vorinstanz sei die Ausarbeitung der Verteidigung in der kurzen Zeit von acht Tagen bzw. fünf Werktagen nicht möglich gewesen. Gemäss Art. 6 Abs. 3 lit. b EMRK und Art. 14 Abs. 3 lit. b UNO-Pakt II habe er einen absoluten Anspruch auf die erforderliche Zeit. Ohne Rückweisung hätte die ursprüngliche Anklageschrift Prozessgegenstand sein müssen. Zudem habe er das Recht, Entlastungszeugen zu befragen; dem sei bislang nicht entsprochen worden. Besonders die Mutter und der Pate hätten über die familiären Streitigkeiten und die äusserst rauen Sitten unter den Brüdern Auskunft geben können. Die Nichtabnahme dieser Beweismittel sei in unzulässiger antizipierter Beweiswürdigung vorgenommen worden. Die vorgeworfenen Vergehen gegen die Ehre wären am 30. bzw. 31. März 2015 verjährt, wäre nicht vorher das erstinstanzliche Urteil erfolgt. Er gehe davon aus, dass die Vorinstanz den erstinstanzlichen Entscheid aus diesem Grund gestützt habe. Der drohende Verjährungseintritt sei kein Grund, die Parteirechte zu beschneiden.
2.2. Die Staatsanwaltschaft hat wegen eines genau umschriebenen Sachverhalts beim zuständigen Gericht Anklage zu erheben (<ref-law>). Die Anklageschrift bezeichnet möglichst kurz, aber genau die der beschuldigten Person vorgeworfenen Taten (Art. 325 Abs. 1 lit. f. StPO). Die Anklageschrift bestimmt den Gegenstand des Gerichtsverfahrens und bezweckt den Schutz der Verteidigungsrechte (vgl. <ref-ruling> E. 3.4.1; Urteil 6B_963/2015 vom 19. Mai 2016 E. 1.3.1). Zu beurteilen ist jeweils die konkrete Anklageschrift. Solange für die beschuldigte Person klar ist, welcher Sachverhalt ihr vorgeworfen wird, kann auch eine fehlerhafte und unpräzise Anklage nicht dazu führen, dass es zu keinem Schuldspruch kommen darf; entscheidend ist, dass für die beschuldigte Person keine Zweifel darüber bestehen, welches Verhalten ihr vorgeworfen wird (Urteil 6B_111/2016 vom 26. April 2016 E. 1).
2.3. Nach der Vorinstanz wurden dem Beschwerdeführer zu Beginn der ersten von drei Befragungen durch die Staatsanwaltschaft die betreffenden E-Mails vorgehalten und ausgehändigt (Urteil S. 7). Dies ist entgegen der Beschwerde (Ziff. 23) nicht gänzlich irrelevant. Bereits im Untersuchungsverfahren und nicht erst im Zeitpunkt der Anklageerhebung waren ihm die Vorwürfe bekannt, und er hatte mehrmals Gelegenheit, sich dazu zu äussern (Urteil S. 7). Damit wurde das rechtliche Gehör im Untersuchungsverfahren gewahrt. Da nicht von einem "umfangreichen und komplizierten Vorverfahren" im Sinne der Ordnungsvorschrift von <ref-law> gesprochen werden kann, drängte sich eine Schlusseinvernahme nicht auf (Urteile 6B_98/2016 vom 9. September 2016 E. 3.4.2 und 6B_676/2013 vom 28. April 2014 E. 3.2.4). So wiesen nach dem erstinstanzlichen Urteil (S. 33) weder der Sachverhalt noch dessen rechtliche Würdigung die erforderliche Komplexität auf, welche die Verbeiständung der Privatkläger zwingend erfordert hätte, und stellten sich keine anderweitigen besonderen Rechtsfragen.
2.4. Weiter handelt es sich nach der Vorinstanz bei der "korrigierten Anklage" nicht um eine inhaltliche Veränderung der Anklagevorwürfe. Es wurde einzig das abgedruckte durch ein anderes E-Mail ersetzt. Am in deutscher Sprache verfassten Anklagetext wurde nichts verändert. Der in deutscher Sprache enthaltene Sachverhalt blieb dabei unberührt (Urteil S. 8). Das bestreitet der Beschwerdeführer nicht. Somit korrigierte die Staatsanwaltschaft noch rechtzeitig vor der Hauptverhandlung ein Versehen in der Anklageschrift und wies den Beschwerdeführer auf ein Beweismittel hin, das sie vor Schranken ins Recht zu legen beabsichtigte. Das Vorgehen ermöglichte der Verteidigung, sich darauf vorzubereiten. Der Vorwurf einer Gehörsverletzung (<ref-law>) ist nicht begründet.
2.5. Wie die Vorinstanz ausführt, bilden die im Anklagesachverhalt eingefügten Kopien der E-Mails die Beweismittel für den Anklagesachverhalt und hätten als solche darin nicht wiedergegeben werden müssen. Aufgrund des identischen Prozessthemas ist auch keine Verletzung des Rechts auf wirksame Verteidigung ersichtlich. Die Vorbereitungszeit von "acht Tagen" (Urteil S. 8) bzw. "fünf Werktagen" (Beschwerde Ziff. 31) genügte der Verteidigung zur Berücksichtigung dieser Korrektur. Ihr wurden an der ersten staatsanwaltschaftlichen Befragung vom 4. April 2012 die E-Mails ausgehändigt, am 20. November 2014 wurde ihr die "korrigierte Anklage" zugestellt (Beschwerde Ziff. 22) und am 28. November 2014 fand die erstinstanzliche Hauptverhandlung statt. Mit der "korrigierten Anklage" wurde ein versehentlich vorgelegtes Beweismittel korrigiert. Die Vorinstanz beurteilt den Anklagegrundsatz zu Recht als nicht verletzt. Die nähere Begründung der Anklage erfolgt an Schranken; letztlich ist es Sache des Gerichts, den Sachverhalt verbindlich festzustellen (Urteil 6B_111/2016 vom 26. April 2016 E. 1 mit Hinweisen).
2.6. Wie die Vorinstanz weiter feststellt, betreffen die Beweisanträge zu den "äusserst rauen Sitten unter den Brüdern" (Beschwerde Ziff. 40), zu denen die Mutter und der Pate hätten Auskunft geben sollen, nicht den Anklagesachverhalt. Das Faktum war aktenkundig: Wie die Erstinstanz ausführte, zeigen die Akten, dass die Brüder seit vielen Jahren heillos zerstritten sind, jedoch aufgrund der gemeinsam beherrschten und geführten Familienfirma (die Stimmrechte liegen allesamt bei der Mutter der Brüder) nicht voneinander loskommen, wobei sich die Fronten immer mehr zu verhärten scheinen und die Parteien mehrheitlich über ihre Anwälte kommunizieren (erstinstanzliches Urteil S. 33). Die Vorinstanz konnte den Beweisantrag willkürfrei in antizipierter Beweiswürdigung abweisen (<ref-law>; vgl. dazu die Urteile 6B_488/2016 vom 5. September 2016 E. 3.4.2 und 6B_1067/2015 vom 1. Juni 2016 E. 6.1).
2.7. Ferner ist das Vorbringen unbehelflich, die Nichtrückweisung der Anklageschrift habe der Umgehung der Verjährungsproblematik gedient (Beschwerde Ziff. 42 ff.). Gemäss <ref-law> sind Strafverfahren unverzüglich an die Hand zu nehmen und ohne unbegründete Verzögerung zum Abschluss zu bringen. Wie die Vorinstanz darlegt, bestand kein begründeter Anlass zur Rückweisung im Sinne von Art. 329 bzw. <ref-law>. Die Tatbestandsvoraussetzungen waren in der Anklageschrift umschrieben. Dem Beschwerdeführer wurden von Beginn weg mehrfache üble Nachrede und mehrfache Beschimpfung vorgeworfen. Selbst wenn es die Staatsanwaltschaft unterlässt, in der Anklageschrift alle tatsächlichen Umstände anzuführen, aus denen sich das vorgeworfene Verhalten (möglicherweise) ergeben könnte, kann dies nicht zur Verpflichtung des Gerichts führen, ihr Gelegenheit zur Anklageänderung bzw. -erweiterung zu geben (Urteil 6B_963/2015 vom 19. Mai 2016 E. 1.5).
2.8. Schliesslich könnte die vom Beschwerdeführer behauptete Gehörsrechtsverletzung auch nicht als rechtserheblich beurteilt werden. Die Erstinstanz handelte im Rahmen ihres verfahrensrechtlichen Entscheidermessens (nach Rücksprache mit der Erstinstanz überwies die Staatsanwaltschaft die sog. "korrigierte Anklage"; Urteil S. 7, E. 2.4). Zur Beurteilung der Tat- und Rechtsfragen verfügt die Vorinstanz über dieselbe Prüfungsbefugnis wie die Erstinstanz. Sämtliche vor dieser geltend gemachten Einwände und Argumentationen konnte der Beschwerdeführer im vorinstanzlichen Verfahren erneut vorbringen. Es könnte deshalb insoweit von einer Heilung allfälliger Mängel ausgegangen werden, so dass eine Rückweisung der Sache nicht mehr in Betracht kam (<ref-ruling> E. 2.2; Urteile 6B_1064/2015 vom 6. September 2016 E. 4.2 und 6B_715/2015 vom 21. März 2016 E. 1.2 und 1.3). Von einer Rückweisung kann insbesondere abgesehen werden, wenn diese - wie in casu - zu einem reinen formalistischen Leerlauf führen würde (<ref-ruling> E. 2.3.2). Eine allfällige Gehörsverletzung könnte zudem auch im Verfahren vor Bundesgericht geheilt werden, wenn ausschliesslich Rechtsfragen streitig sind, die das Bundesgericht mit freier Kognition beurteilt, und dem Beschwerdeführer durch die Heilung kein Nachteil erwächst (Urteil 6B_1064/2015 vom 6. September 2016 E. 1.3.2 mit Hinweisen). Die Beschwerde erweist sich in jeder Eventualität als unbegründet.
3.
Die Ehrverletzungstatbestände gemäss <ref-law> schützen den Ruf, ein ehrbarer Mensch zu sein, d.h. sich so zu benehmen, wie nach allgemeiner Anschauung ein charakterlich anständiger Mensch sich zu verhalten pflegt. Äusserungen, die sich lediglich eignen, jemanden in anderer Hinsicht, zum Beispiel als Geschäfts- oder Berufsmann, als Politiker oder Künstler in der gesellschaftlichen Geltung herabzusetzen, sind nicht ehrverletzend im Sinne von <ref-law>, vorausgesetzt, die Kritik an der strafrechtlich nicht geschützten Seite des Ansehens trifft nicht zugleich die Geltung der Person als ehrbarer Mensch (Urteil 6B_8/2014 vom 22. April 2014 E. 2.1).
Die Strafbarkeit von Äusserungen beurteilt sich nach dem Sinn, den der unbefangene Durchschnittsadressat diesen unter den jeweiligen konkreten Umständen gibt. Handelt es sich um einen Text, so ist dieser nicht allein anhand der verwendeten Ausdrücke - je für sich allein genommen - zu würdigen, sondern auch nach dem Sinn, der sich aus dem Text als Ganzes ergibt (<ref-ruling> E. 2.1; <ref-ruling> E. 2.1.2). Die Bestimmung des Inhalts einer Äusserung ist Tatfrage; die Ermittlung des Sinns, den ihr ein unbefangener Durchschnittsadressat beilegt, ist Rechtsfrage (<ref-ruling> E. 2.1). Das Bundesgericht prüft Tatfragen unter Willkürgesichtspunkten und Rechtsfragen frei (sofern bundesrechtskonform gerügt).
3.1. Die Vorinstanz stellt fest, der Beschwerdeführer bestreite nicht, die anklagegegenständlichen E-Mails versendet zu haben, und anerkenne auch, ein Schreiben vom 2. Juli 2012 an der Aktionärsversammlung verlesen zu haben. Der objektive Sachverhalt sei erstellt. Er bestreite den subjektiven Sachverhalt, indem er geltend mache, er habe nicht beabsichtigt, ehrenrührige Tatsachen über seine beiden Brüder zu verbreiten; die Interpretation seiner Äusserungen sei falsch (Urteil S. 14).
In diesem Sinne bringt der Beschwerdeführer vor, die Vorinstanz berücksichtige ungenügend, dass die Beschwerdegegner ihn seit langem gezielt und bewusst provoziert hätten, und sie berücksichtige nicht ausreichend den rauen Umgangston der Brüder sowie den sprachlich-kulturellen Kontext seiner Schreiben (Beschwerde S. 16 f.).
Es ist jedenfalls nicht gerichtsnotorisch, dass im italienisch-sprachlichen Millieu ein gröberer Umgangston gepflegt würde als im alemannischen Sprachraum. Die Vorinstanz übersieht keineswegs, dass das Verhältnis zwischen den Brüdern aufgrund langjähriger, hoch emotionaler Meinungsverschiedenheiten stark belastet ist. Dieser Tatsache trägt sie mit einer zurückhaltenden Würdigung Rechnung (Urteil S. 14 f.; ebenso bereits das erstinstanzliche Urteil S. 23 f.; bereits oben E. 2.6 sowie unten E. 3.2.3, 3.6, 3.7).
3.2. Das E-Mail vom 31. März 2011 lautet im "1. Absatz": "Dunque questo ultimo ed improvviso email die B.X._ come quelli di A.X._ sono 'opera' di 2 mocciosi e/o di farabutti!?" (Anklage S. 6).
3.2.1. Nach der Anklage hatte der Beschwerdeführer die Beschwerdegegner damit als "Schuft" bezeichnet (Anklage S. 13). Diese Übersetzung blieb unbestritten. Nur der Beschwerdegegner 1 hatte diesbezüglich Strafantrag gestellt. Die Vorinstanz hält fest, die Bezeichnung als Schuft, Gauner, Schurke sei ein Werturteil (<ref-ruling> E. 3 betreffend "Gauner"). Die Äusserung suggeriere für sich alleine eine illegale Tätigkeit oder zumindest eine solche an der Grenze der Legalität, weshalb sie den Ruf, ein ehrbarer Mensch zu sein, tangiere; obwohl sie durch "mocciosi" (Rotznasen) abgeschwächt werde, entstehe im Gesamtzusammenhang dennoch der Eindruck einer beabsichtigten Beleidigung (Urteil S. 19). Der Geltendmachung eines fakultativen Strafbefreiungsgrunds der Verteidigung folgend, bejaht die Vorinstanz eine Provokation durch ein E-Mail im Sinne von <ref-law> (selbst bei irrtümlicher Annahme eines ungebührlichen Verhaltens, <ref-ruling> E. 2d) und sieht von einer Strafe ab (Urteil S. 19 f.).
3.2.2. Der Beschwerdeführer wendet ein, die vorinstanzliche Verschlechterung seiner Rechtsposition gegenüber der Erstinstanz verletze das Verbot der reformatio in peius (Beschwerde Ziff. 55).
Die Erstinstanz hielt fest, "Schuft" (farabutto: Gauner, Schuft, Schurke) impliziere eine illegale Tätigkeit oder zumindest eine solche an der Grenze zur Illegalität. Diese Bezugnahme werde zwar nicht beabsichtigt, hingegen eine Beleidigung. Dieser Begriff sei somit auch in vorliegendem Kontext tendenziell ehrenrührig, wobei die Frage nach der Erheblichkeit hinsichtlich dieses (isolierten) Ausdrucks berechtigt erscheine, im Gesamtkontext jedoch keine Rolle spiele (erstinstanzliches Urteil S. 20 [8: A.1]). Sie führt zum "Gesamteindruck" aus, wenn auch einzelne Eindrücke isoliert betrachtet nicht bzw. eher nicht ehrenrührig seien oder vorwiegend die berufliche Ehre beträfen, seien sie es jedenfalls im Kontext der übrigen Aussagen, betrachte man den ausdrücklichen oder unterschwelligen Grundtenor der beiden E-Mails (erstinstanzliches Urteil S. 22). Die E-Mails seien beleidigend und setzten den Beschwerdegegner 1 in seiner Ehre herab (a.a.O., S. 23). Die Erstinstanz wertete die fragliche Äusserung somit als Beleidigung und im Kontext als ehrenrührig.
Massgeblich im Sinne von <ref-law> ist das Dispositiv. Der Rechtsmittelinstanz ist es nicht untersagt, sich in ihren Erwägungen zur rechtlichen Qualifikation zu äussern, wenn die Erstinstanz von einer abweichenden Sachverhaltswürdigung oder von falschen rechtlichen Überlegungen ausgegangen ist. Entscheidend ist, dass sich dies im Dispositiv nicht in einem schärferen Schuldspruch niederschlägt und auch nicht zu einer härteren Strafe führt, wenn ausschliesslich die verurteilte Person Berufung ergriff (<ref-ruling> E. 2.6, bestätigt in <ref-ruling> E. 4.5). Die Vorinstanz beurteilt die Äusserung mit der Erstinstanz als ehrenrührig, befreit den Beschwerdeführer aber - im Gegensatz zur Erstinstanz - in Anwendung von <ref-law> von Strafe.
3.2.3. Die Vorinstanz berücksichtigt überdies, dass die Äusserung eine Reaktion auf ein E-Mail "im Kontext" (Beschwerde Ziff. 58) des "üblichen" Umgangstons darstellt. Die geltend gemachte "bewusste und konsequente, über Jahre dauernde Ignorierung der Wünsche und Meinungen des Beschwerdeführers" durch die Beschwerdegegner (Beschwerde Ziff. 63) lässt die Äusserung nicht in einem anderen, nicht ehrenrührigen Lichte erscheinen.
An der Sache vorbei geht ebenso das Vorbringen, wäre eine ehrenrührige Aussage anzunehmen, müsste er freigesprochen werden, weil er sich in einer Notwehrsituation befunden habe (Beschwerde Ziff. 65). Dies verneinte bereits die Erstinstanz (erstinstanzliches Urteil S. 28 f.). Die Vorinstanz prüft die Frage und hält fest, die geltend gemachten "Belästigungen" seien zum Zeitpunkt der E-Mails bereits getätigt und ein Angriff bereits abgeschlossen gewesen (Urteil S. 30). Somit wurde der Beschwerdeführer nicht "angegriffen oder unmittelbar mit einem Angriff bedroht" (<ref-law>). Notwehr ist nur so lange zulässig, wie der Angriff andauert (Urteil 6B_301/2016 vom 2. Juni 2016 E. 4.2).
3.3. Bei den im "4. Absatz" enthaltenen Äusserungen des Beschwerdeführers, wonach der Beschwerdegegner 1 den Beschwerdegegner 2 zwinge zu schweigen, auch wenn dies nicht mehr legal sei, und zudem stalkerhafte, ehrenrührige und verleumderische E-Mails an Dritte versende, ist die Übersetzung unbestritten (Urteil S. 20).
Der Beschwerdeführer wirft der Vorinstanz in einem der erwähnten Argumentation (oben E. 3.2.2) analogen Vorbringen eine Verschlechterung seiner Rechtsposition und damit eine Verletzung des Verbots der reformatio in peius vor (Beschwerde S. 20 f.), ohne sich mit dem Urteil (S. 20) auseinanderzusetzen. Darauf ist nicht einzutreten. Es kann auf oben E. 3.2.2 verwiesen werden.
3.4. Der Beschwerdeführer macht betreffend den "7. Absatz" geltend, weder die Erst- noch die Vorinstanz hätten substanziell ausgeführt, wieso sie ihrer Rechtsauffassung seien. Ihre Interpretation gehe eindeutig zu weit, denn die Aussage berühre, wenn überhaupt, einzig die berufliche Ehre (Beschwerde S. 21 f.).
Die Vorinstanz hält fest, in dieser Äusserung werde der Beschwerdegegner 1 als Bankrotteur betitelt und beschuldigt, Komplotte zu schmieden, um andere von Erbschaften auszuschliessen. Diese Übersetzung sei unbestritten geblieben (Urteil S. 21). Es lässt sich nicht im Ernst behaupten, dass die Äusserung nicht ehrenrührig sei. Der Beschwerdeführer war entgegen seinem Vorbringen ohne Weiteres in die Lage versetzt, diese Qualifikation zu rügen, zeigt aber nicht auf, worin eine Verletzung von Bundesrecht liegen sollte (oben E. 1.3).
3.5. Der Beschwerdeführer führt aus, entgegen der vorinstanzlichen Auffassung stelle die Aussage im "8. Absatz" die Integrität des Privatklägers nicht in Frage und ziele nicht auf die Herabsetzung seiner Geltung als ehrbarer Mensch. Er habe darin lediglich seinen Eindruck ("impressione") kundgetan, dass er von seinem Bruder belogen worden sein könnte. Die Schwelle der strafrechtlichen Erheblichkeit sei auch hier nicht erreicht. Eine derartige Äusserung sei im Hause nicht ungewöhnlich und sei auf eine Beleidigung hin erfolgt, und genau dies hätte seine Mutter bezeugen können (Beschwerde S. 22).
Nach der Vorinstanz wurde die Übersetzung dieser Äusserung nicht bestritten, wonach das Verhalten des Beschwerdegegners 1 den Eindruck erwecke, dass dieser ein Betrüger und Lügner sei. Damit werde dieser erneut mit einem strafbaren Verhalten in Verbindung gebracht (Urteil S. 22). Die vorinstanzliche Qualifikation ist nicht zu beanstanden. Die Äusserung erfolgte in einem E-Mail und nicht im Hause.
3.6. Der Beschwerdeführer bemängelt in seinem Fazit, aufgrund einer falschen Einschätzung und Würdigung der Gesamtumstände, insbesondere des Umgangstons innerhalb der Familie, gehe die Vorinstanz zu Unrecht davon aus, er habe ehrenrührige Äusserungen gemacht. Zudem berücksichtige die Vorinstanz zu wenig, dass die Aussagen in Notwehr als direkte Reaktion auf die Beleidigungen seiner Brüder erfolgten, welche bis heute andauerten. Er sucht dies mit einem E-Mail-Verkehr vom März 2011 zu illustrieren (Beschwerde S. 23-25). Darauf ist nicht einzutreten (<ref-law>; <ref-ruling> E. 3.1.2).
Anzumerken ist, dass mit der Rechtsfigur des Durchschnittsadressaten der Sprachgebrauch zivilisierter Menschen gemeint ist, "wie nach allgemeiner Anschauung ein charakterlich anständiger Mensch sich zu verhalten pflegt" (oben E. 3). Dem üblichen Sprachgebrauch im Innenverhältnis (Soziolekt) lässt sich gegebenenfalls durchaus relativierend Rechnung tragen, wie das die Vorinstanz unternimmt. Grobschlächtige Idiolekte können indessen nicht den Referenzrahmen abgeben.
3.7. Die Vorinstanz stellt fest, der letzte Anklagevorwurf (Anklage II.3.) betreffe das an seinen Rechtsvertreter gesandte E-Mail, in welchem der Beschwerdeführer dem Beschwerdegegner 2 die Verübung schwerer Verbrechen gegen seine Person unterstellt habe (Urteil S. 27).
Der Beschwerdeführer bringt vor, wie aus dem E-Mail hervorgehe, habe er nie gesagt, der Beschwerdegegner 2 habe gewisse Straftaten verübt, sondern einzig darauf hingewiesen, dass ein Strafverfahren hängig sei. Er sei in guten Treuen davon ausgegangen, dass sich die Vorwürfe mit grosser Wahrscheinlichkeit bewahrheiten würden. Es könne von ihm nicht eine komplette juristische Beurteilung erwartet werden. Das sinngemässe vorinstanzliche Vorbringen, er hätte seine E-Mail-Adresse sperren können, widerspreche der schweizerischen Rechtsordnung; es könne nicht sein, dass dem Angegriffenen vorgeworfen werde, er hätte sich wehren sollen. Zudem wäre dies kaum erfolgversprechend gewesen. Das E-Mail enthalte keine ehrverletzenden Äusserungen. Die Vorinstanz verkenne, dass es sich beim E-Mail um die Folge langandauernder, heftiger Meinungsverschiedenheit zwischen den Geschwistern handelte (Beschwerde S. 25-27).
Nach der Vorinstanz bezichtigte der Beschwerdeführer in dem E-Mail den Beschwerdegegner 2 unabhängig vom Ausgang eines solchen Verfahrens, schwere Delikte begangen zu haben, und zwar ohne dass eine Verurteilung vorgelegen habe, was sie zutreffend als ehrenrührig qualifiziert. Die Vorinstanz prüft weiter eingehend den Vorsatz sowie die behauptete aufgeheizte Stimmung (Urteil S. 28 f.) und eine Notwehrsituation (Urteil S. 29 f.) und verweist ergänzend auf mögliche mildere rechtliche Mittel wie ein gerichtliches Kontaktverbot (Urteil S. 30 f.). Damit setzt sich der Beschwerdeführer nicht auseinander, so dass darauf nicht einzutreten ist (oben E. 1.3).
3.8. Der Beschwerdeführer rügt eine Verletzung seiner Meinungsäusserungsfreiheit (Beschwerde S. 28 f.).
3.8.1. Er macht geltend, die strafrechtlichen Ehrschutzbestimmungen seien grundrechtskonform auszulegen. Er verweist dazu auf <ref-ruling> E. 5.2, in welchem der zivilrechtliche Persönlichkeitsschutz gemäss <ref-law> behandelt und an der zitierten Stelle darauf hingewiesen wird, dass der Informationsauftrag der Presse keinen absoluten Rechtfertgungsgrund bildet. Weiter sei auch die Rechtsprechung des EGMR zu Art. 10 EMRK zu berücksichtigen (mit Hinweis auf <ref-ruling> E. 2.2.1, 136 I 332 E. 3.2.2, 130 I 369 E. 2 S. 375 und 117 Ia 472 E. 3b). Gesetzesbestimmungen, welche Meinungsäusserungen unter Strafe stellten, dürften allgemein nicht extensiv ausgelegt werden. Bei den angeklagten Aussagen handle es sich fast ausschliesslich um als Fragen formulierte Denkanstösse, die als provokative Äusserungen dem Grundrechtsschutz unterstünden, sodass er dafür nicht verurteilt werden dürfe.
3.8.2. Die Bestimmungen zu den Ehrverletzungen müssen verfassungskonform ausgelegt werden (<ref-ruling> E. 3.3.1). Strafbare Handlungen gegen die Ehre sind nach Massgabe der <ref-law> zu beurteilen (zur Gesetzesauslegung vgl. <ref-ruling> E. 2.4.1).
Dass die Bezeichnung als "Schuft" (oben E. 3.2) den Beschwerdegegner 1 "in seiner Ehre angreift" (<ref-law>), ist unter verfassungs- und konventionskonformer Auslegung des Tatbestands nicht zweifelhaft. Ebenso verhält es sich mit den Vorhalten gemäss <ref-law> (oben E. 3.3, 3.4, 3.5 und 3.7). Der Vorwurf strafbaren Verhaltens ist ehrverletzend (<ref-ruling> E. 2 S. 115). Es ist Sache des Beschuldigten zu beweisen, dass die Äusserung wahr ist oder er sie in guten Treuen für wahr halten durfte (falls er zum Entlastungsbeweis zugelassen wird). Der Wahrheitsbeweis eines strafbaren Verhaltens kann grundsätzlich nur mit einem rechtskräftigen Strafurteil erbracht werden (<ref-ruling> E. 4.2 S. 118; Urteil 1B_306/2014 vom 12. Januar 2015 E. 2.3). Im vorliegenden Zusammenhang gilt der Rechtsvertreter als Dritter ("bei einem anderen") gemäss <ref-law> (vgl. Urteil 6B_229/2016 vom 8. Juni 2016 E. 1.1).
3.8.3. Der Beschwerdeführer bringt vor, eventualiter könne der Entlastungsbeweis erbracht werden (Beschwerde S. 30 f.). Dass er ein Strafverfahren gegen den Beschwerdegegner 2 eingeleitet und entsprechende Beweismittel geliefert habe, zeige klar, dass er ernsthafte Gründe gehabt habe, die diesem vorgeworfenen Taten ernsthaft für wahr zu halten. Das Obergericht des Kantons Zürich habe am 29. Mai 2012 die staatsanwaltschaftliche Verfahrenseinstellung aufgehoben (Beschwerdebeilage 3). Dies sei ausreichend zur Erbringung des Entlastungsbeweises. Er verweist auf <ref-ruling>.
Der Beschwerdeführer beruft sich damit auf Art. 173 Ziff. 2 Teilsatz 2 StGB, "dass er ernsthafte Gründe hatte, sie in guten Treuen für wahr zu halten". Der gute Glaube genügt nicht; der Beschuldigte muss "ernsthafte Gründe" gehabt haben. Einer Sorgfaltspflicht untersteht, wer die Ehre eines andern angreift (Un devoir de prudence incombe à celui qui porte atteinte à l'honneur d'autrui). Um einer Bestrafung zu entgehen, muss der Beschuldigte darlegen, dass er die Vorkehren getroffen hat, die von ihm nach den Umständen und seiner persönlichen Situation gefordert werden können, um die Zuverlässigkeit (véracité) seiner Behauptungen kontrollieren und als erstellt betrachten zu können (<ref-ruling> E. 3b). Wird das beschimpfende Werturteil an bestimmte Tatsachen geknüpft, finden die Bestimmungen des Art. 173 Ziff. 2 und 3 StGB nach <ref-ruling> E. 3 analoge Anwendung, worauf hier aber nicht mehr einzugehen ist.
Das erwähnte obergerichtliche Urteil zur Verfahrenseinstellung erging im Jahre 2012, das vorinstanzliche Urteil datiert vom 9. Dezember 2015. Der Beschwerdeführer äussert sich zum zwischenzeitlichen Verfahrensgang nicht weiter (die Staatsanwältin habe das Verfahren nicht beschleunigt). Der Beschwerdeführer legt insbesondere nicht dar, dass ein Entlastungsbeweis überhaupt Gegenstand des vorinstanzlichen Verfahrens gewesen wäre. Die Erstinstanz liess ihn nicht zum Entlastungsbeweis zu und hielt fest, ohnehin habe der Beschwerdeführer nicht versucht, diesen Beweis zu erbringen, und er habe auch keinen entsprechenden Antrag gestellt (erstinstanzliches Urteil S. 29). Darauf ist demnach mangels Erschöpfens des Instanzenzugs nicht einzutreten (<ref-law>; Urteile 6B_197/2016 vom 7. Juli 2016 E. 2.2.2 und 6B_696/2015 vom 18. April 2016 E. 2.1).
4.
Der Beschwerdeführer wendet gegen den Kostenspruch ein, die Vorinstanz sei in weiten Teilen von der Erstinstanz abgewichen und habe ihre Schuldsprüche teilweise aufgehoben. Trotzdem habe sie im Widerspruch zu <ref-law> das Kostendispositiv bestätigt. Ausserdem habe sie ihm die Kosten des Berufungsverfahrens in Verletzung von Art. 428 Abs. 1 und Abs. 2 lit. a und b StPO zur Hälfte auferlegt. Zudem habe sie verkannt, dass von einer Bestrafung Umgang genommen werden soll und sein Verschulden als gering einzustufen sei. Wie dargelegt, sei er ohnehin vollumfänglich freizusprechen, seien die Verfahrenskosten der Staatskasse aufzuerlegen und schulde er keine Parteikostenentschädigung (Beschwerde S. 32 f.).
4.1. Die beschuldigte Person trägt die Kosten, wenn sie verurteilt wird (<ref-law>). Der Beschwerdeführer wurde wegen mehrfacher übler Nachrede und mehrfacher Beschimpfung angeklagt und erstinstanzlich verurteilt. Die Vorinstanz verurteilt wegen mehrfacher übler Nachrede und Beschimpfung. Für die Kostenauflage gemäss <ref-law> sind nicht die rechtliche Würdigung und die Anzahl der angeklagten Tatbestände, sondern der zur Anklage gebrachte Lebenssachverhalt massgebend (Urteil 6B_803/2014 vom 15. Januar 2015 E. 3.5). Für den angeklagten "realen Lebenssachverhalt" (<ref-ruling> E. 1.6) wurde der Beschwerdeführer von beiden kantonalen Instanzen schuldig gesprochen.
4.2. Wird der Entscheid im Rechtsmittelverfahren nur unwesentlich abgeändert, können die Kosten nach dem Verursacherprinzip auferlegt werden (gemäss der Kann-Vorschrift von <ref-law>; vgl. Urteil 6B_1025/2014 vom 9. Februar 2015 E. 2.4.4). So ist die Nichtberücksichtigung einer Gutheissung in einem untergeordneten Punkt (sur un point tout à fait secondaire) grundsätzlich nicht zu beanstanden (vgl. Urteil 6B_839/2015 vom 26. August 2016 E. 8). Der Beschwerdeführer unterlag vor der Vorinstanz formell vollständig mit Haupt- (Aufhebung und Rückweisung an die Staatsanwaltschaft) und Eventualantrag (Aufhebung und Freispruch) sowie der beantragten Kosten- und Entschädigungsfolge zulasten des Staates (Urteil S. 4). Die Vorinstanz auferlegte die Kosten des Rechtsmittelverfahrens nach Massgabe des Obsiegens und Unterliegens (<ref-law>), d.h. nach Massgabe des vorinstanzlichen Schuld- und Strafspruchs im Sinne der in unterschiedlichen Formulierungen auch auf Anträge angewendeten, den Unterliegenden günstigen Rechtsregel "Das Mehr enthält das Weniger" (plus in se continet quod est minus). Werden die Kosten zur Hälfte dem Staat auferlegt, ist eine auf die Hälfte reduzierte Entschädigung ohnehin nicht zu beanstanden (Urteil 6B_256/2016 vom 20. Juni 2016 E. 3.3).
4.3. Innerhalb der rechtlichen Grundsätze liegt die Kostenverteilung im Ermessen des Sachgerichts. Da dieses am besten in der Lage ist, die Angemessenheit zu beurteilen, auferlegt sich das Bundesgericht eine gewisse Zurückhaltung. Es schreitet nur ein, wenn das Sachgericht den ihm zustehenden weiten Ermessensspielraum überschritten hat (Urteil 6B_634/2016 vom 30. August 2016 E. 3.2).
Der Beschwerdeführer setzt sich weder mit dem erstinstanzlichen Urteil, auf welches die Vorinstanz gemäss <ref-law> verweisen kann (<ref-ruling> E. 1.2.3), noch mit dem vorinstanzlichen Urteil inhaltlich auseinander. Da es an einer konkreten Auseinandersetzung mit dem Kostenspruch fehlt, gilt dieser als nicht angefochten. Das Bundesgericht überprüft den Kostenspruch nicht ex officio. Es ist nicht gehalten, wie eine Erstinstanz alle sich stellenden rechtlichen Fragen zu untersuchen, wenn ihm diese nicht bundesrechtskonform vorgelegt werden. Es ist unerlässlich, dass die Beschwerde auf die Begründung des Urteils (auch des verwiesenen Urteils) eingeht und aufzeigt, worin die behauptete Verletzung von Bundesrecht liegt (<ref-ruling> E. 2; <ref-ruling> E. 1.3). Das gilt ebenso für eine Anfechtung im Kosten- und Entschädigungspunkt (Urteil 6B_283/2016 vom 20. Mai 2016 E. 2.3). Mithin ist auf die Beschwerde mangels Begründung nicht einzutreten.
5.
Die Beschwerde ist abzuweisen, soweit darauf eingetreten werden kann. Die Gerichtskosten sind dem Beschwerdeführer aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 4'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Strafkammer, schriftlich mitgeteilt.
Lausanne, 13. Oktober 2016
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Denys
Der Gerichtsschreiber: Briw