Sachverhalt:
A. Y._ warf X._ in einer Strafklage vor, am 26. November 2007 um ca. 14.15 Uhr auf dem Vorplatz eines Wohn- und Geschäftshauses in seiner Anwesenheit gegenüber A._ und B._ geäussert zu haben, er (Y._) sei "in die Attikawohnung von Frau C._ eingedrungen" (Anklageschrift der Staatsanwaltschaft des Kantons Nidwalden vom 24. Februar 2010, Ziff. 2.1.5). Die Staatsanwaltschaft beantragte in der Folge, X._ wegen übler Nachrede im Sinne von Art. 173 Ziff. 1 Abs. 1 StGB (sowie wegen einer vorliegend nicht mehr relevanten fahrlässigen Verkehrsregelverletzung) zu bestrafen, weil er Y._ am 26. November 2007 gegenüber zwei Drittpersonen des Hausfriedensbruchs und damit einer ehrenrührigen Handlung beschuldigt habe.
B. Das Kantonsgericht des Kantons Nidwalden sprach X._ am 15. Juni 2010 vom Vorwurf der üblen Nachrede frei. Zur Begründung des Freispruchs führte es unter Berufung auf den Grundsatz "cogitationis poenam nemo patitur" (Ulpian, D. 48,19,18; Gedanken sind straffrei bzw. "Fürs Denken darf man niemanden henken") aus, X._ habe bei der verhörrichterlichen Einvernahme am 24. Oktober 2008 (lediglich) eingestanden, dass er Y._ des Hausfriedensbruchs bezichtigen wollte. Das besage nicht, dass er die Aussage wirklich machte. Damit verblieben erhebliche Zweifel, ob sich der Sachverhalt tatsächlich so zugetragen habe, wie Y._ behaupte.
Das Obergericht des Kantons Nidwalden hiess am 15. Juni 2011 die Appellation von Y._ gut und sprach X._ der üblen Nachrede im Sinne von Art. 173 Ziff. 1 Abs. 1 StGB schuldig. Es bestrafte ihn (unter Berücksichtigung des kantonsgerichtlichen Schuldspruchs wegen fahrlässiger Verkehrsregelverletzung) mit einer Geldstrafe von 5 Tagessätzen zu Fr. 65.-- als Zusatzstrafe zu mehreren Strafurteilen und verpflichtete ihn zur Zahlung einer Genugtuung von Fr. 300.-- an Y._.
C. X._ erhebt Beschwerde in Strafsachen mit den Anträgen, das obergerichtliche Urteil aufzuheben und die Sache zu neuer Beurteilung an die Vorinstanz zurückzuweisen oder ihn eventualiter vom Vorwurf der üblen Nachrede freizusprechen.
Die Vorinstanz und die Staatsanwaltschaft des Kantons Nidwalden verzichten auf Vernehmlassung. Der Beschwerdegegner beantragt die Abweisung der Beschwerde.
Erwägungen:
1. Verfahrensgegenstand ist das Geschehen am 26. November 2007 in Gegenwart zweier Zeugen. Ob das Hausverbot zu Recht bestand, ist unerheblich. Soweit der Beschwerdeführer bemängelt, dass Frau C._ kein weiteres Mal befragt wurde, fehlt es an einer genügenden Begründung. Die Beurteilung der Glaubhaftigkeit von Aussagen ist Sache des Gerichts. Das Erfordernis einer Begutachtung ist weder ersichtlich noch hinreichend begründet. Darauf ist nicht einzutreten (Art. 42 Abs. 2 i.V.m. Art. 106 Abs. 2 BGG).
2. Der Beschwerdeführer macht eine aktenwidrige Beweiswürdigung geltend. Am 24. Oktober 2008 habe er vor dem Verhörrichter ausgesagt, dass er am 26. November 2007 lediglich die Aussage des Beschwerdegegners wiederholte, er [dieser] sei in der Wohnung von Frau C._ gewesen. Er habe dazu bemerkt, dass der Beschwerdegegner diese Wohnung nicht ohne sein Einverständnis als Eigentümer hätte betreten dürfen. Daraus lasse sich keine ehrenrührige Äusserung konstruieren. Es sei nicht erstellt, dass er den Beschwerdegegner des Hausfriedensbruchs bezichtigte. Diese Aussage müsste gegenüber Dritten gemacht werden. Die beiden Zeugen könnten sich aber nicht daran erinnern. Auch das Wort "eingedrungen" werde von niemandem bestätigt.
3. 3.1 Die Vorinstanz führt aus, die Erstinstanz lasse bei der verhörrichterlichen Einvernahme vom 24. Oktober 2008 ausser Betracht, dass der Beschwerdeführer auf Vorhalt der ihm zur Last gelegten Äusserung eingestanden habe: "Ich habe im Gespräch lediglich seine Aussage [die Aussage des Beschwerdegegners] wiederholt, wonach er selber gesagt hatte, er sei in dieser Wohnung von Frau C._ gewesen. Ich habe dann lediglich dazu bemerkt, dass er diese Wohnung nicht ohne mein Einverständnis als Eigentümer habe betreten dürfen." Vor diesem Hintergrund erweise sich die erstinstanzliche These als aktenwidrig, der Beschwerdeführer habe den Beschwerdegegner des Hausfriedensbruchs bezichtigen wollen, und das sage noch nichts über eine tatsächliche Äusserung aus. Die Erstinstanz lege eine aktenwidrige tatsächliche Annahme zugrunde (angefochtenes Urteil S. 8).
3.2 Die Vorinstanz würdigt die Einvernahme der Zeugin C._ mit dem Ergebnis, dieser lasse sich entnehmen, dass der Beschwerdegegner die Wohnung nach Voranmeldung und mit ihrer Zustimmung betreten habe (angefochtenes Urteil S. 12). Wann der Beschwerdegegner ihre Wohnung betrat, konnte die Zeugin nicht darlegen. Sie äussert sich zum fraglichen Hausverbot, nicht aber zum Vorkommnis vom 26. November 2007.
3.3 Die Vorinstanz hält fest, der Zeuge A._ wisse nicht, ob der Beschwerdeführer dem Beschwerdegegner sagte, er habe ein Hausverbot missachtet. Der Beschwerdeführer habe dem Beschwerdegegner vorgeworfen, eine vermietete Wohnung betreten zu haben. Ob er das Wort "eingedrungen" verwendet habe, wisse er nicht mehr. Nach der Vorinstanz lassen sich aus diesen Zeugenaussagen schlüssige Erkenntnisse entnehmen. Der Zeuge bestätige, der Beschwerdeführer habe sinngemäss gesagt, der Beschwerdegegner habe eine vom Beschwerdeführer vermietete Wohnung betreten, obwohl er mit einem Hausverbot belegt worden sei (angefochtenes Urteil S. 13).
3.4 Die Vorinstanz führt aus, der Zeuge B._ erinnere sich nicht mehr an den konkreten Wortlaut der damaligen Gespräche, auch nicht, ob der Beschwerdeführer dem Beschwerdegegner ein unrechtmässiges oder unerlaubtes Betreten der Wohnung vorgeworfen habe. Trotz Erinnerungslücken würden seine Aussagen Wesentliches zur Sachverhaltsfeststellung beitragen. Denn er könne sich zumindest daran erinnern, dass der Beschwerdeführer irgendetwas gesagt habe, worauf der Beschwerdegegner ihn aufgefordert habe, dies aufzuschreiben, weil er diesbezüglich vor Gericht gehen wolle (angefochtenes Urteil S. 13 f.).
3.5 Schliesslich setzt sich die Vorinstanz mit der Glaubhaftigkeit der Aussagen des Beschwerdegegners auseinander und kommt zum Schluss, dass auf dessen Aussagen abzustellen sei (angefochtenes Urteil S. 17). Zwischen den Parteien bestehe ein jahrelanger Streit, und sie seien verfeindet (angefochtenes Urteil S. 15).
3.6 Die Vorinstanz stützt ihren Schuldspruch auf das Beweisergebnis, der Beschwerdeführer habe den Beschwerdegegner "beschuldigt, in die von der Zeugin C._ bewohnte Wohnung trotz eines Hausverbotes eingedrungen zu sein bzw. diese betreten zu haben" (angefochtenes Urteil S. 20).
Diese Feststellung lässt sich nicht auf die vorinstanzlich erwähnten Zeugenaussagen stützen. Die Zeugin C._ kann keine Aussagen zum Gespräch vom 26. November 2007 machen (oben E. 3.2). Der Zeuge A._ vermag sich nur "sinngemäss" an eine Aussage des Beschwerdeführers zu erinnern (oben E. 3.3). Der Zeuge B._ erinnert sich nicht an den "konkreten Wortlaut" des Gesprächs (oben E. 3.4). Es bleiben einzig die Aussagen des Beschwerdeführers ("bemerkt, dass er diese Wohnung nicht ohne mein Einverständnis als Eigentümer habe betreten dürfen") und des Beschwerdegegners (Vorwurf, "er sei in die Wohnung eingedrungen"). An die Äusserung "eingedrungen" kann sich kein Zeuge erinnern.
4. Gemäss Art. 173 Ziff. 1 Abs. 1 StGB ist in der hier relevanten Tatbestandsvariante strafbar, "wer jemanden bei einem andern eines unehrenhaften Verhaltens oder anderer Tatsachen, die geeignet sind, seinen Ruf zu schädigen, beschuldigt". Es handelt sich um ein abstraktes Gefährdungsdelikt (BGE 103 IV 22 E. 7). Der Erfolg setzt die Kenntnisnahme der (ehrenrührigen) Äusserung durch Dritte voraus. Sobald der Dritte die Äusserung vernommen hat, ist die Tat vollendet (BGE 102 IV 35 E. 2b). Die Ehrenrührigkeit ist aufgrund einer objektiven Interpretation nach dem Sinn, den ein unbeteiligter Dritter einer Äusserung unter den konkreten Umständen zuschreiben muss, zu beurteilen (BGE 119 IV 44 E. 2a). Voraussetzung dieser Beurteilung ist die Feststellung des tatsächlichen Wortlauts der Äusserung, den ein Dritter zur Kenntnis nahm.
Die Vorinstanz nimmt an, die eingeklagte Äusserung sei gegenüber dem Beschwerdegegner und den Zeugen A._ und B._ gemacht worden. Damit sei das Erfordernis der Drittkundgabe erfüllt. Dies sei zumindest beim Zeugen A._ der Fall (angefochtenes Urteil S. 20).
Das Tatbestandsmerkmal "bei einem andern" kann einzig die am 26. November 2007 auf dem Vorplatz anwesenden zwei Zeugen betreffen. Wie der Beschwerdeführer vorbringt, bestätigen die Zeugen die vom Beschwerdegegner behauptete Äusserung nicht. Sie erinnern sich nicht an den Wortlaut des Gesprächs. Erhielten die Zeugen keine beweismässig verwertbare Kenntnis von der behaupteten Äusserung, fehlt es an einer Äusserung gegenüber "andern". Eine versuchte Tatbestandserfüllung wird dem Beschwerdeführer nicht vorgeworfen.
Damit kann offenbleiben, wie die behaupteten Äusserungen (oben E. 3.6) als solche gemäss Art. 173 StGB zu beurteilen wären.
5. Die Beschwerde ist gutzuheissen, soweit darauf einzutreten ist, und das angefochtene Urteil aufzuheben. Die Sache ist zu neuer Beurteilung an die Vorinstanz zurückzuweisen. Der Beschwerdegegner unterliegt mit seinem Vernehmlassungsantrag. Er hat die Kosten vor Bundesgericht zu tragen (Art. 66 Abs. 1 BGG) und den Beschwerdeführer zu entschädigen (Art. 68 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, soweit darauf einzutreten ist, das Urteil des Obergerichts des Kantons Nidwalden vom 15. Juni 2011 wird aufgehoben und die Sache zu neuer Beurteilung an die Vorinstanz zurückgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdegegner auferlegt.
3. Der Beschwerdegegner hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Nidwalden, Strafabteilung, schriftlich mitgeteilt.
Lausanne, 26. September 2012
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Der Gerichtsschreiber: Briw