Sachverhalt:
A. Die Staatsanwaltschaft wirft X._ vor, er habe zwischen November 2003 und Januar 2005 Männer, die er auf einer Internetplattform für Homosexuelle kennengelernt habe, immer mehr unter Druck gesetzt und mit Drohungen versucht, gefügig zu machen. So habe er A._ mehrmals angedroht, ihn als schwulen Lehrer öffentlich bekannt zu machen, wenn er sich nicht mit ihm treffe. Mit demselben Ziel habe er B._ angedroht, die Öffentlichkeit sowie dessen Familie über dessen Doppelleben in Kenntnis zu setzen. In E-Mails habe X._ diesem u.a. mit Aussagen gedroht wie "ich werde dich mit ins Grab nehmen" und "ich werde dich vernichten". Auch im Falle von Y._ habe X._ den Abbruch der Beziehung nicht akzeptieren wollen und diesen am Arbeitsplatz belästigt. Y._ habe sich insbesondere durch SMS-Nachrichten wie "die Erde glüht!" oder "die Erde brennt!" ernstlich bedroht gefühlt. Um weitere Treffen mit Z._ zu erzwingen, habe X._ gedroht, diesen am Arbeitsplatz und bei der Wohngemeinde als Homosexuellen zu denunzieren. In der Folge habe X._ sowohl eine Mitarbeiterin als auch die Ehefrau von Z._ über dessen Homosexualität in Kenntnis gesetzt. Zusätzlich habe er dessen Gemeinde via E-Mail mitgeteilt, dass dieser ein homosexueller Jugendleiter sei.
B. B.a Das Bezirksgericht Zofingen sprach X._ am 25. Oktober 2007 der mehrfachen üblen Nachrede und der mehrfachen, teilweise versuchten Nötigung schuldig. Von den Vorwürfen des mehrfachen Missbrauchs einer Fernmeldeanlage und der mehrfachen Drohung sprach es ihn frei. Es bestrafte ihn mit einer bedingt vollziehbaren Freiheitsstrafe von zehn Monaten und mit einer Busse von Fr. 2'000.--. Es entschied über die geltend gemachten Zivilforderungen, auferlegte ihm die Verfahrenskosten und verpflichtete ihn zur Bezahlung von Parteientschädigungen an die Zivilkläger.
Das Obergericht des Kantons Aargau hiess die Berufung von X._ mit Urteil vom 27. April 2009 teilweise gut und hob den bezirksgerichtlichen Entscheid mit Ausnahme der Freisprüche auf. Es wies die Sache zur Durchführung von Konfrontationseinvernahmen und zur neuen Entscheidung an das Bezirksgericht zurück. Die obergerichtlichen Verfahrenskosten auferlegte es X._ zur Hälfte und verpflichtete ihn, Y._ sowie Z._ je die Hälfte der Parteikosten für das Berufungsverfahren zu ersetzen.
B.b Mit Ergänzungsurteil vom 21. Januar 2010 sprach das Bezirksgericht Zofingen X._ der mehrfachen üblen Nachrede und der mehrfachen, teilweise versuchten Nötigung schuldig. Es bestrafte ihn mit einer bedingten Freiheitsstrafe von neun Monaten, einer bedingten Geldstrafe von 30 Tagessätzen zu Fr. 110.-- und einer Busse von Fr. 2'000.--. Weiter entschied es über die geltend gemachten Zivilforderungen, auferlegte ihm die Verfahrenskosten und verpflichtete ihn zur Bezahlung von Parteientschädigungen an die Zivilkläger.
C. In teilweiser Gutheissung der Berufung von X._ bestätigte das Obergericht des Kantons Aargau am 24. Juni 2010 das bezirksgerichtliche Urteil im Schuldpunkt. Es bestrafte ihn mit einer bedingt vollziehbaren Geldstrafe von 300 Tagessätzen zu Fr. 110.--.
D. Am 19. April 2011 hob das Bundesgericht in teilweiser Gutheissung der Beschwerde von X._ die Urteile des Obergerichts des Kantons Aargau vom 27. April 2009 (Disp.-Ziff. 3-5) sowie vom 24. Juni 2010 auf und wies die Sache zur Neubeurteilung an das Obergericht zurück. Es erwog, der obergerichtliche Rückweisungsentscheid vom 27. April 2009 verpflichte X._ zur Leistung von Gerichts- und Parteikosten, ohne dass ihm vorgängig Einsicht in die Berufungsantworten oder die Möglichkeit zur Stellungnahme dazu gewährt worden sei, was sein rechtliches Gehör verletze. Ferner hielt das Bundesgericht fest, die inkriminierten Äusserungen von X._ zum Nachteil von Z._ seien nicht ehrverletzend. Im Übrigen wies es die Beschwerde ab, soweit es darauf eintrat.
Am 9. Juni 2011 sprach das Obergericht des Kantons Aargau X._ in teilweiser Gutheissung seiner Berufung der üblen Nachrede (zum Nachteil von B._) und der mehrfachen, teilweise versuchten Nötigung schuldig. Von den Vorwürfen des mehrfachen Missbrauchs einer Fernmeldeanlage, der mehrfachen üblen Nachrede zum Nachteil von Z._ und der mehrfachen Drohung sprach es ihn frei. Es verurteilte ihn zu einer bedingt vollziehbaren Geldstrafe von 290 Tagessätzen zu Fr. 110.--. Ferner auferlegte es ihm 2/3 der obergerichtlichen Verfahrenskosten, verpflichtete ihn zur Bezahlung von Parteientschädigungen an die Zivilkläger und richtete seinem Verteidiger ein Drittel des Honorars für das (zweite) Berufungsverfahren aus. Sodann hob es die Dispositiv-Ziff. 3-5 seines Urteils vom 27. April 2009 auf, nahm diese Verfahrenskosten auf die Staatskasse und richtete dem Verteidiger von X._ das Honorar für das erste Berufungsverfahren aus.
E. X._ führt Beschwerde in Strafsachen. Er beantragt, das Urteil des Obergerichts des Kantons Aargau vom 9. Juni 2011 sei aufzuheben. Die Sache sei an das Obergericht zur neuen Entscheidung zurückzuweisen, unter Kosten- und Entschädigungsfolgen.
Erwägungen:
1. 1.1 Die Bindungswirkung bundesgerichtlicher Rückweisungsentscheide ergibt sich aus ungeschriebenem Bundesrecht (BGE 135 III 334 E. 2.1; Urteil 6B_372/2011 vom 12. Juli 2011 E. 1.1.1; je mit Hinweisen). Im Falle eines Rückweisungsentscheids hat die mit der Neubeurteilung befasste kantonale Instanz die rechtliche Beurteilung, mit der die Zurückweisung begründet wird, ihrer Entscheidung zugrunde zu legen. Diese Beurteilung bindet auch das Bundesgericht, falls ihm die Sache erneut unterbreitet wird. Aufgrund der Bindungswirkung ist es den nochmals mit der Sache befassten Gerichten wie den Parteien verwehrt, der Überprüfung einen anderen als den bisherigen Sachverhalt zu unterstellen oder die Sache unter rechtlichen Gesichtspunkten zu prüfen, die im Rückweisungsentscheid ausdrücklich abgelehnt oder nicht in Erwägung gezogen worden sind (BGE 135 III 334 E. 2 und E. 2.1 S. 335 f. mit Hinweisen). Diese Rechtsprechung beruht auf dem Gedanken, dass das Strafverfahren prinzipiell mit dem Urteil der (oberen) kantonalen Instanz abgeschlossen ist (BGE 117 IV 97 E. 4a).
1.2 Die kantonale Instanz hat sich bei der neuen Entscheidung somit auf das zu beschränken, was sich aus den bundesgerichtlichen Erwägungen als Gegenstand der neuen Beurteilung ergibt. Es soll nicht das ganze Verfahren neu in Gang gesetzt werden, sondern nur soweit dies notwendig ist, um den verbindlichen Erwägungen des Bundesgerichts Rechnung zu tragen. In den Grenzen des Verbots der reformatio in peius kann sich dabei die neue Entscheidung auch auf Punkte beziehen, die vor Bundesgericht nicht angefochten waren, sofern dies der Sachzusammenhang erfordert (BGE 123 IV 1 E. 1 mit Hinweis; Urteil 6B_372/2011 vom 12. Juli 2011 E. 1.1.2 2. Absatz mit Hinweisen).
1.3 Rügen, die gegen das erste kantonale Urteil hätten vorgebracht werden können und deren Geltendmachung den Parteien nach Treu und Glauben zumutbar war, können gegen das zweite kantonale Urteil nicht mehr vorgebracht werden (Urteil 6B_372/2011 vom 12. Juli 2011 E. 1.1.2 3. Absatz mit Hinweisen). Soweit der Beschwerdeführer rügt, die Vorinstanz habe nur begründete Beanstandungen geprüft und sich insofern einem gesetzlich nicht vorgesehenen Rügeprinzip unterworfen (Beschwerde S. 4 N. 12 und S. 8 N. 23), ist er nicht zu hören. Diesen angeblichen Verfahrensmangel hätte er in der ersten Beschwerde an das Bundesgericht vorbringen können, was er nicht substanziiert tat (Beschwerde vom 22. November 2010, Verfahren 6B_983/2010). Auf die Beschwerde ist insoweit nicht einzutreten.
1.4 Der Beschwerdeführer rügt erneut, die Verurteilung wegen mehrfacher übler Nachrede falle infolge Verjährung ausser Betracht (Beschwerde S. 8 f. N. 24-28). Damit setzte sich das Bundesgericht bereits im ersten Beschwerdeverfahren auseinander und erachtete die Rüge als unbegründet (Urteil 6B_983/2010 vom 19. April 2011 S. 8 f. E. 4.1-4.2.3). Die Frage der Verjährung ist nicht mehr Prozessgegenstand.
1.5 Der Beschwerdeführer beanstandet seine Verurteilung wegen übler Nachrede zum Nachteil von B._. Die Vorinstanz verkenne die Bindungswirkung des Rückweisungsentscheids. Sie spreche ihn gestützt auf den Rückweisungsentscheid vom Vorwurf der üblen Nachrede zum Nachteil von Z._ frei. Hingegen bestätige sie den Schuldspruch zum Nachteil von B._, obwohl diesem der gleiche Sachverhalt zugrunde liege. Damit sei das angefochtene Urteil widersprüchlich und bundesrechtswidrig (Beschwerde S. 7 f. N. 22 f.).
Die Rüge ist unbegründet, soweit darauf einzutreten ist. Im ersten Beschwerdeverfahren erwog das Bundesgericht, auf die weiteren Vorbringen des Beschwerdeführers gegen seine Verurteilung wegen übler Nachrede zum Nachteil von B._ sei nicht einzutreten. Diesbezüglich sei der kantonale Instanzenzug nicht ausgeschöpft (Urteil 6B_983/2010 vom 19. April 2011 S. 9 f. E. 4.3). Die Vorinstanz prüft im Neubeurteilungsverfahren den Schuldspruch wegen übler Nachrede zum Nachteil von B._ daher zu Recht nicht (E. 1.1 hiervor). Entgegen der Auffassung des Beschwerdeführers besteht auch kein Sachzusammenhang, aufgrund dessen der Schuldspruch neu beurteilt werden müsste (E. 1.2). Das Bundesgericht erwog, die Äusserungen des Beschwerdeführers gegenüber dem Gemeindeangestellten, der Ehefrau von Z._ und dessen Mitarbeiterin seien nicht ehrverletzend. Die Aussage, eine verheiratete Person sei homosexuell, impliziere nicht, dass sie die ehelichen Treuepflichten tatsächlich verletze. Eine unbefangene Person interpretiere eine solche Mitteilung nicht in diesem Sinn. Ebenso beinhalte die Aussage, ein Jugendleiter sei homosexuell, nicht, dass er pädosexuelle Neigungen habe (Urteil 6B_983/2010 vom 19. April 2011 S. 11 E. 4.4.4). Betreffend die üble Nachrede zum Nachteil von B._ erwägt die Vorinstanz, der Beschwerdeführer habe den Gemeindeschreiber darüber informiert, B._ treibe sich im "Schwulenwäldli" herum und "vögle" in seiner Praxis "herum" (angefochtenes Urteil S. 18 3. Absatz). Der Verurteilung wegen übler Nachrede zum Nachteil von B._ lag somit ein anderer Sachverhalt als im Fall Z._ zugrunde. Das angefochtene Urteil ist nicht widersprüchlich,
2. 2.1 Der Beschwerdeführer rügt eine Verletzung von Art. 453 Abs. 2 der Schweizerischen Strafprozessordnung vom 5. Oktober 2007 (StPO; SR 312.0). Die Vorinstanz wende anstelle der StPO fälschlicherweise kantonales Prozessrecht an. Gemäss Art. 403 ff. StPO wäre sie verpflichtet gewesen, zu einer neuen Verhandlung vorzuladen oder den Parteien das rechtliche Gehör in anderer Form zu gewähren (Beschwerde S. 5 N. 13-15 und S. 6 N. 18).
2.2 Das Bundesgericht wies die Angelegenheit am 19. April 2011 an die Vorinstanz zurück. Der angefochtene Entscheid erging am 9. Juni 2011. Am 1. Januar 2011 ist die Schweizerische Strafprozessordnung in Kraft getreten. Wird ein Verfahren vom Bundesgericht zur neuen Beurteilung zurückgewiesen, so ist (für den neuen Entscheid ab dem 1. Januar 2011) grundsätzlich neues Recht anwendbar (Art. 453 Abs. 2 Satz 1 StPO; Urteil 1B_293/2011 vom 14. September 2011 E. 1.2; jedoch Urteil 1B_275/2011 vom 2. September 2011 E. 1.2 zur "unechten Nachwirkung"; je mit Hinweisen). Dem Beschwerdeführer ist beizupflichten, dass sich die Vorinstanz nicht zur Frage des anwendbaren Verfahrensrechts äussert, immerhin aber wiederholt kantonale Prozessrechtsbestimmungen zitiert (angefochtenes Urteil S. 18 1. Absatz "§ 25 StPO", S. 28 E. 4.4 2. Absatz und E. 4.5 "§ 210 StPO" sowie S. 29 E. 5 3. Absatz "§ 164 Abs. 1 StPO"). Dies betrifft jedoch Erwägungen, welche sie nach der Rückweisung nicht neu vornimmt bzw. in denen sie zum Schluss gelangt, es sei keine Neubeurteilung erforderlich, nämlich zum Anklagegrundsatz, zur Tagessatzhöhe (E. 3.2 nachstehend), zur Gewährung des bedingten Strafvollzugs und zur erstinstanzlichen Kostenregelung des zweiten Verfahrens. Daraus lässt sich nicht folgern, die Vorinstanz verletze die Übergangsvorschriften der StPO, indem sie im Neubeurteilungsverfahren kantonales Recht anwende (vgl. NIKLAUS SCHMID, Handbuch des schweizerischen Strafprozessrechts, Zürich 2009, S. 786 N. 1713). Die Beschwerde erweist sich insoweit als unbegründet. Im Übrigen geht die Argumentation des Beschwerdeführers, wonach die Vorinstanz gestützt auf Art. 403 ff. StPO zwingend eine neue Verhandlung hätte ansetzen oder ihm in anderer Weise das rechtliche Gehör hätte gewähren müssen, an der Sache vorbei. Diese Bestimmungen regeln das (ordentliche) Berufungsverfahren, währenddem sich die Frage, inwieweit ihm nach der Gutheissung einer Beschwerde und der Rückweisung an die Vorinstanz ein Äusserungsrecht zusteht, nach den nunmehr noch zu entscheidenden Fragen richtet (BGE 119 Ia 136; 103 Ia 137; Urteil 1C_572/2010 vom 26. Mai 2011 E. 3.1; NIKLAUS SCHMID, a.a.O., S. 785 f. N. 1713). Inwiefern die StPO dem Beschwerdeführer diesbezüglich weitergehende Rechte (auch als die kantonalen Vorschriften) einräumt, legt er nicht dar und ist nicht erkennbar.
2.3 Im Weiteren macht der Beschwerdeführer geltend, die Vorinstanz verletze Art. 428 StPO, indem sie Y._ zu Unrecht die gesamte Parteientschädigung zuspreche (Beschwerde S. 7 N. 21). Die Vorinstanz verpflichtete ihn bereits mit Urteil vom 24. Juni 2010, Y._ die Parteikosten des vorinstanzlichen Verfahrens zu ersetzen (S. 29 E. 6 2. Absatz), was der Beschwerdeführer in der ersten Beschwerde an das Bundesgericht indes nicht beanstandete. Weil der bundesgerichtliche Rückweisungsentscheid keinen Bezug zu Y._ aufweist, musste die Vorinstanz diese Entschädigung nicht neu beurteilen, was sie auch nicht tat (angefochtenes Urteil S. 30 E. 7 2. Absatz). Auf die Beschwerde ist in diesem Punkt nicht einzutreten.
3. 3.1 Der Beschwerdeführer rügt im Zusammenhang mit der Strafzumessung die Verletzung von Art. 34 Abs. 2 sowie Art. 48 lit. e StGB. Er macht geltend, die Vorinstanz berücksichtige den Strafmilderungsgrund nach Art. 48 lit. e StGB nicht, obgleich die beurteilten Vergehen unterdessen verjährt wären. Ferner stelle sie nicht auf seine persönlichen und wirtschaftlichen Verhältnisse im Zeitpunkt der Ausfällung des angefochtenen Urteils gemäss Art. 34 Abs. 2 StGB ab, auch wenn sich diese massgeblich zu seinen Ungunsten verändert hätten. Zudem verletze die Vorinstanz sein rechtliches Gehör (Art. 29 Abs. 2 BV). Sie bemesse die Strafe neu und verpflichte ihn zur Leistung einer Parteientschädigung an Z._, ohne dass er sich dazu habe äussern können (Beschwerde S. 2 N. 2, S. 5 f. N. 16-18 und S. 7 N. 21).
3.2 Die Einwände betreffend Art. 34 Abs. 2 StGB sind unbehelflich. Gestützt auf den bundesgerichtlichen Rückweisungsentscheid sprach ihn die Vorinstanz vom Vorwurf der mehrfachen üblen Nachrede zum Nachteil von Z._ frei (angefochtenes Urteil S. 20 E. 3.1). Daher musste sie die Strafe neu bestimmen. Da sich dieser zusätzliche Freispruch bei der Strafzumessung indessen nicht auf die Tagessatzhöhe auswirkt, musste sie diese nicht neu festsetzen (BGE 134 IV 60 E. 5.3 f. mit Hinweis). Insofern war die Vorinstanz auch nicht gehalten, ihn zu seinen persönlichen und wirtschaftlichen Verhältnissen anzuhören.
3.3 Der in Art. 29 Abs. 2 BV und Art. 6 Ziff. 1 EMRK verankerte Anspruch auf rechtliches Gehör umfasst u.a. das Recht des Betroffenen, sich vor Erlass eines in seine Rechtsstellung eingreifenden Entscheids zur Sache zu äussern (BGE 132 II 485 E. 3.2; 127 I 54 E. 2b mit Hinweis; Urteil 6B_1076/2010 vom 21. Juni 2011 E. 5.2).
Die Vorinstanz musste im Neubeurteilungsverfahren - neben der kassierten Kosten- und Entschädigungsregelung im Urteil vom 27. April 2009 (E. 4 nachstehend) - aufgrund des weiteren Freispruchs die Strafe (d.h. die Anzahl Tagessätze der Geldstrafe) neu festsetzen. Sodann hatte sie die Auswirkungen auf die Kosten- und Entschädigungsfolgen des zweiten Verfahrens zu prüfen und diese allenfalls neu zu entscheiden. Aus den Akten ergibt sich nicht, dass die Vorinstanz dem Beschwerdeführer nach dem Rückweisungsentscheid des Bundesgerichts die Gelegenheit erteilte, sich zu den neu zu beurteilenden Punkten zu äussern, bevor das angefochtene Urteil erging. Damit hat sie grundsätzlich sein rechtliches Gehör verletzt. Zu prüfen ist, ob dieser Mangel im bundesgerichtlichen Verfahren geheilt und daher auf die Aufhebung des angefochtenen Urteils und erneute Rückweisung der Angelegenheit an die Vorinstanz verzichtet werden kann.
3.4 Der Anspruch auf rechtliches Gehör ist formeller Natur. Seine Verletzung führt ungeachtet der Erfolgsaussichten der Beschwerde in der Sache selbst zur Aufhebung des angefochtenen Entscheids (BGE 137 I 195 E. 2.2 mit Hinweis). Vorbehalten bleiben Fälle, in denen die Verletzung nicht besonders schwer wiegt und dadurch geheilt wird, dass die Partei, deren rechtliches Gehör verletzt wurde, sich vor einer Instanz äussern kann, der mit Bezug auf die streitige Frage die gleiche Überprüfungsbefugnis zusteht wie ihrer Vorinstanz (BGE 135 I 279 E. 2.6.1 S. 285 mit Hinweisen). Von einer Rückweisung ist selbst bei einem schwerwiegenden Mangel abzusehen, wenn und soweit sie zu einem formalistischen Leerlauf und damit zu Verzögerungen führen würde, die mit dem (der Anhörung gleichgestellten) Interesse der betroffenen Partei an einer beförderlichen Beurteilung der Sache nicht zu vereinbaren wären. Die Heilung eines Mangels soll die Ausnahme bleiben (BGE 137 I 195 E. 2.3.2 S. 197 f. und E. 2.7; 127 V 431 E. 3d/aa S. 437 f.; je mit Hinweis). Eine Gehörsverletzung kann auch (noch) im Verfahren vor Bundesgericht geheilt werden, allerdings nur, wenn ausschliesslich Rechtsfragen streitig sind, die es mit freier Kognition prüfen kann (BGE 133 I 100 E. 4.9).
Das Bundesgericht prüft die Fragen des Bundesrechts im Sinne von Art. 95 lit. a BGG, zu denen der Beschwerdeführer nicht angehört wurde (Entschädigung an die Privatklägerschaft, Art. 433 StPO; Strafzumessung, Art. 47 StGB, und Strafmilderung, Art. 48 lit. e StGB), mit freier Kognition. Die Vorinstanz verpflichtete ihn bereits mit Urteil vom 24. Juni 2010 dazu, Z._ die Parteikosten für das Berufungsverfahren vollständig zu ersetzen (kantonale Akten, vorinstanzliches Urteil vom 24. Juni 2010 S. 29 E. 6). Neu zu entscheiden war somit einzig die Frage, ob bzw. in welchem Ausmass die Parteientschädigung aufgrund des zusätzlichen Freispruchs zu reduzieren war. Diese Gehörsverletzung ist nicht als schwerwiegend einzustufen. Dass die vorinstanzliche Reduktion um die Hälfte zu tief ausgefallen ist (angefochtenes Urteil S. 30 E. 7 2. Absatz), macht der Beschwerdeführer denn auch nicht geltend. Vor diesem Hintergrund stellt eine Rückweisung an die Vorinstanz einen formalistischen Leerlauf und unnötige Verfahrensverzögerung dar, wovon abzusehen ist. Gleich verhält es sich bei der Gehörsverletzung betreffend die Bemessung der Anzahl Tagessätze, insbesondere der angeblich zu Unrecht unterlassenen Berücksichtigung des Strafmilderungsgrunds gemäss Art. 48 lit. e StGB. Dies ist nachfolgend mit freier Kognition zu prüfen, wodurch der Mangel geheilt wird (Urteil 5A_503/2010 vom 28. März 2011 E. 2.4 mit Hinweisen).
Das Bundesgericht prüft die Fragen des Bundesrechts im Sinne von Art. 95 lit. a BGG, zu denen der Beschwerdeführer nicht angehört wurde (Entschädigung an die Privatklägerschaft, Art. 433 StPO; Strafzumessung, Art. 47 StGB, und Strafmilderung, Art. 48 lit. e StGB), mit freier Kognition. Die Vorinstanz verpflichtete ihn bereits mit Urteil vom 24. Juni 2010 dazu, Z._ die Parteikosten für das Berufungsverfahren vollständig zu ersetzen (kantonale Akten, vorinstanzliches Urteil vom 24. Juni 2010 S. 29 E. 6). Neu zu entscheiden war somit einzig die Frage, ob bzw. in welchem Ausmass die Parteientschädigung aufgrund des zusätzlichen Freispruchs zu reduzieren war. Diese Gehörsverletzung ist nicht als schwerwiegend einzustufen. Dass die vorinstanzliche Reduktion um die Hälfte zu tief ausgefallen ist (angefochtenes Urteil S. 30 E. 7 2. Absatz), macht der Beschwerdeführer denn auch nicht geltend. Vor diesem Hintergrund stellt eine Rückweisung an die Vorinstanz einen formalistischen Leerlauf und unnötige Verfahrensverzögerung dar, wovon abzusehen ist. Gleich verhält es sich bei der Gehörsverletzung betreffend die Bemessung der Anzahl Tagessätze, insbesondere der angeblich zu Unrecht unterlassenen Berücksichtigung des Strafmilderungsgrunds gemäss Art. 48 lit. e StGB. Dies ist nachfolgend mit freier Kognition zu prüfen, wodurch der Mangel geheilt wird (Urteil 5A_503/2010 vom 28. März 2011 E. 2.4 mit Hinweisen).
3.5 3.5.1 Das Gericht misst die Strafe nach dem Verschulden des Täters unter Berücksichtigung des Vorlebens und der persönlichen Verhältnisse sowie der Wirkung der Strafe auf das Leben des Täters zu (Art. 47 Abs. 1 StGB). Es mildert die Strafe gemäss Art. 48 lit. e StGB, wenn das Strafbedürfnis in Anbetracht der seit der Tat verstrichenen Zeit deutlich vermindert ist und der Täter sich in dieser Zeit wohl verhalten hat. Nach der bundesgerichtlichen Rechtsprechung hat eine Strafmilderung in jedem Fall zu erfolgen, wenn zwei Drittel der Verjährungsfrist vergangen sind (BGE 132 IV 1 E. 6.2).
3.5.2 Die Vorinstanz geht von einem ordentlichen Strafrahmen von Geldstrafe oder Freiheitsstrafe bis zu viereinhalb Jahren aus. Sie verweist - mit Ausnahme der Ausführungen zur üblen Nachrede zum Nachteil von Z._ - auf die Erwägungen der ersten Instanz. Das Verschulden des Beschwerdeführers stuft sie insgesamt als schwer ein. Er habe aus egoistischen Motiven gehandelt, während rund einem Jahr vier Männer systematisch unter Druck gesetzt und vorsätzlich ihre privaten und beruflichen Verhältnisse stark belastet. Aufgrund der leicht verminderten Schuldfähigkeit sei von einem mittelschweren bis schweren Verschulden auszugehen. Eine Geldstrafe von 270 Tagessätzen sei auch unter Berücksichtigung des Umstandes angemessen, dass sich der Beschwerdeführer gegenüber Y._ nur wegen mehrfach versuchter und nicht wegen vollendeter Nötigung strafbar gemacht habe. Vom Vorwurf der mehrfachen üblen Nachrede zum Nachteil von Z._ werde er freigesprochen. Die auf den verbleibenden Schuldspruch wegen übler Nachrede zum Nachteil von B._ entfallende Freiheitsstrafe sei auf 20 Tagessätze festzulegen (angefochtenes Urteil S. 26 ff. E. 4.2 f.). Damit setzt die Vorinstanz wegen des zusätzlichen Freispruchs die Gesamtstrafe von 300 auf 290 Tagessätze herab. Dass und inwiefern diese Reduktion nicht angemessen ist, zeigt der Beschwerdeführer nicht auf und ist auch nicht ersichtlich (zum Ermessen bei der Strafzumessung BGE 136 IV 55 E. 5.6 S. 61 mit Hinweis).
3.5.3 Allerdings ist dem Beschwerdeführer zuzustimmen, dass die Voraussetzungen, unter denen in Anwendung von Art. 48 lit. e StGB zwingend eine Strafmilderung zu erfolgen hat, angesichts der vorliegend massgeblichen Verjährungsfrist von sieben Jahren (Art. 97 Abs. 1 lit. c StGB), grundsätzlich erfüllt sind. Die der Verurteilung zugrunde liegenden Taten beging der Beschwerdeführer zwischen November 2003 und Januar 2005 (angefochtenes Urteil S. 2-6). Im Zeitpunkt der (erneuten) Urteilsfällung im Juni 2011 kann somit von einem rund sechsjährigen Wohlverhalten des Beschwerdeführers ausgegangen werden. Die Vorinstanz bezieht dies nicht ausdrücklich in die Strafzumessung mit ein (angefochtenes Urteil S. 26-29 E. 4.1-4.7). Die erste Instanz, auf deren Erwägungen die Vorinstanz verweist (S. 26 E. 4.2), berücksichtigte aber zu Gunsten des Beschwerdeführers, dass sich dieser seit fünf Jahren nichts mehr habe zu Schulden kommen lassen (kantonale Akten, erstinstanzliches Ergänzungsurteil vom 21. Januar 2010 S. 19 E. 5.4 in fine). Das langjährige Wohlverhalten des Beschwerdeführers wurde somit strafmindernd einbezogen. Es ist weder erkennbar noch aufgezeigt, dass darüber hinaus eine weitere Strafminderung vorgenommen werden müsste. Die ausgefällte Geldstrafe von 290 Tagessätze ist jedenfalls im Ergebnis bundesrechtlich nicht zu beanstanden. Alleine einer besseren Begründung wegen hebt das Bundesgericht ein angefochtenes Urteil nicht auf, solange die Strafzumessung im Ergebnis bundesrechtskonform erscheint (BGE 127 IV 101 E. 2c S. 105 mit Hinweisen).
4. Soweit der Beschwerdeführer die neue Kosten- und Entschädigungsregelung der Vorinstanz betreffend das Urteil vom 27. April 2009 beanstandet (Beschwerde S. 6 f. N. 19 f.), ist auf seine Beschwerde nicht einzutreten. Sie entbindet ihn von der Tragung von Gerichtskosten und von der Leistung von Parteientschädigungen (angefochtenes Urteil S. 30 E. 6). Es fehlt ihm in diesem Punkt an einem eigenen rechtlichen Interesse und somit an der für die Erhebung der Beschwerde notwendigen Beschwer (Art. 81 Abs. 1 lit. b BGG; 6B_700/2009 vom 26. November 2009 E. 1 mit Hinweis). Mangels Beschwer liegt auch keine Verletzung des rechtlichen Gehörs vor (vgl. BGE 103 Ia 137 E. 2d S. 141). Dass und inwiefern dem Beschwerdeführer unter diesen Umständen, insbesondere seinem bloss faktischen Obsiegen, zu Lasten der Privatkläger eine Parteientschädigung zugesprochen werden müsste, ist weder rechtsgenügend dargelegt noch ersichtlich.
5. Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens sind die bundesgerichtlichen Kosten dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 4'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Aargau, Strafgericht, 1. Kammer, schriftlich mitgeteilt. Je eine Ausfertigung des Entscheides ist zudem den Zivilklägern Y._ und Z._ zuzustellen.
Lausanne, 5. Dezember 2011
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Die Gerichtsschreiberin: Pasquini