Sachverhalt:
A. A._ war (als Inhaber der B._ GmbH) insbesondere als Fachspezialist im Sicherheitsbereich für X._, Verwaltungsrat der C._ AG und Inhaber der X._ GmbH, tätig. Am 7. August 2006 kündigte X._ den zwischen ihm und A._ bestehenden mündlichen Arbeitsvertrag. Wenige Tage später erfolgte ein "Hacking"-Angriff auf den Web-Server der X._ GmbH in Bern, womit sämtliche auf diesem Server angesiedelten Kunden-Webseiten durch ein Kriegsbild ersetzt wurden. In der Folge erstattete X._ Anzeige gegen A._ wegen unbefugten Eindringens in ein Datenverarbeitungssystem, Datenbeschädigung ("Hacking") und weiterer Delikte. Die Strafabteilung des Gerichtskreises VIII Bern-Laupen sprach A._ am 1. September 2008 von diesen Vorwürfen frei.
Am 2. September 2008 nahm A._ eine neue Tätigkeit als Projektmitarbeiter am Institut für Internet-Technologien und -Anwendungen der Hochschule D._ in E._ (nachfolgend: D._) auf.
Am 1. Dezember 2008 stellte A._ gegen X._ Strafantrag wegen Verleumdung, eventuell übler Nachrede. Er warf ihm vor, sich telefonisch an die Personalverantwortliche der D._ gewandt und behauptet zu haben, er sei ein gefährlicher "Hacker" und vorbestraft. Die D._ kündigte darauf das Arbeitsverhältnis, zog diese Kündigung später aber nach einem klärenden Gespräch wieder zurück.
B. Das Kreisgericht See-Gaster sprach X._ am 29. März 2010 vom Vorwurf der Verleumdung frei, erklärte ihn jedoch der mehrfachen üblen Nachrede schuldig. Es verurteilte ihn zu einer Geldstrafe von 30 Tagessätzen zu Fr. 60.--, bedingt aufgeschoben bei einer Probezeit von zwei Jahren. Das Kreisgericht verpflichtete ihn ausserdem, A._ Schadenersatz im Umfang von Fr. 1'269.70 und eine Genugtuung von Fr. 800.-- zu leisten.
Die von X._ gegen dieses Urteil erhobene Berufung wies das Kantonsgericht St. Gallen am 29. Juni 2011 ab.
C. X._ erhebt Beschwerde in Strafsachen beim Bundesgericht. Er beantragt, das Urteil des Kantonsgerichts St. Gallen vom 29. Juni 2011 sei aufzuheben, und er sei von Schuld und Strafe freizusprechen. Ausserdem seien die Zivilansprüche von A._ vollumfänglich abzuweisen. Eventuell sei das Urteil des Kantonsgerichts St. Gallen aufzuheben und die Sache zur Neubeurteilung an die erste Instanz zurückzuweisen.
Erwägungen:
1. 1.1 Der Beschwerdeführer rügt, er sei im vorinstanzlichen Verfahren nicht darauf hingewiesen worden, der Belastungszeugin Ergänzungsfragen stellen zu können. Er habe die gerichtliche Vorladung zur Einvernahme der Personalverantwortlichen der D._ als Belastungszeugin nicht erhalten. Indem die Vorinstanz einzig auf deren Aussagen abgestellt habe, verletze sie neben Art. 6 Ziff. 3 lit. d EMRK auch den Grundsatz "im Zweifel zugunsten des Angeklagten". Für ihn als juristischen Laien, der damals nicht anwaltlich vertreten gewesen sei, sei es nicht erkennbar gewesen, einen derartigen Beweisergänzungsantrag nach bereits durchgeführter Zeugenbefragung noch ins Verfahren einzubringen. Dies von ihm zu erwarten sei nicht nur unfair, sondern verletze auch das Verbot des überspitzten Formalismus. Es sei Sache der Strafbehörde, einwandfrei nachzuweisen, dass er auf sein Ergänzungsfragerecht rechtsgenügend hingewiesen worden sei (Beschwerde, S. 4 f.).
Weiter habe sich die Belastungszeugin bei ihren Aussagen auf eine Aktennotiz gestützt, welche die Vorinstanz jedoch nicht zu den Akten erkannt habe. Er habe sich daher nicht dazu äussern können. Dies verstosse gegen den Anspruch auf rechtliches Gehör sowie das Gebot des fairen Verfahrens. Es könne daher nicht auf die Aussagen der Belastungszeugin abgestellt werden. Auch seine eigenen Aussagen seien nicht verwertbar, da er nicht auf sein Aussageverweigerungsrecht hingewiesen worden sei (Beschwerde, S. 5).
1.2 Die Vorinstanz erwägt, dem Beschwerdeführer sei die Möglichkeit, der Belastungszeugin Fragen zu stellen, eingeräumt worden. Dem Beschwerdeführer und dem Beschwerdegegner seien Kopien der Vorladung mit A-Post zugestellt worden. Es sei zwar möglich, dass er die Vorladung nie erhalten habe. Es sei aber zu berücksichtigen, dass er diesen Vorwurf erstmals im Berufungsverfahren erhoben und im gesamten Untersuchungs- bzw. erstinstanzlichen Gerichtsverfahren nie gerügt habe. Zudem sei ihm unbestrittenermassen und nachweisbar das Protokoll der Einvernahme, das er selbst beantragt habe, zugestellt worden. Obwohl daraus die Gelegenheit für Ergänzungsfragen ersichtlich gewesen sei, habe der Beschwerdeführer darauf nicht reagiert. Er habe auch nicht reagiert, als ihm der Untersuchungsrichter schriftlich mitgeteilt habe, die Untersuchung stehe vor dem Abschluss, und es könnten noch Beweisergänzungsanträge gestellt werden. Schliesslich habe er sich von der erstinstanzlichen Hauptverhandlung dispensieren lassen. Bei dieser Sachlage sei anzunehmen, dass er die Vorladungskopie erhalten und auf sein Recht auf Ergänzungsfragen verzichtet habe. Eine Verletzung von Art. 6 Ziff. 3 lit. d EMRK liege nicht vor (angefochtenes Urteil, S. 5 f.).
1.3 Nach der Verfahrensgarantie von Art. 6 Ziff. 3 lit. d EMRK hat der Angeschuldigte Anspruch darauf, einem Belastungszeugen Fragen zu stellen. Dieser Anspruch ist ein besonderer Aspekt des Rechts auf ein faires Verfahren nach Art. 6 Ziff. 1 EMRK. Eine belastende Zeugenaussage ist somit grundsätzlich nur verwertbar, wenn der Beschuldigte wenigstens einmal während des Verfahrens angemessen und hinreichend Gelegenheit hatte, das Zeugnis in Zweifel zu ziehen und Fragen an den Zeugen zu stellen, wobei als Zeugenaussagen auch in der Voruntersuchung gemachte Aussagen vor Polizeiorganen gelten. Der Beschuldigte muss namentlich in der Lage sein, die Glaubhaftigkeit einer Aussage zu prüfen und den Beweiswert in kontradiktorischer Weise auf die Probe und in Frage zu stellen (zum Ganzen BGE 133 I 33 E. 3.1). Der Beschuldigte hat einen Antrag auf Befragung eines Zeugen den Behörden rechtzeitig und formgerecht einzureichen. Stellt er seinen Beweisantrag nicht rechtzeitig, kann er den Strafverfolgungsbehörden nachträglich nicht vorwerfen, sie hätten durch Verweigerung der Konfrontation oder ergänzender Fragen an Belastungszeugen seinen Grundrechtsanspruch verletzt (Urteil des Bundesgerichts 6B_10/2009 vom 6. Oktober 2009 E. 2.2.4 mit Hinweisen). Ob ein Antrag auf Befragung von Belastungszeugen unter dem Aspekt von Treu und Glauben rechtzeitig vorgebracht wurde, hängt von den konkreten Umständen des Einzelfalls ab.
Wie die Vorinstanz ausführt, verzichtete der Beschwerdeführer darauf, der Belastungszeugin Ergänzungsfragen zu stellen sowie zu ihren Aussagen gemäss Einvernahmeprotokoll Stellung zu nehmen. Er stellte zudem keine Beweisergänzungsanträge, obwohl ihm der Untersuchungsrichter diese Möglichkeit ausdrücklich eingeräumt hatte. Von der erstinstanzlichen Hauptverhandlung, wo er ebenfalls noch einen Antrag auf Konfrontationseinvernahmen hätte anbringen können, liess er sich dispensieren.
Das Bundesgericht führte im oben erwähnten Urteil aus, dass ein nicht spätestens in der erstinstanzlichen Verhandlung gestellter Antrag auf Konfrontationseinvernahmen verspätet ist, wenn der Beschwerdeführer nach Treu und Glauben zur Antragsstellung Anlass gehabt hat (Urteil 6B_10/2009 vom 6. Oktober 2009 E. 2.2.5; BGE 119 Ia 88 E. 1a). Da der Beschwerdeführer in der Lage war, einen solchen Antrag zu stellen und dazu auch Anlass bestand, ist sein Vorbringen unbegründet.
1.4 Auf die erstmals im bundesgerichtlichen Verfahren vorgebrachte Rüge des Beschwerdeführers, die Vorinstanz verstosse gegen seinen Anspruch auf rechtliches Gehör sowie des Gebots des fairen Verfahrens, indem sie sich auf die Aussagen der Belastungszeugin abstützt, ist nicht einzutreten (Art. 80 Abs. 1 BGG; BGE 135 I 91 E. 2.1). Sein Rechtsvertreter wies im Plädoyer anlässlich der vorinstanzlichen Hauptverhandlung zwar darauf hin, dass die Aktennotiz der Belastungszeugin nicht zu den Akten erkannt worden sei, verlangte jedoch nicht deren Unverwertbarkeit und der darauf beruhenden Aussagen (act. B/12, S. 8 der Vorakten). Ebenfalls unzulässig im Sinne von Art. 80 Abs. 1 BGG (mangels Ausschöpfung des kantonalen Instanzenzuges) ist der Vorwurf des Beschwerdeführers, dass er nicht auf sein Aussageverweigerungsrecht hingewiesen worden sei und daher seine eigenen Aussagen nicht verwertbar seien. Darauf ist ebenfalls nicht einzutreten.
2. 2.1 Der Beschwerdeführer bringt vor, der Tatbestand der üblen Nachrede gemäss Art. 173 StGB sei nicht erfüllt, selbst wenn auf die Aussagen der Belastungszeugin abgestellt werden könnte. Der Beschwerdegegner sei tatsächlich vorbestraft, weshalb die entsprechende Äusserung von ihm (dem Beschwerdeführer) wahr sei. Unzutreffend sei die vorinstanzliche Behauptung, die Äusserung sei ohne Veranlassung erfolgt. Er sei nach wie vor der Ansicht, dass der Beschwerdegegner Urheber des "Hacker"-Angriffs auf sein Unternehmen gewesen sei. Es habe der begründete Verdacht bestanden, dass die Vorstrafe des Beschwerdegegners ein ähnliches Delikt wie den "Hacker"-Angriff betroffen habe (Beschwerde, S. 6 f.).
Die Vorinstanz habe es versäumt, den Beschwerdegegner sowie die Belastungszeugin über die Einzelheiten des fraglichen Anstellungsverhältnisses genauer zu befragen. Indem die Vorinstanz diesen Antrag als unerheblich erachtet habe, habe sie seinen Anspruch auf rechtliches Gehör verletzt. Es sei im öffentlichen Interesse, dass bei der D._ nur unbescholtene Mitarbeiter arbeiteten. Er habe sie vor dem Beschwerdegegner schützen wollen, da er von seiner Strafbarkeit als "Hacker" überzeugt gewesen sei. Der Hinweis auf dessen Vorstrafen sei nicht vorwiegend mit dem Ziel erfolgt, ihm zu schaden. Er sei somit zum Entlastungsbeweis zuzulassen. Da dieser gelingen werde, bleibe er in Bezug auf die Äusserung, der Beschwerdegegner sei vorbestraft, straflos (Beschwerde, S. 7 f.).
Er habe den Beschwerdegegner überdies gar nicht als "Hacker" bezeichnet, sondern die Belastungszeugin darauf aufmerksam gemacht, dass diesbezüglich ein Strafverfahren gegen diesen laufe. Es sei für jedermann klar, dass der Beschwerdegegner deswegen noch nicht rechtskräftig verurteilt worden sei. Da keine Ehrverletzung vorliege, stelle sich die Frage des Gutglaubensbeweises nicht. Er erfülle den Tatbestand der üblen Nachrede daher nicht, eventuell bleibe er aufgrund des Entlastungs- bzw. Gutglaubensbeweises straflos (Beschwerde, S. 8 f.).
Er habe den Beschwerdegegner überdies gar nicht als "Hacker" bezeichnet, sondern die Belastungszeugin darauf aufmerksam gemacht, dass diesbezüglich ein Strafverfahren gegen diesen laufe. Es sei für jedermann klar, dass der Beschwerdegegner deswegen noch nicht rechtskräftig verurteilt worden sei. Da keine Ehrverletzung vorliege, stelle sich die Frage des Gutglaubensbeweises nicht. Er erfülle den Tatbestand der üblen Nachrede daher nicht, eventuell bleibe er aufgrund des Entlastungs- bzw. Gutglaubensbeweises straflos (Beschwerde, S. 8 f.).
2.2 2.2.1 Die Vorinstanz führt aus, es sei unbestritten, dass der Beschwerdegegner vorbestraft sei. Der Beschwerdeführer habe jedoch keine begründete Veranlassung gehabt, der D._ die Vorstrafe (Busse von Fr. 500.--) wegen versuchter Nötigung und Hinderung einer Amtshandlung aus dem Jahre 1998 mitzuteilen. Er habe auch keine begründete Veranlassung gehabt zu glauben, die Vorstrafe habe ähnliche Delikte betroffen, wie er sie in der Strafanzeige von 2006 gegen den Beschwerdegegner erhoben habe. Es überzeuge nicht, dass er die D._ vor "Hackern" habe schützen wollen. Andere (berechtigte) öffentliche Interessen mache er nicht geltend und seien auch nicht ersichtlich. Seine Äusserung zur Vorstrafe des Beschwerdegegners sei daher ohne begründete Veranlassung erfolgt. Die Beweisanträge über die Einzelheiten des Anstellungsverhältnisses des Beschwerdegegners sowie die Befragung der Belastungszeugin seien ferner mangels Relevanz abzuweisen (angefochtenes Urteil, S. 7 ff.).
Die Äusserung des Beschwerdeführers habe dieser vorwiegend mit der Absicht vorgebracht, dem Beschwerdegegner Übles vorzuwerfen. Die Auflösung des früheren Arbeitsverhältnisses zwischen den beiden habe zu Streitigkeiten geführt, die vor allem vom Beschwerdeführer ausgegangen seien. So habe dieser Strafanzeige gegen den Beschwerdegegner erhoben und ihn beschuldigt, gegen 17 (allesamt unzutreffende) Straftatbestände verstossen zu haben. Der offenkundig vorsätzlich handelnde Beschwerdeführer sei nicht zum Entlastungsbeweis zuzulassen (angefochtenes Urteil, S. 9).
2.2.2 Die Vorinstanz erwägt, die weitere Aussage gegenüber der Belastungszeugin, der Beschwerdegegner sei ein "Hacker", erfülle den Tatbestand der üblen Nachrede. Es gebe keinen Grund, daran zu zweifeln, dass der Beschwerdeführer diesen Ausdruck verwendet habe, zumal er zugleich erwähnt habe, der Beschwerdegegner sei vorbestraft. Er sei nicht zu den Entlastungsbeweisen zuzulassen, da er ohne begründete Veranlassung gehandelt habe, nachdem der Beschwerdegegner von den entsprechenden Anschuldigungen (mit Wissen des Beschwerdeführers) freigesprochen worden sei. Bei ihm habe überwiegend die Absicht bestanden, dem Beschwerdegegner Übles vorzuwerfen. Selbst wenn ihm der Entlastungs- oder Gutglaubensbeweis eingeräumt würde, könnten diese nicht erbracht werden. Nach einem Freispruch sei es nicht möglich, den Wahrheitsbeweis für die Begehung des entsprechenden Delikts zu leisten. Der Gutglaubensbeweis scheitere daran, dass der Beschwerdeführer nachweislich zwei Tage vor der inkriminierten Äusserung ("Hacking"-Vorwurf) Kenntnis vom freisprechenden Urteil erhalten habe. Damit sei der gute Glaube zerstört. Er könne sich nur auf den guten Glauben berufen, wenn er Tatsachen anrufen würde, die zu einer Wiederaufnahme des Verfahrens führten. Dies sei jedoch nicht der Fall (angefochtenes Urteil, S. 9 ff.).
2.3 Insoweit der Beschwerdeführer Kritik an den tatsächlichen vorinstanzlichen Feststellungen übt und Grundrechte verletzt sieht - so etwa, dass die Belastungszeugin nicht über die Einzelheiten des fraglichen Anstellungsverhältnisses befragt worden sei - ist darauf mangels hinreichender Rüge bzw. Begründung nicht einzutreten (Art. 106 Abs. 1 BGG).
2.4 Wer jemanden bei einem andern eines unehrenhaften Verhaltens oder anderer Tatsachen, die geeignet sind, seinen Ruf zu schädigen, beschuldigt oder verdächtigt, wer eine solche Beschuldigung oder Verdächtigung weiterverbreitet, wird gemäss Art. 173 Ziff. 1 StGB, auf Antrag, mit Geldstrafe bis zu 180 Tagessätzen bestraft. Beweist der Beschuldigte, dass die von ihm vorgebrachte oder weiterverbreitete Äusserung der Wahrheit entspricht, oder dass er ernsthafte Gründe hatte, sie in guten Treuen für wahr zu halten, so ist er nicht strafbar (Ziff. 2). Der Beschuldigte wird zum Beweis nicht zugelassen und ist strafbar für Äusserungen, die ohne Wahrung öffentlicher Interessen oder sonst wie ohne begründete Veranlassung, vorwiegend in der Absicht vorgebracht oder verbreitet werden, jemandem Übles vorzuwerfen, insbesondere, wenn sich die Äusserungen auf das Privat- oder Familienleben beziehen (Ziff. 3).
2.5 Nach ständiger Rechtsprechung beschränkt sich der strafrechtliche Schutz von Art. 173 Ziff. 1 StGB auf den menschlich-sittlichen Bereich. Die Bestimmung schützt somit den Ruf, ein ehrbarer Mensch zu sein, d.h. sich so zu benehmen, wie nach allgemeiner Anschauung ein charakterlich anständiger Mensch sich zu verhalten pflegt (sittliche Ehre bzw. ethische Integrität). Den Tatbestand erfüllen danach nur Behauptungen sittlich vorwerfbaren, unehrenhaften Verhaltens. Äusserungen, die geeignet sind, jemanden in anderer Hinsicht, z.B. als Geschäfts- oder Berufsmann, als Politiker oder Künstler in seiner gesellschaftlichen Geltung oder sozialen Funktion herabzusetzen (gesellschaftliche oder soziale Ehre), sind demgegenüber nicht ehrverletzend, solange die Kritik an den strafrechtlich nicht geschützten Seiten des Ansehens jedenfalls nicht zugleich die Geltung als ehrbarer Mensch trifft. Für die Frage, ob die Äusserung ehrenrührig ist, ist massgeblich, welcher Sinn ihr ein unbefangener Adressat unter den konkreten Umständen beilegt (BGE 128 IV 53 E. 1a mit Hinweisen).
2.6 Die Vorinstanz qualifiziert die inkriminierten Äusserungen zu Recht als ehrverletzend, da sie geeignet sind, den Ruf und das Gefühl des Beschwerdegegners, ein ehrbarer Mensch zu sein, beeinträchtigen. Sie schliesst den Beschwerdeführer zu Recht vom Entlastungsbeweis aus.
Es ist nicht zu beanstanden, wenn die Vorinstanz eine begründete Veranlassung des Beschwerdeführers verneint, der D._ eine Vorstrafenbusse von Fr. 500.-- aus dem Jahre 1998, die überdies keine mit "Hacking" vergleichbaren Delikte betraf, mitzuteilen. Andere (berechtigte) öffentliche Interessen macht der Beschwerdeführer denn auch nicht geltend und sind nicht ersichtlich. Dass er "der Ansicht" ist, der Beschwerdegegner sei Urheber des "Hacker"-Angriffs auf sein Unternehmen gewesen, kann hieran nichts ändern. Sein weiteres Argument, er habe die D._ vor "Hackern" schützen wollen, da dort nur unbescholtene Mitarbeiter arbeiten sollten, überzeugt ebenfalls nicht.
Die Vorinstanz führt die inkriminierte Äusserung des Beschwerdeführers auf dessen Absicht zurück, dem Beschwerdegegner Übles vorzuwerfen. Sie begründet dies einerseits mit der ungerechtfertigten Strafanzeige gegen den Beschwerdegegner und andererseits mit den vor allem vom Beschwerdeführer ausgehenden Streitigkeiten im Zuge der Auflösung des früheren Arbeitsverhältnisses zwischen den beiden. Dies ist ebenfalls nachvollziehbar und nicht zu beanstanden.
2.7 Die Vorinstanz verletzt kein Bundesrecht, wenn sie die vom Beschwerdeführer beantragten Beweisanträge zur Ermittlung der Einzelheiten des Anstellungsverhältnisses des Beschwerdegegners sowie die Befragung der Belastungszeugin als irrelevant abweist. Es ist nicht ersichtlich, inwiefern diese Erhebungen ein öffentliches Interesse oder eine sonstige begründete Veranlassung für die inkriminierten Äusserungen des Beschwerdeführers beweisen sollen.
2.8 Die Vorinstanz geht weiter zu Recht davon aus, dass die Aussage, der Beschwerdegegner sei ein "Hacker", den Tatbestand der üblen Nachrede erfüllt. Der Einwand des Beschwerdeführers, er habe die Belastungszeugin lediglich darauf aufmerksam gemacht, dass ein Strafverfahren gegen den Beschwerdegegner am laufen sei, kann nicht überzeugen. Einerseits bestätigte sie in der Zeugeneinvernahme die "Hacker"-Aussage des Beschwerdeführer glaubhaft (act. 24 im Verfahren UR2008.13 der Vorakten). Andererseits erwähnte der Beschwerdeführer unbestrittenermassen, dass der Beschwerdegegner wegen "Hacking" vorbestraft ist. Es ist nicht zu beanstanden, wenn die Vorinstanz daraus schliesst, dass der Beschwerdeführer den Ausdruck "Hacker" tatsächlich verwendet hat. Zu Recht verwehrt sie ihm die Möglichkeit des Entlastungs- und Gutglaubensbeweises, da er - wie bei der inkriminierten Äusserung, der Beschwerdegegner sei vorbestraft -, ohne Wahrung öffentlicher Interessen oder begründete Veranlassung gehandelt und überwiegend die Absicht bestanden hat, dem Beschwerdegegner Übles vorzuwerfen.
3. Der Beschwerdeführer wendet sich schliesslich gegen die vorinstanzlich bewilligte Zivilforderung des Beschwerdegegners. Seine Begründung gegen diese Forderung beschränkt sich darauf, dass er unschuldig sei, weshalb für eine Zivilforderung kein Raum mehr bestehe. Er legt damit nicht dar, inwiefern die Vorinstanz im Sinne von Art. 42 Abs. 2 BGG Bundesrecht verletzt hätte. Seine Rüge ist daher unzulässig, weshalb auf sie nicht einzutreten ist.
4. Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Bei diesem Verfahrensausgang sind die bundesgerichtlichen Kosten dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Kantonsgericht St. Gallen, Strafkammer, schriftlich mitgeteilt.
Lausanne, 29. Dezember 2011
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Wiprächtiger
Der Gerichtsschreiber: Keller