Sachverhalt: A. Am 16. Mai 2001 reichte Y._ beim Bezirksgericht Zürich Klage wegen Verleumdung im Sinne von Art. 174 StGB, allenfalls wegen übler Nachrede im Sinne von Art. 175 StGB gegen X._ ein. Dabei ging es um das von diesem an die Patienten des A._Center versandte Rundschreiben vom 7. März 2001. Darin wurden diverse Vorwürfe gegen Y._ erhoben, so unter anderem, dass eine Zusammenarbeit im A._Center mit ihm nicht mehr möglich sei, weil er sich Unregelmässigkeiten habe zuschulden kommen lassen und unter dem dringenden Verdacht des gewerbsmässigen Betrugs und der massiven Überarztung stehe. Im Übrigen sei ein Verfahren von Seiten der Krankenkasse wegen massiver Überarztung gegen Y._ bereits im Gang. B. Mit Verfügung vom 3. August 2006 trat der Präsident des Bezirksgerichts Zürich auf die Anklage betreffend Verleumdung und übler Nachrede wegen Verjährungseintritts nicht ein. Die Verfahrenskosten auferlegte er zu einem Drittel Y._ und zu zwei Dritteln X._, wobei er letzteren überdies zur Bezahlung einer reduzierten Prozessentschädigung in der Höhe von Fr. 6'000.-- verpflichtete. Dagegen gelangte X._ an das Obergericht des Kantons Zürich, welches den erhobenen Rekurs mit Beschluss vom 29. April 2008 abwies. C. Mit Beschwerde in Strafsachen wendet sich X._ an das Bundesgericht. Er verlangt die Aufhebung des angefochtenen Entscheids, eventuell dessen Rückweisung an die Vorinstanz. D. Vernehmlassungen wurde keine eingeholt.