Sachverhalt:
A. A._ klagte am 21. Oktober 2005 beim Vermittleramt Bezirk Appenzell gegen X._ wegen Beschimpfung, weil er sie als "die Alte" betitelt habe. Dieser erschien sowohl am 17. November 2005 als auch am 5. Dezember 2005 nicht zu den anberaumten Vermittlungsvorständen. Mit Strafbefehl vom 28. März 2006 befand die Staatsanwaltschaft Appenzell Innerrhoden X._ der Beschimpfung schuldig.
Gegen diesen Strafbefehl erhob X._ Einsprache, und der Fall wurde von der Staatsanwaltschaft dem Bezirksgericht Appenzell Innerrhoden zur Beurteilung überwiesen. Dieses sprach X._ mit Urteil vom 13. Dezember 2006 vom Vorwurf der Beschimpfung frei. Hingegen auferlegte es ihm die gesamten Verfahrenskosten in der Höhe von Fr. 1'870.--, bestehend aus den Kosten des Vermittlungsverfahrens von Fr. 200.--, Untersuchungskosten von Fr. 170.-- und Gerichtskosten von Fr. 1'500.--.
B. Gegen diese Kostenverlegung reichte X._ beim Kantonsgericht Appenzell Innerrhoden Berufung ein (sinngemäss) mit den Anträgen, die Verfahrenskosten seien im Umfang von Fr. 1'770.-- A._, eventualiter dem Staat aufzuerlegen.
Mit Urteil vom 28. August 2007 wies das Kantonsgericht die Berufung ab.
C. X._ führt Beschwerde in Strafsachen mit den Anträgen, das Urteil des Kantonsgerichts Appenzell Innerrhoden vom 28. August 2007 sei aufzuheben und die Verfahrenskosten seien im Betrag von Fr. 1'770.--, bestehend aus der Hälfte der Vermittlungskosten von Fr. 100.--, Untersuchungskosten von Fr. 170.-- sowie Gerichtskosten von Fr. 1'500.--, A._, eventualiter dem Staat aufzuerlegen, unter Kosten- und Entschädigungsfolgen.
Die Staatsanwaltschaft beantragt die Abweisung der Beschwerde, soweit darauf einzutreten sei. Das Kantonsgericht hat auf Gegenbemerkungen zur Beschwerde verzichtet. A._ hat sich innert Frist nicht vernehmen lassen.

Erwägungen:
1. Auf die Beschwerde ist grundsätzlich einzutreten, da sie unter Einhaltung der gesetzlichen Frist (<ref-law>) und Form (<ref-law>) von der mit ihren Anträgen unterliegenden beschuldigten Person (Art. 81 Abs. 1 lit. b Ziff. 1 BGG) eingereicht wurde und sich gegen einen von einer letzten kantonalen Instanz (<ref-law>) gefällten Endentscheid (Art. 90 und 95 BGG) in Strafsachen (<ref-law>) richtet.
Soweit der Beschwerdeführer jedoch eine Verletzung der Unschuldsvermutung rügt, weil die Ausführungen im erstinstanzlichen Urteil den Eindruck erweckten, das Gericht halte ihn trotz des Freispruchs in strafrechtlicher Hinsicht einer Beschimpfung für schuldig (Beschwerde S. 3), kann auf die Beschwerde nicht eingetreten werden. Der Beschwerdeführer ficht damit einzig die Begründung des erstinstanzlichen Urteils an. Anfechtungsobjekt aber bildet das Urteil der Vorinstanz, und der Beschwerdeführer bringt insoweit zu Recht nicht vor, dieses beinhalte einen strafrechtlich relevanten Vorwurf.
2. 2.1 Die Vorinstanz hat im Kostenpunkt erwogen, Verfahren bei Ehrverletzungen würden im Kanton Appenzell Innerrhoden mit einem schriftlichen Antrag der geschädigten Person beim Vermittler eingeleitet. Ehrverletzungsklagen dürften durch die Gerichte mithin erst behandelt werden, wenn ein Versöhnungsversuch stattgefunden habe und erfolglos geblieben sei. Das Fernbleiben des Beschwerdeführers von den beiden anberaumten Vermittlungsvorständen habe das Verfahren verlängert und eine gütliche Lösung a priori verunmöglicht. Das kantonale Prozessrecht statuiere zwar keine obligatorische Pflicht zur Teilnahme an Versöhnungsversuchen, aufgrund der kantonalen Gepflogenheiten sei es aber nicht nur üblich, sondern eine langjährige ungeschriebene Norm und Praxis, einer amtlichen Vorladung zum Vermittlungsvorstand Folge zu leisten. Mit seinem Nichterscheinen habe der Beschwerdeführer gegen diese ungeschriebene Norm verstossen, sich damit leichtfertig bzw. verwerflich und folglich zivilrechtlich vorwerfbar verhalten. Ihm sei mithin ein so genanntes prozessuales Verschulden im weiteren Sinne anzulasten. Hätte der Beschwerdeführer an den Versöhnungsversuchen teilgenommen, hätte die Möglichkeit einer Einigung bestanden, weshalb er die entstandenen Verfahrenskosten auch kausal verursacht habe und ihm diese von der ersten Instanz zu Recht auferlegt worden seien (angefochtenes Urteil S. 6).
2.2 Der Beschwerdeführer rügt eine Verletzung von Bundesrecht im Sinne von <ref-law>. Er macht zusammenfassend eine qualifiziert falsche Anwendung kantonalen Prozessrechts (<ref-law>/Appenzell I.Rh.) geltend.
Er bringt insbesondere vor, eine Kostenauflage trotz Freispruchs würde bedingen, dass er in zivilrechtlich vorwerfbarer Weise klar gegen eine geschriebene oder ungeschriebene Verhaltensnorm des schweizerischen Rechts verstossen und dadurch die Einleitung des Verfahrens verursacht oder dessen Durchführung erschwert hätte. Dies sei aber mitnichten der Fall. Im Prozessrecht des Kantons Appenzell Innerrhoden werde keine Pflicht zur Teilnahme an Vermittlungsvorständen statuiert. Wenn sich die Vorinstanz insoweit lediglich auf eine angeblich langjährige Praxis und Gepflogenheit berufe, könne es sich nur um eine moralische oder ethische Pflicht handeln, deren Verletzung für eine Kostenüberbindung eben gerade nicht genüge. Für ihn sei von Beginn weg klar gewesen, dass er sich nicht strafbar gemacht habe, weshalb er bei den Vermittlungsvorständen auch nicht von seinem Standpunkt abgerückt wäre. Durch seine Nichtteilnahme im Vorverfahren habe er das Hauptverfahren somit weder erschwert noch verlängert, d.h. die nachfolgenden Kosten auch nicht kausal verursacht. Ein allfälliges prozessuales Verschulden könnte sich mithin einzig auf sein Nichterscheinen am ersten Vermittlungsvorstand beziehen, und nur in diesem Umfang komme denn auch eine Kostenauflage überhaupt in Frage. Als Fazit sei festzuhalten, dass bereits die Voraussetzung eines prozessualen Verschuldens nicht erfüllt sei. Jedenfalls aber fehle es an dem für eine Kostenüberwälzung erforderlichen Kausalzusammenhang zwischen seinem Verhalten und den aufgelaufenen Kosten (Beschwerde S. 3 ff.).
2.3 Nach ständiger bundesgerichtlicher Rechtsprechung ist es mit der in Art. 32 Abs. 1 und Art. 6 Ziff. 2 EMRK verankerten Unschuldsvermutung vereinbar, einem nicht verurteilten Beschuldigten die Kosten zu überbinden, wenn er in zivilrechtlich vorwerfbarer Weise - d.h. im Sinne einer analogen Anwendung der sich aus <ref-law> ergebenden Grundsätze - gegen eine geschriebene oder ungeschriebene Verhaltensnorm, die aus der gesamten schweizerischen Rechtsordnung stammen kann, klar verstossen und dadurch das Strafverfahren veranlasst oder dessen Durchführung erschwert hat (<ref-ruling> E. 3b, 119 Ia 332 E. 1b, 116 Ia 162 E. 2f). Dem Angeschuldigten muss mithin ein prozessuales Verschulden angelastet werden können. Ein prozessuales Verschulden im weiteren Sinn liegt vor, wenn der Beschuldigte durch sein rechtswidriges und schuldhaftes Vorgehen die Einleitung des Strafverfahrens veranlasst hat. Die Kostenauflage ist dabei nur zulässig, soweit zwischen dem ausserstrafrechtlichen Verhalten und den verursachten Kosten ein Kausalzusammenhang besteht. Von einem prozessualen Verschulden im engeren Sinn wird demgegenüber gesprochen, wenn der Angeschuldigte infolge prozesswidriger Handlungen den Fortgang des Prozesses hinausgezögert oder den Behörden unnötige Mehrarbeiten und Kosten verursacht hat (Robert Hauser/Erhard Schweri/Karl Hartmann, Schweizerisches Strafprozessrecht, 6. Aufl., Basel/Genf/München 2005, § 108 N. 20 ff.).
Ob der Beschuldigte in zivilrechtlich vorwerfbarer Weise gegen eine geschriebene oder ungeschriebene Verhaltensnorm klar verstossen und durch sein Benehmen das Strafverfahren veranlasst oder dessen Durchführung erschwert hat, untersucht das Bundesgericht nur unter dem Gesichtswinkel der Willkür. Insofern steht nicht mehr der Schutzbereich der Bestimmungen von <ref-law> und Art. 6 Ziff. 2 EMRK in Frage, welche den guten Ruf des Angeschuldigten gegen den direkten oder indirekten Vorwurf einer strafrechtlichen Schuld schützen wollen. Die Voraussetzungen der Kostenauflage werden vielmehr durch die Vorschriften der kantonalen Strafprozessordnungen umschrieben; insoweit greift ausschliesslich <ref-law> Platz, wonach die betreffenden Gesetzesbestimmungen nicht willkürlich angewendet werden dürfen. Diese Grundsätze gelten über die Auferlegung von Kosten hinaus auch für die Frage der Verweigerung einer Entschädigung (vgl. zum Ganzen Urteile des Bundesgerichts 6B_724/2007 vom 11. Januar 2008, E. 2.5; 1P.65/2005 vom 22. Juni 2005, E. 3.1).
Willkür in der Rechtsanwendung liegt dabei einzig vor, wenn der angefochtene kantonale Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Das Bundesgericht hebt einen Entscheid nur auf, wenn nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist. Dass eine andere Lösung ebenfalls als vertretbar oder gar zutreffender erscheint, genügt nicht (<ref-ruling> E. 3.1; <ref-ruling> E. 5.1, 175 E. 1.2).
2.4 Ehrverletzungsprozesse gelten im Kanton Appenzell Innerrhoden als prinzipale Privatstrafklageverfahren, in welchen wegen des betont persönlichen Charakters der verletzten Rechtsgüter ein öffentliches Interesse an der Ahndung fehlt und der Staat deshalb die Verfolgung dem Geschädigten überlasst (vgl. hierzu Niklaus Schmid, Strafprozessrecht, 4. Aufl., Zürich/Basel/Genf 2004, N. 881 ff.; Niklaus Oberholzer, Grundzüge des Strafprozessrechts, 2. Aufl., Bern 2005, S. 627 ff.).
-:-
Gemäss <ref-law>/Appenzell I.Rh. sind Ehrverletzungsverfahren mit einem schriftlichen Antrag des Geschädigten beim Vermittler einzuleiten (Abs. 1). Dieser versucht, die Parteien zu versöhnen. Misslingt der Versuch und liegt innert zehn Tagen kein schriftlicher Rückzug des Antrags vor, stellt der Vermittler dem Antragsteller den Leitschein aus (Abs. 2). Zur Eröffnung einer Strafuntersuchung ist der Leitschein der Staatsanwaltschaft einzureichen (Abs. 3). Die Untersuchung endet mit der Einstellung des Verfahrens, der Überweisung an das Gericht oder mit Strafbefehl (<ref-law>/Appenzell I.Rh.).
Die Rolle des Strafklägers ist jener des Klägers im Zivilprozessrecht angenähert. Nach <ref-law>/Appenzell I.Rh. trägt daher der Geschädigte die Kosten, wenn das Verfahren schliesslich durch Freispruch abgeschlossen wird, wobei von dieser Regel abgewichen werden darf, wenn besondere Umstände es rechtfertigen, wie leichtfertiges oder verwerfliches Verhalten des Beschuldigten.
2.5 Vorliegend ist fraglich, ob der Beschwerdeführer mit seinem Ausbleiben im Vorverfahren in zivilrechtlich vorwerfbarer Weise gegen eine ungeschriebene Verhaltensnorm klar verstossen hat. Letztlich braucht diese Frage aber nicht abschliessend beantwortet zu werden. Wie der Beschwerdeführer nämlich zutreffend geltend macht, hat er durch sein Fernbleiben von den Vermittlungsvorständen das Hauptverfahren weder erschwert noch verlängert und damit diese Kosten auch nicht kausal verursacht. Es ist ohne weiteres glaubhaft und legitim, dass er - da von seiner Unschuld überzeugt - auch bei einer allfälligen Teilnahme an den Versöhnungsversuchen nicht zu einer Einigung Hand geboten hätte und es daher ohnehin zum Verfahren vor dem Bezirksgericht gekommen wäre. Dass er sich aber im Hauptverfahren zivilrechtlich vorwerfbar verhalten hätte, wird dem Beschwerdeführer von der Vorinstanz nicht vorgeworfen.
Es liegen mit anderen Worten somit keine besonderen Umstände im Sinne von <ref-law>/Appenzell I.Rh. vor. Es ist deshalb weder willkürfrei begründbar noch im Ergebnis haltbar, dem Beschwerdeführer trotz Freispruchs die gesamten Verfahrenskosten zu überbinden. Es käme einzig allenfalls in Betracht, ihn aufgrund eines prozessualen Verschuldens zur Bezahlung der Kosten des ersten Vermittlungsvorstands zu verpflichten. Da er die Auferlegung dieser Kosten von Fr. 100.-- nicht angefochten hat, kann diese Frage jedoch offen gelassen werden.
Zusammenfassend ist somit festzuhalten, dass die Vorinstanz <ref-law>/Appenzell I.Rh. willkürlich angewendet hat, indem sie dem Beschwerdeführer sämtliche Verfahrenskosten auferlegt hat.
3. Aus diesen Gründen ist die Beschwerde gutzuheissen, soweit darauf einzutreten ist, der angefochtene Entscheid aufzuheben und die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Der Beschwerdegegnerin 2, welche keine Anträge gestellt hat, werden für das bundesgerichtliche Verfahren keine Kosten auferlegt. Es wird daher darauf verzichtet, Kosten zu erheben (Art. 66 Abs. 1 und 4 BGG). Der Kanton Appenzell Innerrhoden hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'000.-- zu entschädigen (<ref-law>).
In ihrem neuen Entscheid wird die Vorinstanz gestützt auf das kantonale Prozessrecht darüber zu befinden haben, ob die Kosten des kantonalen Verfahrens vom Staat oder von der Beschwerdegegnerin 2 zu tragen sind, und ob dem Beschwerdeführer für das kantonale Verfahren eine Parteientschädigung zusteht.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, soweit darauf einzutreten ist, das Urteil des Kantonsgerichts Appenzell Innerrhoden vom 28. August 2007 aufgehoben und die Sache zu neuer Entscheidung an die Vorinstanz zurückgewiesen.
2. Es werden keine Kosten erhoben.
3. Der Kanton Appenzell Innerrhoden hat dem Beschwerdeführer eine Parteientschädigung von Fr. 2'000.-- auszurichten.
4. Dieses Urteil wird den Parteien und dem Kantonsgericht Appenzell Innerrhoden, Abteilung Zivil- und Strafgericht, schriftlich mitgeteilt.
Lausanne, 7. Februar 2008
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Schneider Stohner