Sachverhalt:
A.
Das Kreisgericht St. Gallen verurteilte X._ am 15. September 2011 wegen Sachbeschädigung, Landfriedensbruchs (Sachverhalt St. Gallen) sowie Gewalt und Drohung gegen Behörden und Beamte zu einer bedingten Geldstrafe von 210 Tagessätzen zu Fr. 30.--. Vom Vorwurf des Landfriedensbruchs im Sachverhalt Wil und der Widerhandlung gegen das Sprengstoffgesetz sprach es ihn frei. Die Verfahrenskosten (ausgenommen die Kosten der amtlichen Verteidigung) auferlegte es je zur Hälfte X._ bzw. dem Staat (Dispositiv-Ziff. 7). Es entschädigte die amtliche Verteidigerin, Rechtsanwältin Y._, mit Fr. 13'090.-- und verpflichtete X._, die Entschädigung im Betrag von Fr. 6'090.-- an den Staat zurückzuzahlen, sobald es seine wirtschaftlichen Verhältnisse erlauben (Dispositiv-Ziff. 8).
B.
B.a. Die Staatsanwaltschaft des Kantons St. Gallen legte gegen die Höhe der Entschädigung der amtlichen Verteidigerin beim Kantonsgericht St. Gallen Berufung ein. Gleichzeitig erhob sie vorsorglich Beschwerde bei der Anklagekammer des Kantons St. Gallen. Sie beantragte in beiden Verfahren, Ziff. 8 des Entscheids des Kreisgerichts aufzuheben, die Entschädigung der amtlichen Verteidigerin auf max. Fr. 6'000.-- zuzüglich Barauslagen festzulegen und X._ zu verpflichten, max. Fr. 2'670.-- an den Staat zurückzuzahlen, sobald es seine wirtschaftlichen Verhältnisse erlauben. Im Berufungsverfahren verlangte sie zudem, Ziff. 7 des angefochtenen Entscheids sei in der Position amtliche Verteidigung entsprechend anzupassen.
B.b. Das Kantonsgericht trat am 13. September 2012 auf die Berufung nicht ein. Die Anklagekammer erliess am 26. September 2012 ebenfalls einen Nichteintretensentscheid.
C.
Die Staatsanwaltschaft führt gegen beide Entscheide Beschwerde in Strafsachen mit dem Antrag, das Kantonsgericht bzw. die Anklagekammer anzuweisen, in der Sache materiell zu entscheiden.
D.
Das Kantonsgericht und die Anklagekammer verzichteten auf eine Stellungnahme. Rechtsanwältin Y._ liess sich nicht vernehmen.

Erwägungen:
1.
Die Verfahren 6B_611/2012 und 6B_693/2012 sind zu vereinigen, da sie die gleiche Sache betreffen und identische Rechtsfragen aufwerfen.
2.
Zur Beschwerde in Strafsachen ist nach <ref-law> berechtigt, wer vor der Vorinstanz am Verfahren teilgenommen hat oder keine Möglichkeit zur Teilnahme erhalten hat (lit. a) und ein rechtlich geschütztes Interesse an der Aufhebung oder Änderung des angefochtenen Entscheids hat (lit. b). Die Staatsanwaltschaft hat ein rechtlich geschütztes Interesse (Art. 81 Abs. 1 lit. b Ziff. 3 BGG). Ihr steht das Beschwerderecht in Strafsachen ohne Einschränkung zu (<ref-ruling> E. 1.4). Die Staatsanwaltschaft kann namentlich auch die Höhe der Entschädigung für die private Verteidigung im Sinne von <ref-law> anfechten (Urteil 6B_168/2012 vom 27. August 2012 E. 2 und 3). Gleich zu entscheiden ist, wenn es um die Entschädigung des amtlichen Verteidigers geht. Die Beschwerdeführerin weist zutreffend darauf hin, dass die Interessen des amtlichen Verteidigers bei der Festsetzung des Honorars denjenigen des Verurteilten widersprechen. Der Verurteilte, der die Verteidigerentschädigung bei günstigen wirtschaftlichen Verhältnissen zurückzahlen muss, ist an einer tiefen Entschädigung interessiert, während der Verteidiger einen hohen Betrag will. Dies rechtfertigt die Rechtsmittellegitimation der Staatsanwaltschaft.
3.
3.1. Das Kantonsgericht stellt sich auf den Standpunkt, die Festsetzung der Höhe des Honorars für die amtliche Verteidigung bilde nicht Bestandteil des Urteils. Dieser Entscheid ergehe in Form eines Beschlusses und unterliege gemäss <ref-law> der Beschwerde. Ob die Staatsanwaltschaft zur Anfechtung des Beschlusses mittels Beschwerde legitimiert sei, falle in die Kompetenz der Beschwerdeinstanz. Aus der Nichterwähnung der Staatsanwaltschaft in <ref-law> als Beschwerdeberechtigte könne nicht geschlossen werden, sie sei zur Berufung legitimiert. Stünde gegen den Entscheid über die Entschädigung des amtlichen Verteidigers sowohl die Berufung an das Kantonsgericht als auch die Beschwerde an die Anklagekammer offen, könnte dies zur widersinnigen Folge führen, dass die eine Instanz das Honorar der amtlichen Verteidigung erhöhe, während es die andere reduziere.
Welchen Anteil der Entschädigung der amtlichen Verteidigung die beschuldigte Person dem Kanton zurückbezahlen müsse, sobald es ihre wirtschaftlichen Verhältnisse erlauben, bestimme sich einerseits nach der Höhe der Entschädigung, andererseits nach dem Umfang des der beschuldigten Person auferlegten Anteils an den Verfahrenskosten. Nur Letzteres werde im Kostenentscheid, der Teil des (materiellen) Urteils bilde, festgelegt und könne mit Berufung angefochten werden. Ziff. 7 des Entscheids des Kreisgerichts betreffend die Aufteilung der Verfahrenskosten sei nicht angefochten. Die Anpassung der Position "amtliche Verteidigung" werde in der Berufungserklärung nur verlangt, sofern die Entschädigung der amtlichen Verteidigerin neu bemessen werde.
3.2. Der Präsident der Anklagekammer ersuchte das Präsidium des Kantonsgerichts mit Schreiben vom 11. Juni 2012 darum, sich dahin gehend zu einigen, dass die Festsetzung der Entschädigung für die amtliche Verteidigung der Berufung und nicht der Beschwerde unterliegt (Verfahren 6B_611/2012 act. 2, Beilage 4). Das Kantonsgericht liess dieses Schreiben vorerst unbeantwortet und stellte der Anklagekammer am 14. September 2012 ihren Nichteintretensentscheid zu. Im Entscheid vom 26. September 2012 argumentiert die Anklagekammer, die Staatsanwaltschaft könne nach dem klaren und unmissverständlichen Wortlaut von <ref-law> gegen die Festsetzung der Entschädigung der amtlichen Verteidigung nicht Beschwerde führen. Dies erscheine folgerichtig, da es nicht um die Durchsetzung des Strafanspruchs gehe. <ref-law> gehe <ref-law> als lex specialis vor.
4.
Gegen die Höhe der Entschädigung für die amtliche Verteidigung ist die Staatsanwaltschaft zur Beschwerde in Strafsachen legitimiert (oben E. 2). Entsprechend muss ihr auch der Rechtsmittelweg im Kanton offen stehen (vgl. <ref-law>). Die Rechtsmittellegitimation der Staatsanwaltschaft gemäss <ref-law> bezieht sich auf alle Punkte des fraglichen Entscheids, mit Ausnahme des Zivilpunkts ( NIKLAUS SCHMID, Schweizerische Strafprozessordnung, Praxiskommentar, 2009, N. 2 zu <ref-law>; ähnlich MARTIN ZIEGLER, in: Basler Kommentar, Schweizerische Strafprozessordnung, 2011, N. 3 zu <ref-law>; RICHARD CALAME, in: Commentaire romand, Code de procédure pénale suisse, 2011, N. 5 zu <ref-law>). Die Staatsanwaltschaft kann ein Rechtsmittel zugunsten oder zuungunsten der beschuldigten oder verurteilten Person ergreifen (<ref-law>). Zu prüfen bleibt damit lediglich, ob sie gegen die Höhe der Entschädigung für die amtliche Verteidigung Berufung (<ref-law>) oder Beschwerde (<ref-law>) erheben muss.
5.
5.1. Entscheide, in denen über Straf- und Zivilfragen materiell befunden wird, ergehen in Form eines Urteils (<ref-law>). Im Urteil ist auch über die Kosten- und Entschädigungsfolgen zu entscheiden (Art. 81 Abs. 3 lit. a und Abs. 4 lit. b; <ref-law>). Zu den Verfahrenskosten gehören u.a. die Auslagen für die amtliche Verteidigung und die unentgeltliche Verbeiständung (Art. 422 Abs. 1 und 2 lit. a StPO). <ref-law> sieht vor, dass das urteilende Gericht die Entschädigung des amtlichen Verteidigers am Ende des Verfahrens festsetzt. Gleiches gilt für das Honorar des unentgeltlichen Rechtsbeistands der Privatklägerschaft (Art. 138 Abs. 1 i.V.m. <ref-law>). Da die Auslagen für die amtliche Verbeiständung und die unentgeltliche Rechtspflege Bestandteil der Verfahrenskosten bilden, hat das Gericht darüber im Sachurteil zu befinden.
5.2. Gegen Urteile erstinstanzlicher Gerichte, mit denen das Verfahren ganz oder teilweise abgeschlossen wurde, können die Staatsanwaltschaft und die übrigen Parteien gemäss Art. 398 Abs. 1 i.V.m. Art. 381 f. StPO Berufung erklären. Dies gilt auch, wenn ausschliesslich Nebenfolgen des Urteils oder die Kosten-, Entschädigungs- und Genugtuungsfolgen streitig sind (Art. 399 Abs. 4 lit. e und f StPO; vgl. auch <ref-law>). Die Beschwerde ist im Vergleich zur Berufung subsidiär (Art. 20 Abs. 1 und <ref-law>; Botschaft vom 21. Dezember 2005 zur Vereinheitlichung des Strafprozessrechts, BBl 2006 1312). Die Staatsanwaltschaft und die anderen Parteien, die (bei günstigen wirtschaftlichen Verhältnissen) für die Verfahrenskosten aufzukommen haben, müssen die Reduktion der Entschädigung für die amtliche Verteidigung daher im Berufungsverfahren verlangen.
Der amtliche Verteidiger und der unentgeltliche Rechtsbeistand der Privatklägerschaft sind nicht Verfahrensparteien (<ref-law>). Ihre Rechtsmittellegitimation hinsichtlich der Festsetzung des Honorars ergibt sich nicht aus <ref-law>, sondern aus der besonderen Regelung in <ref-law> bzw. Art. 138 Abs. 1 i.V.m. <ref-law>. Danach steht dem amtlichen Verteidiger und dem unentgeltlichen Rechtsbeistand der Privatklägerschaft gegen den Entschädigungsentscheid des erstinstanzlichen Gerichts im Sinne von <ref-law> lediglich die Beschwerde offen.
5.3. In der Lehre wird die Auffassung vertreten, das Honorar des amtlichen Verteidigers sei nicht im Urteil selbst, sondern nachträglich in einem separaten Entscheid festzusetzen. Dies ergebe sich indirekt aus <ref-law>. Da gegen den Entscheid über die Entschädigung des amtlichen Verteidigers die Beschwerde gegeben sei, müsse die Entschädigung Gegenstand einer Verfügung oder eines Beschlusses bilden. Dieses Vorgehen empfehle sich nicht zuletzt deshalb, weil bei Erlass des Endentscheids die vollständigen Kosten der amtlichen Verteidigung noch nicht feststünden, da beispielsweise noch eine Beratung betreffend Weiterzug des Entscheids anstehen könne (Niklaus Schmid, a.a.O., N. 4 zu <ref-law>; Niklaus Ruckstuhl, in: Basler Kommentar, Schweizerische Strafprozessordnung, 2011, N. 12 zu <ref-law>). Dessen ungeachtet sei die Tragung der Verteidigungskosten im Kostendispositiv des Urteils aufzuführen (Schmid, a.a.O., N. 2 zu <ref-law>). Damit geht eine Spaltung des Rechtsmittelwegs einher, da die Honorarfestsetzung mit Beschwerde, die Tragung der Verteidigerkosten jedoch mit der Hauptsache, d.h. in der Regel mit Berufung angefochten werden muss (Schmid, a.a.O., N. 5 zu <ref-law>; vgl. auch Ruckstuhl, a.a.O., N. 15 zu <ref-law>).
5.4. Gegen die erwähnte Lehrmeinung spricht, dass der Gesetzgeber den Entscheid über die Entschädigung des amtlichen Verteidigers ausdrücklich dem "urteilenden Gericht" zuwies. Die im bundesrätlichen Entwurf (Art. 133 Abs. 2 und Art. 136 Abs. 1 E-StPO) noch vorgesehene Regelung, wonach immer die Verfahrensleitung über die Entschädigung des amtlichen Verteidigers und des unentgeltlichen Rechtsbeistands der Privatklägerschaft zu befinden hat, fand im Parlament keine Zustimmung bzw. wurde vom Bundesrat anlässlich der parlamentarischen Beratungen gar als falsch bezeichnet (AB 2006 S 1014). Die Festsetzung des Honorars für die amtliche Verteidigung im Urteil entspricht der Praxis verschiedener Gerichte und namentlich auch des Bundesstrafgerichts, auf dessen Vorschlag hin das Parlament das urteilende Gericht für zuständig erklärte (AB 2006 S 1014). Dies ist auch insofern sinnvoll, als über die Kostentragung, welche Bestandteil des Urteils ist (vgl. Urteil 6B_112/2012 vom 5. Juli 2012 E. 1.3 betreffend die Kosten der amtlichen Verteidigung und der unentgeltlichen Rechtspflege der Privatklägerschaft), nur entschieden werden kann, wenn feststeht, welche Kosten überhaupt entstanden sind. Eine Festsetzung der Kostenauflage in Unkenntnis von Höhe und Ursache der betroffenen Kosten könnte im Einzelfall zu nicht sachgerechten Ergebnissen führen. Das Gericht wäre zudem gezwungen, die Tragung der Verteidigungskosten anteilsmässig oder in Prozenten zu regeln. Die Festlegung eines fixen Betrags (wie vorliegend Fr. 6'090.-- von Fr. 13'090.--, was sich bei Teilfreisprüchen aufdrängen kann) wäre ausgeschlossen.
Auch die Entschädigung für die private Verteidigung ist zwingend im Urteil festzusetzen (Urteil 6B_472/2012 vom 13. November 2012 E. 2.4). Nicht einzusehen ist, weshalb die Auslagen für die private Rechtsverbeiständung vor Ergehen des Urteils beziffert werden müssen (Art. 429 Abs. 2 und Art. 433 Abs. 2 StPO), dem amtlichen Verteidiger Gleiches aber nicht zumutbar sein soll.
Nicht praktikabel erscheint zudem die mit der vorgeschlagenen Lösung einhergehende Spaltung des Rechtsmittelwegs. Das Gesetz sieht zugunsten der Parteien für sämtliche Entscheide im Zusammenhang mit dem Strafurteil das einheitliche Rechtsmittel der Berufung vor. Das Gericht kann auf den Rechtsmittelweg nicht Einfluss nehmen, indem es über zwingende Nebenfolgen des Strafurteils in einem separaten Entscheid befindet.
5.5. Die Sichtweise, wonach die Staatsanwaltschaft und die übrigen Parteien gegen das Honorar für die amtliche Verteidigung Berufung erheben können, steht zudem im Einklang mit den Materialien. Der bundesrätliche Entwurf sah in Art. 436 E-StPO noch vor, dass der Entscheid über die Verfahrenskosten bei der Beschwerdeinstanz anzufechten ist, "wenn er nicht im Rahmen eines anderen Rechtsmittels geprüft werden kann". Gemäss der bundesrätlichen Botschaft bezog sich die in diesem Artikel vorgesehene Anfechtung der Verfahrenskosten auch auf den Betrag der Honorare der amtlichen Verteidigung (BBl 2006 1328). Art. 436 E-StPO wurde vom Parlament gestrichen. Dies wurde damit begründet, dass die im Entwurf vorgesehene beschränkte Rechtsmittellegitimation der Privatklägerschaft auf den Schuld- und Zivilpunkt (Art. 390 E-StPO) vom Parlament erweitert und der Privatklägerschaft - ausser hinsichtlich der ausgesprochenen Sanktion - die Rechtsmittellegitimation grundsätzlich zuerkannt wurde (<ref-law>), womit sich Art. 436 E-StPO als überflüssig erwies (AB 2006 S 1055 und 1059). Daraus ergibt sich unmissverständlich, dass die Höhe des Honorars des amtlichen Verteidigers mit dem Entscheid über die Verfahrenskosten angefochten werden kann und hierfür die allgemeinen Regeln von Art. 381 f. StPO betreffend die Rechtsmittellegitimation der Parteien gelten, wobei die Beschwerde subsidiär zur Berufung ist.
5.6. Im Ergebnis ist festzuhalten, dass der Gesetzgeber bewusst das urteilende Gericht für die Festsetzung der Entschädigung des amtlichen Verteidigers für zuständig erklärt. Dieser Entscheid - wie auch derjenige über die Entschädigung für die private Verteidigung und die weiteren Verfahrenskosten - ist Gegenstand des Urteils und kann von den Parteien mit Berufung angefochten werden, während sich der amtliche Verteidiger gegen die Höhe der Entschädigung mit Beschwerde zur Wehr setzen muss (<ref-law>).
Die Zuständigkeiten der beiden Rechtsmittelinstanzen können sich folglich überschneiden, wenn eine Partei Berufung erhebt und der amtliche Verteidiger die seines Erachtens zu tiefe Entschädigung mit Beschwerde anficht. Dabei ist allerdings zu beachten, dass die Berufung ein reformatorisches Rechtsmittel ist. Die Beschwerde ist im Vergleich zur Berufung subsidiär. Tritt das Berufungsgericht auf die Berufung ein, so fällt es ein neues Urteil, welches das erstinstanzliche Urteil ersetzt (<ref-law>). Damit entfällt das Anfechtungsobjekt des parallelen Beschwerdeverfahrens. Ist dies der Fall, sind die Einwände des amtlichen Verteidigers gegen die Höhe seiner Entschädigung jedoch mit der Berufung zu behandeln.
6.
Das Kreisgericht entschied über die Entschädigung der amtlichen Verteidigerin zu Recht mit dem materiellen Strafentscheid. Die Beschwerdeführerin hat die Änderung dieses Urteils im Berufungsverfahren zu verlangen (<ref-law>; Art. 398 Abs. 1 i.V.m. <ref-law>). Das Kantonsgericht trat auf die Berufung zu Unrecht nicht ein.
7.
Die Beschwerde gegen den Entscheid des Kantonsgerichts (Verfahren 6B_611/2012) ist gutzuheissen und diejenige gegen den Entscheid der Anklagekammer (Verfahren 6B_693/2012) abzuweisen. Es sind keine Gerichtskosten zu erheben (<ref-law>).
Den Beschwerdegegnern sind im bundesgerichtlichen Verfahren keine Auslagen entstanden, weshalb ihnen keine Parteientschädigung zuzusprechen ist.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde gegen den Entscheid des Kantonsgerichts St. Gallen vom 13. September 2012 wird gutgeheissen und die Angelegenheit zu neuer Entscheidung an das Kantonsgericht zurückgewiesen.
2.
Die Beschwerde gegen den Entscheid der Anklagekammer des Kantons St. Gallen vom 26. September 2012 wird abgewiesen.
3.
Es werden keine Kosten erhoben.
4.
Dieses Urteil wird den Parteien, dem Kantonsgericht St. Gallen, Strafkammer, und der Anklagekammer des Kantons St. Gallen schriftlich mitgeteilt.
Lausanne, 19. April 2013
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Die Gerichtsschreiberin: Unseld