Erwägungen:
1.
Das Bezirksgericht Zürich sprach X._ am 5. Dezember 2014 vom Vorwurf der mehrfachen Verletzung des Amtsgeheimnisses frei. Dagegen erhoben sowohl die Staatsanwaltschaft als auch A._ als Privatkläger Berufung. X._ erhob Anschlussberufung und beantragte gleichzeitig, die Frage der Verwertbarkeit der Beweismittel sei als Vorfrage im schriftlichen Verfahren zu behandeln und zu entscheiden. Am 1. Dezember 2015 beschloss das Obergericht des Kantons Zürich, dass die Beweismittel nicht verwertbar seien. Nachdem das Bundesgericht eine gegen den entsprechenden Beschluss erhobene Beschwerde abgewiesen hatte, zogen sowohl die Staatsanwaltschaft als auch A._ ihre Berufungen zurück. Das Obergericht schrieb daher das Verfahren am 14. März 2017 ab. Es setzte die zweitinstanzliche Gerichtsgebühr auf Fr. 2'500.-- fest, welche es zur Hälfte A._ auferlegte und zur Hälfte auf die Gerichtskasse nahm. Es sprach X._ insgesamt Fr. 10'000.-- als Prozessentschädigung zu, wovon Fr. 5'000.-- zulasten der Gerichtskasse und Fr. 5'000.-- zulasten von A._.
2.
A._ führt Beschwerde in Strafsachen. Er beantragt, er sei von der Bezahlung der Hälfte der Gerichtskosten und der Hälfte der Prozessentschädigung zu befreien. Eventualiter sei die Sache zu neuer Beurteilung an die Vorinstanz zurückzuweisen. Die Oberstaatsanwaltschaft des Kantons Zürich, das Obergericht und X._ verzichten auf eine Vernehmlassung.
3.
Der Beschwerdeführer macht geltend, er habe sich am Strafverfahren nur minimal beteiligt und sich fast ausschliesslich den Anträgen und Ausführungen der Staatsanwaltschaft angeschlossen. Zudem habe er eine Berufungserklärung mit einer sehr knappen Begründung eingereicht. Indem er an einigen von der Staatsanwaltschaft durchgeführten Einvernahmen von Beschuldigten und Auskunftspersonen teilgenommen habe, habe er lediglich seine Teilnahmerechte wahrgenommen und keine Kosten verursacht oder das Verfahren verzögert. Dafür, dass die Staatsanwaltschaft die Beweise unrechtmässig erhoben habe, könne er nichts. Es sei weder nachvollziehbar noch verhältnismässig, wenn das Obergericht ihn jetzt mit der Auferlegung von Fr. 6'250.-- bestrafe. Das Strafverfahren wäre auch ohne ihn durchgeführt worden. Durch diese willkürliche Kostenauferlegung werde wahrscheinlich versucht, Staatskosten im Kanton Zürich zu sparen. Das Obergericht nehme sich nicht einmal die Zeit, die Kostenverteilung zu substanziieren, weshalb es ihm kaum möglich sei, zu prüfen, wie diese stattgefunden habe.
4.
4.1. Gemäss <ref-law> tragen die Parteien die Kosten des Rechtsmittelverfahrens nach Massgabe ihres Obsiegens oder Unterliegens. Als unterliegend gilt auch die Partei, auf deren Rechtsmittel nicht eingetreten wird oder die das Rechtsmittel zurückzieht.
Gegen das erstinstanzliche Urteil erhoben sowohl die Staatsanwaltschaft als auch der Beschwerdeführer Berufung. Die Anträge der beiden Rechtsmittel stimmen weitgehend überein. Durch den Rückzug ihrer Berufungen unterliegen der Beschwerdeführer und die Staatsanwaltschaft im selben Umfang, womit es <ref-law> entspricht, wenn die Vorinstanz dem Beschwerdeführer die Hälfte der Gerichtskosten auferlegt.
4.2. Ansprüche auf Entschädigung und Genugtuung im Rechtsmittelverfahren richten sich nach den Artikeln 429-434 der Strafprozessordnung (<ref-law>). Gemäss <ref-law> hat die obsiegende beschuldigte Person gegenüber der Privatklägerschaft Anspruch auf angemessene Entschädigung für die durch die Anträge zum Zivilpunkt verursachten Aufwendungen (Abs. 1). Bei Antragsdelikten können die Verteidigungskosten der Privatklägerschaft auch dann auferlegt werden, wenn die beschuldigte Person im Schuldpunkt obsiegt (Abs. 2). Überdies trägt die Privatklägerschaft die Kosten der Verteidigung, wenn ein vollständiges gerichtliches Verfahren stattfand und der erstinstanzliche Entscheid einzig von der Privatklägerschaft weitergezogen wird (<ref-ruling> E. 1.2).
Beim Tatbestand der Verletzung des Amtsgeheimnisses (<ref-law>) handelt es sich um ein Offizialdelikt. Die Aufwendungen des Verteidigers bis zum Rückzug der Berufung bezogen sich einzig auf die Frage der Verwertbarkeit der Beweismittel, mithin auf den Schuldpunkt. Zudem wurde das erstinstanzliche Urteil nicht ausschliesslich vom Beschwerdeführer, sondern auch von der Staatsanwaltschaft angefochten. Die Kosten der Verteidigung dürfen demnach nicht dem Beschwerdeführer auferlegt werden.
5.
Die Beschwerde ist teilweise gutzuheissen. Der angefochtene Beschluss ist aufzuheben und die Sache zu neuer Entscheidung an die Vorinstanz zurückzuweisen.
Der Beschwerdeführer trägt die Kosten des Verfahrens im Umfang seines Unterliegens (<ref-law>). Soweit er obsiegt, hat er Anspruch auf eine angemessene Parteientschädigung (<ref-law>). Die Beschwerdegegnerin 2 stellte im bundesgerichtlichen Verfahren keine Anträge, weshalb sie keine Kosten zu tragen hat und keinen Anspruch auf Entschädigung hat. Ebenso wenig hat der Kanton einen Anspruch auf Entschädigung (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird teilweise gutgeheissen. Der Beschluss des Obergerichts des Kantons Zürich vom 14. März 2017 wird aufgehoben und die Sache zu neuer Entscheidung an die Vorinstanz zurückgewiesen.
2.
Dem Beschwerdeführer werden Gerichtskosten von Fr. 1'500.-- auferlegt.
3.
Der Kanton Zürich hat dem Beschwerdeführer eine Parteientschädigung von Fr. 1'500.-- zu bezahlen.
4.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Strafkammer, schriftlich mitgeteilt.
Lausanne, 20. Dezember 2017
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Denys
Der Gerichtsschreiber: Moses