Sachverhalt:
A.
Im Rahmen nachbarschaftlicher Streitigkeiten sprach das Bezirksgericht Bülach A._ am 8. Dezember 2015 der Sachbeschädigung zum Nachteil von X._ schuldig. Während des vom Beschuldigten eingeleiteten Berufungsverfahrens zog X._ den Strafantrag anlässlich einer Parteivereinbarung zurück. Mit Beschluss vom 26. August 2016 stellte das Obergericht des Kantons Zürich das Strafverfahren ein, erklärte das erstinstanzliche Urteil für gegenstandslos und auferlegte X._ die gesamten Untersuchungs- und Verfahrenskosten.
B.
Mit Beschwerde in Strafsachen beantragt X._, die Kostenauflage an ihn sei aufzuheben.
Erwägungen:
1.
1.1. Der Beschwerdeführer rügt eine Verletzung von Art. 427 Abs. 2 StPO sowie seines Anspruchs auf rechtliches Gehör.
1.2.
1.2.1. Die Verlegung der Kosten folgt dem Grundsatz, wonach die Kosten trägt, wer sie verursacht. Wird das Verfahren eingestellt oder die beschuldigte Person freigesprochen, können bei Antragsdelikten die Verfahrenskosten deshalb grundsätzlich dem Privatkläger auferlegt werden, sofern er nicht nur Strafantrag gestellt, sondern aktiv Einfluss auf den Gang des Verfahrens genommen hat, und soweit nicht der Beschuldigte nach Art. 426 Abs. 2 StPO kostenpflichtig ist (Art. 427 Abs. 2 StPO). Eine andere gesetzliche Einschränkung der Kostenauflage an den Privatkläger gibt es nicht. Der Antragsteller, der als Privatkläger am Verfahren teilnimmt, soll grundsätzlich auch das volle Kostenrisiko tragen. Die Regelung ist aber dispositiver Natur. Das Gericht kann davon abweichen, wenn es die Sachlage rechtfertigt. Ihm kommt ein weites Ermessen zu, bei dessen Überprüfung das Bundesgericht Zurückhaltung übt. Es greift nur ein, wenn sich der Ermessensentscheid als offensichtlich unbillig oder in stossender Weise als ungerecht erweist (BGE 138 IV 248 E. 4.2.2 ff., E. 4.4.1; Urteil 6B_1114/2014 vom 6. Januar 2015 E. 3.2; je mit Hinweisen).
1.2.2. Die Kosten- und Entschädigungsfolgen im Rechtsmittelverfahren tragen die Parteien nach ihrem Obsiegen und Unterliegen (428 Abs. 1 erster Satz StPO). Ob eine Partei als obsiegend oder unterliegend gilt, hängt davon ab, in welchem Ausmass ihre vor Berufungsgericht gestellten Anträge gutgeheissen wurden. Stellt eine Partei, die kein Rechtsmittel eingelegt hat, keine Anträge, so kann sie weder obsiegen noch unterliegen und dadurch auch nicht kostenpflichtig werden. Zur Frage, wie die Kosten bei Gegenstandslosigkeit zu verteilen sind, äussert sich Art. 428 Abs. 1 StPO nicht. Tritt diese während der Hängigkeit des Rechtsmittels ein, ist für die Beurteilung der Kostenfolgen in erster Linie auf den mutmasslichen Prozessausgang abzustellen. Lässt sich dieser nicht feststellen, so ist nach den allgemeinen prozessrechtlichen Kriterien jene Partei kostenpflichtig, die das Verfahren veranlasst hat oder in welcher die Gründe eingetreten sind, die zur Gegenstandslosigkeit des Prozesses geführt haben. Angesichts der verschiedenen, möglichen Konstellationen erscheint die analoge Anwendung des in Art. 107 Abs. 1 lit. e ZPO vorgesehenen Ermessensenscheids auch für den Strafprozess gerechtfertigt (BGE 138 IV 248 E. 5.3; THOMAS DOMEISEN, in: Basler Kommentar, Schweizerische Strafprozessordnung, 2. Aufl. 2014, N. 5 f., N. 14 zu Art. 428 StPO; YVONA GRIESSER, in: Kommentar zur Schweizerischen Strafprozessordnung, Donatsch/Hansjakob/Lieber [Hrsg.], 2. Aufl. 2014, N. 1 ff. zu Art. 428 StPO).
1.3.
1.3.1. Es ist unbestritten, dass das Verfahren gegen den Beschuldigten eingestellt wurde und dass dieser die Vorwürfe bestritten hatte. Die Vorinstanz begründet unter Verweis auf fehlende Anzeichen nachvollziehbar, wenn auch nur kurz, weshalb sie annimmt, dieser habe weder die Einleitung des Verfahrens rechtswidrig oder schuldhaft bewirkt noch dessen Durchführung erschwert. Ihr ist zuzustimmen, dass eine Kostenauflage an den Beschuldigten unter diesen Umständen gegen die Unschuldsvermutung verstiesse (Art. 426 Abs. 2 StPO; Urteil 6B_792/2016 vom 18. April 2017 E. 3.2 mit Hinweisen). Der Einwand des Beschwerdeführers, wonach die Vorinstanz nicht darlege, weshalb sie anders als das Erstgericht davon ausgehe, der Beschuldigte habe weder rechtswidrig noch schuldhaft gehandelt, geht an der Sache vorbei. Damit verkennt er, dass es für die Kostenauflage nach Art. 426 Abs. 2 StPO nicht auf die Rechtswidrigkeit der beanzeigten Tat und die diesbezügliche Schuld des Täters ankommt. Entscheidend ist, ob diesem mit Bezug auf die Einleitung und Durchführung des Verfahrens ein Vorwurf im Sinne einer analogen Anwendung der sich aus Art. 41 OR ergebenden Grundsätze gemacht werden kann. Solches behauptet der Beschwerdeführer nicht. Angesichts des Schuldspruchs brauchte sich die erste Instanz zudem zur zivilrechtlichen Vorwerfbarkeit des Verhaltens des Beschuldigten nicht zu äussern, während die Vorinstanz infolge Wegfalls von Prozessvoraussetzungen dessen Strafbarkeit nicht beurteilen musste. Es besteht insoweit kein Widerspruch zwischen den Entscheiden und keine Verletzung der Begründungspflicht.
Dem Beschwerdeführer kann sodann nicht gefolgt werden, wenn er geltend macht, eine Kostenauflage an ihn komme nur bei mutwilliger oder grobfahrlässiger Einleitung des Verfahrens in Frage. Diese Einschränkung gilt nach dem klaren Wortlaut von Art. 427 Abs. 2 StPO und dem Willen des Gesetzgebers nur für den Strafantragsteller (vgl. oben E. 1.2.1). Der Beschwerdeführer konstituierte sich hingegen als Privatkläger im Strafpunkt und nahm bis zum Abschluss des erstinstanzlichen Verfahrens aktiv daran teil. Die Kostenauflage an ihn verletzt deshalb kein Bundesrecht. Auch musste sich die Vorinstanz zur Mutwilligkeit resp. Grobfahrlässigkeit der Verfahrenseinleitung durch den Beschwerdeführer nicht äussern. Er macht ferner nicht geltend, der Rückzug des Strafantrags sei im Rahmen eines durch die Behörden vermittelten Vergleichs erfolgt. Die Vorinstanz verletzt das ihr zustehende Ermessen nicht, wenn sie von einer Kostenauflage an den Bund oder den Kanton nach Art. 427 Abs. 3 StPO absieht und die Kosten dem Beschwerdeführer auferlegt.
1.3.2. Hinsichtlich des Rechtsmittelverfahrens ist der Beschuldigte ebenfalls als obsiegend zu betrachten, da das Verfahren gegen ihn eingestellt wurde. Zwar sind die Voraussetzungen hierfür erst im Rechtsmittelverfahren geschaffen worden (vgl. Art. 428 Abs. 2 lit. a StPO). Jedoch darf er nicht im Kostenpunkt dafür bestraft werden, dass das in guten Treuen erhobene Rechtsmittel infolge nachträglicher Änderung der Umstände, die ihm nicht anzulasten sind, abzuschreiben ist (THOMAS DOMEISEN, a.a.O., N. 14 zu Art. 428 StPO). Die Vorinstanz auferlegt dem Beschuldigten daher (auch) insoweit zu Recht keine Verfahrenskosten.
Dem Beschwerdeführer ist zuzustimmen, dass er weder das Berufungsverfahren veranlasst noch insoweit Anträge gestellt hat. Entgegen seiner Auffassung hat aber gleichwohl - entscheidenden - Einfluss auf den Gang des Verfahrens genommen und dessen Abschreibung mit dem Rückzug des Strafantrags verursacht. Die Gegenstandslosigkeit ist mithin nicht einfach aufgrund äusserer, von niemandem zu vertretender Umstände eingetreten. Die Vorinstanz verletzt kein Bundesrecht, wenn sie dem Beschwerdeführer, dem Verursacherprinzip folgend (vgl. oben E. 1.2.1), auch diese Kosten auferlegt. Daran ändert nichts, dass er ohne den Rückzug des Strafantrags bei summarischer Prüfung der Sach- und Rechtslage vor Berufungsgericht wohl obsiegt hätte. Der Vorinstanz ist zuzustimmen, dass dem anwaltlich vertretenen Beschwerdeführer die Kostenfolgen eines solchen Rückzugs bewusst sein mussten. Davon, dass diese angesichts des erstinstanzlichen Obsiegens und der Nichtbeteiligung am Berufungsverfahren für ihn - trotz des Rückzugs des Strafantrages - in keiner Weise vorhersehbar gewesen wären, kann keine Rede sein. Auch war die Vorinstanz nicht gehalten, den Beschwerdeführer zur beabsichtigten Kostenauflage anzuhören. Art. 29 Abs. 2 BV verleiht keinen Anspruch, zu der vom Gericht beabsichtigten Entschädigungs- resp. Kostenregelung vorweg Stellung zu nehmen (Urteil 6B_74/2016 vom 19. August 2016 E. 1.3.2 mit Hinweisen).
2.
Die Beschwerde ist abzuweisen. Bei diesem Ausgang des Verfahrens hat der Beschwerdeführer die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Strafkammer, schriftlich mitgeteilt.
Lausanne, 10. Juli 2017
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Denys
Der Gerichtsschreiber: Matt