Sachverhalt:
A.
Mit Strafbefehl vom 5. Februar 2018 verurteilte die Staatsanwaltschaft Zürich-Sihl A._ wegen unerlaubten Waffenbesitzes und Betreibens einer Indoor-Hanf-Anlage mit 30 Pflanzen zum Eigenkonsum (Vergehen gegen das Waffengesetz und Übertretung des Betäubungsmittelgesetzes) zu 30 Tagessätzen Geldstrafe bedingt sowie zu Fr. 800.-- Busse. Auf Einsprache des Beschuldigten hin erhöhte das Bezirksgericht Zürich am 26. Juni 2018 den Tagessatz der bedingten Geldstrafe von Fr. 100.-- auf Fr. 120.--, reduzierte hingegen die Busse auf Fr. 500.--, wobei es von einer mehrfachen Übertretung des Betäubungsmittelgesetzes ausging. Die dagegen erhobene Berufung von A._ wies das Obergericht des Kantons Zürich am 2. Mai 2019 ab.
B.
Mit Beschwerde in Strafsachen beim Bundesgericht beantragt A._, er sei freizusprechen, eventualiter sei die Sache an das Obergericht zurückzuweisen. Dieses sowie die Oberstaatsanwaltschaft des Kantons Zürich verzichten auf eine Stellungnahme.

Erwägungen:
1.
Der Beschwerdeführer rügt, die Verurteilungen basierten auf einer unzulässigen Hausdurchsuchung, welche zur Aufklärung einer Serie zerstochener Autopneus, aber ohne hinreichenden Tatverdacht gegen ihn durchgeführt worden sei. Die anlässlich der Durchsuchung sichergestellten Waffen und Betäubungsmittel dürften daher nicht verwertet werden.
1.1.
1.1.1. Gemäss <ref-law> können Zwangsmassnahmen (Art. 196-298 StPO) nur ergriffen werden, wenn sie gesetzlich vorgesehen sind, ein hinreichender Tatverdacht vorliegt, die damit angestrebten Ziele nicht durch mildere Massnahmen erreicht werden können und die Bedeutung der Straftat die Zwangsmassnahme rechtfertigt. Hinweise auf eine strafbare Handlung müssen erheblich und konkreter Natur sein, um einen hinreichenden Tatverdacht begründen zu können (vgl. <ref-ruling> E. 1.3.1; <ref-ruling> E. 3.2; je mit Hinweisen).
1.1.2. Nach <ref-law> dürfen Häuser, Wohnungen und andere nicht allgemein zugängliche Räume ohne Einwilligung der berechtigten Person durchsucht werden, wenn zu vermuten ist, dass in diesen Räumen u.a. Tatspuren oder zu beschlagnahmende Gegenstände oder Vermögenswerte vorhanden sind.
Bei der Durchsuchung zufällig entdeckte Gegenstände, die mit der abzuklärenden Straftat nicht in Zusammenhang stehen, aber auf eine andere Straftat hinweisen, werden gemäss <ref-law> sichergestellt. Zufallsfunde können ohne Einschränkungen Anlass zur Eröffnung eines neuen Strafverfahrens geben und in diesem als Beweismittel verwendet werden, soweit die ursprüngliche Massnahme rechtmässig war. War die Massnahme, die zum Zufallsfund führte, rechtswidrig, dürfen die Ergebnisse nur unter den Einschränkungen von Art. 141 Abs. 4 i.V.m. <ref-law> verwertet werden (Urteil 6B_24/25/26/27/28/2019 vom 3. Oktober 2019 E. 2.3 mit Hinweisen).
1.1.3. Beweise, die Strafbehörden in strafbarer Weise oder unter Verletzung von Gültigkeitsvorschriften erhoben haben, dürfen nicht verwertet werden, es sei denn, ihre Verwertung sei zur Aufklärung schwerer Straftaten unerlässlich (<ref-law>). Beweise, bei deren Erhebung Ordnungsvorschriften verletzt worden sind, sind verwertbar (Abs. 3). Ermöglichte ein Beweis, der nach Absatz 2 nicht verwertet werden darf, die Erhebung eines weiteren Beweises, so ist dieser nicht verwertbar, wenn er ohne die vorhergehende Beweiserhebung nicht möglich gewesen wäre (Abs. 4).
1.2. Es ist unbestritten, dass zwischen dem 8. Juli 2016 und dem 18. Dezember 2016 in den Kreisen 3 und 9 der Stadt Zürich eine Serie von Sachbeschädigungen infolge zerstochener Autopneus stattfand. Ebenso unbestritten ist, dass der Beschwerdeführer am 12. Oktober 2016 von einer in den genannten Quartieren durchgeführten Polizeipatrouille angehalten und kontrolliert wurde, wobei er ein - bereits damals als Tatwerkzeug nicht in Frage kommendes - Jagd- und Fischermesser sowie ein sog. Multitoolgerät auf sich trug. Beides wurde ihm nach der Kontrolle zurückgegeben. Die Vorinstanz kommt unter Verweis auf das Erstgericht zum Schluss, die am 1. Juni 2017 seitens der Staatsanwaltschaft angeordnete und am 4. Juli durchgeführte Hausdurchsuchung sei "aufgrund der gesamten Umstände, mithin der Kontrollörtlichkeit, dem Signalement, dem Verhalten des Beschuldigten vor der Polizeikontrolle und dem Messerfund," gerechtfertigt gewesen.
1.3.
1.3.1. Wie die Vorinstanz zutreffend erwägt, lag es unter den vorgenannten Umständen nahe, den Täter der Sachbeschädigungen im Umfeld der davon betroffenen Quartiere zu vermuten und anzunehmen, dass er am ehesten dort auf frischer Tat ertappt werden könnte. Es ist denn auch unbestritten, dass die tatort- und tatzeitnahe Anhaltung des Beschwerdeführers rechtens war. Dies gilt ebenso für die Feststellung der Vorinstanz, wonach für die Rechtmässigkeit der strittigen Hausdurchsuchung alle bis zu deren Anordnung vorliegenden Ermittlungsergebnisse berücksichtigt werden durften. Die Vorinstanz nennt indes keine solchen Erkenntnisse. Sie bezieht sich in ihren Erwägungen ausschliesslich auf Umstände bzw. Gründe, die zur Anhaltung und Kontrolle des Beschwerdeführers im Oktober 2016 führten. So macht sie geltend, gemäss der einzig verfügbaren Zeugenaussage habe es sich beim Verdächtigen um einen Mann auf einem Fahrrad gehandelt, wobei dessen - von derjenigen des Beschwerdeführers abweichenden - Haarfarbe keine entscheidende Bedeutung zukomme. Beträchtlich und letztlich entscheidend zum Nachteil des Beschwerdeführers falle ferner ins Gewicht, dass er sich im Vorfeld seiner Anhaltung durch die Polizei am 12. Oktober 2016 verdächtig benommen habe, indem er bei deren Erblicken sein Fahrrad gewendet und mit erhöhtem Tempo zu fliehen versucht habe. Dies mag zwar seine damalige Anhaltung legitimieren. Hingegen leuchtet nicht ein, weshalb das möglicherweise verdächtige Verhalten des Beschwerdeführers anlässlich einer Polizeikontrolle die Durchsuchung von dessen Wohnung rund neun Monate später rechtfertigen soll. Daran ändert das Auffinden zweier Messer, wovon eines als Tatwerkzeug zudem von vornherein ausschied (vgl. oben E. 1.2), offensichtlich ebenso nichts wie die Tatsache, dass der Beschwerdeführer bei seiner Anhaltung angegeben haben soll, er sei ein Waffensammler. Gestützt darauf mag allenfalls nahe liegen, dass er über weitere als die damals festgestellten Waffen verfügt. Es bringt ihn aber nicht konkret mit den beanzeigten Sachbeschädigungen in Verbindung, was die Vorinstanz nicht aufzeigt. Gleiches gilt für den Umstand, dass der Beschwerdeführer, seine Mutter oder ein Kollege in einem von den Sachbeschädigungen betroffenen Quartiere wohnen. Entgegen der von der Vorinstanz scheinbar vertretenen Auffassung kann keine Rede davon sein, dass sich damit ein Tatverdacht gegen den Beschwerdeführer verdichtet hätte. Vielmehr handelt es sich dabei um allgemeine Tatsachen, blosse Vermutungen und einen Generalverdacht. Solches genügt zur Begründung einer Hausdurchsuchung, wobei es sich um einen erheblichen Eingriff in die persönliche Freiheit des Betroffenen handelt, klarerweise nicht.
1.3.2. Nach dem Gesagten wird die Vorinstanz zu prüfen haben, ob die anlässlich der unrechtmässigen Hausdurchsuchung vorgefundenen Beweise ausnahmsweise nach <ref-law> zum Nachteil des Beschwerdeführers verwertbar sind (oben E. 1.1.3).
2.
Die Beschwerde ist gutzuheissen. Ausgangsgemäss sind keine Kosten zu erheben und hat der Beschwerdeführer zulasten des Kantons Zürich Anspruch auf eine angemessene Parteientschädigung (Art. 66 Abs. 1 und 4, Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen. Das Urteil des Obergerichts des Kantons Zürich vom 2. Mai 2019 wird aufgehoben und die Sache wird zu neuer Entscheidung an dieses zurückgewiesen.
2.
Es werden keine Gerichtskosten erhoben.
3.
Der Kanton Zürich hat den Beschwerdeführer im bundesgerichtlichen Verfahren mit Fr. 1'500.-- zu entschädigen.
4.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Strafkammer, schriftlich mitgeteilt.
Lausanne, 9. Januar 2020
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Denys
Der Gerichtsschreiber: Matt