Sachverhalt:
A.
Aufgrund anonymer Hinweise, Y._ handle im grossen Stil mit Partydrogen, unterzog die Stadtpolizei Zürich (StaPo) ihn am 6. April 2012 gegen 21.40 Uhr in der Zürcher Innenstadt einer Personen- und Effektenkontrolle, bei der sie acht Portionen Kokain (7.6 Gramm brutto) sowie 6.2 Gramm Marihuana sicherstellte. Y._ gab an, zur Untermiete bei X._ ein Zimmer zu bewohnen. Einer Hausdurchsuchung stimmte er nicht zu.
Auf Ersuchen der StaPo ordnete die Staatsanwaltschaft telefonisch eine Hausdurchsuchung bei Y._ an. Noch am selben Abend wurden mit Hilfe eines Betäubungsmittel-Suchhundes die gesamte Wohnung an der Kraftstrasse 15 in 8044 Zürich sowie Estrich und Keller durchsucht. Hierbei konnten im Zimmer von Y._ verschiedene Betäubungsmittel, zahlreiche Betäubungsmittelutensilien und Fr. 1'500.-- Bargeld sichergestellt werden. In der Küche fand die StaPo eine Marihuana-Mühle, Minigrips mit verschiedenen Betäubungsmittelrückständen sowie im Kühlschrank sieben Portionen (26.6 Gramm) Amphetamin (MDMA). Im Zimmer von X._ entdeckte sie 48 Portionen Marihuana (insgesamt 558.7 Gramm), Verpackungsmaterial (Minigrips, Vakuummaschine), zwei Feinwagen sowie mehrere Waffen (1 Armee-Sturmgewehr mit Verschluss, 2 Pistolen, 6 Messer, 1 Elektroschockgerät) und Munition.
Der Hausdurchsuchungsbefehl gegen Y._ wurde am folgenden Tag von der Staatsanwaltschaft schriftlich bestätigt und ihm ausgehändigt.
B.
Das Bezirksgericht Zürich verurteilte X._ am 23. August 2012 wegen Widerhandlungen gegen das Betäubungsmittelgesetz sowie Widerhandlung und Übertretung des Waffengesetzes zu einer bedingten Geldstrafe von 150 Tagessätzen zu Fr. 30.-- und einer Busse von Fr. 500.--.
Im Berufungsverfahren sprach das Obergericht des Kantons Zürich X._ am 26. März 2013 vollumfänglich frei.
C.
Die Oberstaatsanwalt des Kantons Zürich führt Beschwerde in Strafsachen mit dem Antrag, das obergerichtliche Urteil sei aufzuheben und die Sache zur neuen Beurteilung an die Vorinstanz zurückzuweisen.
X._ beantragt, die Beschwerde abzuweisen. Das Obergericht hat auf eine Vernehmlassung verzichtet.

Erwägungen:
1.
1.1. Die Beschwerdeführerin rügt eine Verletzung von <ref-law> und <ref-law>. Die Durchsuchung des Zimmers des Beschwerdegegners sei rechtmässig erfolgt. Aufgrund der in der gemeinschaftlich genutzten Küche sichergestellten Beweismittel (Marihuanamühle mit Rückständen, diverse Minigrips mit verschiedenen Betäubungsmittelanhaftungen und sieben Portionen MDMA von insgesamt 26.6 Gramm brutto) hätten die Beamten offensichtlich den berechtigten Verdacht gehegt, nicht nur Y._, sondern auch der Beschwerdegegner handle mit Drogen. Zudem habe es in der Wohnung stark nach Marihuana gerochen, was auf einen weiteren Tatverdächtigen des ursprünglichen Delikts hingedeutet habe, denn bei Y._ sei nur eine kleine Menge Marihuana gefunden worden.
1.2. Die Vorinstanz führt unter Hinweis auf die erstinstanzlichen Erwägungen aus, gegen den Beschwerdegegner habe kein Tatverdacht bestanden, als dessen Zimmer durchsucht wurde. Dieser habe sich erst aufgrund der in dessen Zimmer sichergestellten Betäubungsmittel ergeben. Der Durchsuchungsbefehl habe ausschliesslich Räumlichkeiten umfasst, die von dem des Drogenhandels verdächtigen Y._ bewohnt und genutzt wurden (persönliches [Schlaf-]Zimmer, Küche, Wohnzimmer und Bad). Die Polizeibeamten hätten gewusst, dass das Schlafzimmer des Beschwerdegegners nicht von Y._ genutzt werde und vom Durchsuchungsbefehl nicht erfasst gewesen sei. Dass dessen Zimmer dennoch durchsucht wurde, könne nur aufgrund einer diffusen Ahnung - angeblich starker Marihuanageruch - oder "auf gut Glück" geschehen sein, um möglicherweise Beweismittel gegen den Beschwerdegegner zu finden. Den Beamten sei bewusst gewesen, dass allfällige Beweismittel, die im Zimmer des Beschwerdegegners gefunden würden, mit dem Ziel der gegen Y._ angeordneten Hausdurchsuchung nichts zu tun hatten. Die Durchsuchung des Zimmers sei "ohne gesetzliche Grundlage" und rechtswidrig erfolgt.
1.3. Gemäss <ref-law> können Zwangsmassnahmen (Art. 196-298 StPO) nur ergriffen werden, wenn sie gesetzlich vorgesehen sind, ein hinreichender Tatverdacht vorliegt, die damit angestrebten Ziele nicht durch mildere Massnahmen erreicht werden können und die Bedeutung der Straftat die Zwangsmassnahme rechtfertigt.
1.4.
1.4.1. Unstreitig ist, dass bei Beginn der Hausdurchsuchung kein Tatverdacht gegen den Beschwerdegegner bestand und die Durchsuchung des ausschliesslich von ihm genutzten Zimmers nicht vom Durchsuchungsbefehl erfasst war. Hiervon geht auch die Beschwerdeführerin aus. Soweit sie im bundesgerichtlichen Verfahren vorbringt, ein "hineichender Tatverdacht" habe sich aufgrund der in der Küche sichergestellten Beweismittel (Marihuanamühle mit Rückständen, diverse Minigrips mit Betäubungsmittelanhaftungen, 26.6 Gramm brutto MDMA) und eines angeblichen starken Marihuanageruchs in der Wohnung ergeben, weicht sie mit ihrer Begründung von den verbindlichen Sachverhaltsfeststellungen der Vorinstanz (<ref-law>) ab, ohne darzulegen, inwieweit diese willkürlich sein sollten. Der Hinweis auf den Vermerk im Durchsuchungsprotokoll, im gemeinsam genutzten Kühlschrank sei MDMA sichergestellt worden, lässt die vorinstanzliche Feststellung, die Beamten hätten das Zimmer lediglich aufgrund einer diffusen Ahnung oder "auf gut Glück" ohne hinreichenden Tatverdacht durchsucht, nicht als willkürlich erscheinen.
Die Vorinstanz verletzt kein Bundesrecht, wenn sie aufgrund des von ihr festgestellten Sachverhalts einen hinreichenden Tatverdacht gegen den Beschwerdegegner verneint. Da die Durchsuchung seines Zimmers rechtswidrig erfolgte, handelt es sich bei den dort sichergestellten Betäubungsmitteln und Waffen nicht um Zufallsfunde im Sinne von <ref-law> (vgl. <ref-ruling> E. 2.3.2 ).
1.4.2. Dass die von der Vorinstanz im Rahmen der Beweisverwertung vorgenommene Güterabwägung gemäss <ref-law> bundesrechtswidrig sei, rügt die Beschwerdeführerin nicht und ist auch nicht ersichtlich. Die Vorinstanz verletzt kein Bundesrecht, indem sie ein Beweisverwertungsverbot hinsichtlich der im Zimmer des Beschwerdegegners sichergestellten Betäubungsmittel und Waffen annimmt.
2.
Die Beschwerde ist abzuweisen. Bei diesem Verfahrensausgang sind keine Kosten zu erheben (Art. 66 Abs. 1 und 4 BGG). Der Kanton Zürich hat den Beschwerdegegner für das bundesgerichtliche Verfahren zu entschädigen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Es werden keine Gerichtskosten erhoben.
3.
Der Kanton Zürich hat dem Beschwerdegegner für das bundesgerichtliche Verfahren eine Parteientschädigung von Fr. 3'000.-- auszurichten.
4.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Strafkammer, schriftlich mitgeteilt.
Lausanne, 26. Juni 2014
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Der Gerichtsschreiber: Held