Sachverhalt:
A.
Die Staatsanwaltschaft See / Oberland klagte X._ am 16. Dezember 2014 wegen Drohung an. Sie wirft ihm zusammengefasst vor, er sei am 5. Juni 2014 in Folge einer frühmorgendlichen Ruhestörung vor dem geschlossenen Haupteingang des Ladens gestanden, der sich unter seiner Wohnung befindet, sodass A._ ihn vom Inneren des Ladens sehen konnte. Dann habe er mit einem Messer hin und her gefuchtelt, eine Art Schnittbewegung gemacht und Worte wie "morta", "morte", "morto" oder "mortu" geschrien.
B.
Das Bezirksgericht Uster sprach X._ am 3. Juni 2015 frei. Für die erlittene Untersuchungshaft gewährte es ihm eine Entschädigung von Fr. 350.-- für die wirtschaftlichen Einbussen und Fr. 4'000.-- als Genugtuung. Gegen dieses Urteil erhoben die Staatsanwaltschaft Berufung und X._ Anschlussberufung.
C.
Das Obergericht des Kantons Zürich erklärte X._ am 8. Juli 2016 der Drohung schuldig. Es bestrafte ihn mit einer bedingten Geldstrafe von 90 Tagessätzen zu Fr. 70.--. Es erachtet den angeklagten Sachverhalt als erwiesen.
D.
X._ führt Beschwerde in Strafsachen. Er beantragt, das Urteil des Obergerichts sei aufzuheben und er sei freizusprechen. Für den Lohnausfall während der Untersuchungshaft sei ihm eine Entschädigung von Fr. 4'126.35 zuzusprechen. Eventualiter sei die Sache an die Vorinstanz zurückzuweisen. Die Oberstaatsanwaltschaft des Kantons Zürich und das Obergericht verzichten auf eine Vernehmlassung.

Erwägungen:
1.
1.1. Der Beschwerdeführer rügt eine willkürliche Sachverhaltsfeststellung. Er bestreitet, die ihm vorgeworfenen Handlungen vorgenommen zu haben. Er macht unter anderem geltend, die Vorinstanz stufe seine eigenen Aussagen zu Unrecht als unglaubhaft und diejenigen von A._ als glaubhaft ein. Auch würden die Zeugenaussagen von B._ und C._ die Darstellung von A._ nicht stützen.
1.2. Die Sachverhaltsfeststellung der Vorinstanz kann vor Bundesgericht nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Offensichtlich unrichtig ist die Sachverhaltsfeststellung, wenn sie willkürlich ist (<ref-ruling> E. 1.3.1 mit Hinweisen). Willkür liegt vor, wenn der angefochtene Entscheid offensichtlich unhaltbar ist oder mit der tatsächlichen Situation in klarem Widerspruch steht. Dass eine andere Lösung oder Würdigung ebenfalls vertretbar oder gar zutreffender erscheint, genügt für die Annahme von Willkür nicht (<ref-ruling> E. 4.3 mit Hinweisen). Eine entsprechende Rüge muss klar vorgebracht und substanziiert begründet werden (Art. 42 Abs. 2 und Art. 106 Abs. 2 BGG; <ref-ruling> E. 4.2.3; <ref-ruling> E. 1.3.1; je mit Hinweisen). Auf eine rein appellatorische Kritik am angefochtenen Urteil tritt das Bundesgericht nicht ein (<ref-ruling> E. 2.4).
Nach dem in Art. 10 Abs. 3 StPO kodifizierten Grundsatz in dubio pro reo geht das Gericht von der für die beschuldigte Person günstigere Sachlage aus, wenn unüberwindliche Zweifel an der Erfüllung der tatsächlichen Voraussetzungen der angeklagten Tat bestehen. Dem Grundsatz in dubio pro reo kommt in seiner Funktion als Beweiswürdigungsregel im Verfahren vor dem Bundesgericht keine über das Willkürverbot von Art. 9 BV hinausgehende Bedeutung zu (<ref-ruling> E. 2a mit Hinweisen).
1.3. Das erstinstanzliche Gericht erachtete die Aussagen des Beschwerdeführers als stringent und glaubhaft. Die Vorinstanz hält dem entgegen, dass der Beschwerdeführer in einem ganz wesentlichen Punkt widersprüchlich ausgesagt habe. Er habe erklärt, seinen Wohnort um ca. 6:45 Uhr verlassen zu haben und mit dem Auto zu einer Tankstelle gefahren zu sein. Der Fussweg zu seinem Auto führe unmittelbar am Eingangsbereich des Ladens vorbei. Während der erstinstanzlichen Hauptverhandlung habe er auf die Frage, ob er an der Ladentüre vorbeilaufen müsse, geantwortet: "Nicht unbedingt, ich bin nicht an dieser Türe vorbeigegangen, sondern bei diesem Weg, der dort vorbeiführt". Auch anlässlich der Berufungsverhandlung habe er auf der ihm vorgelegten Fotografie den unmittelbar seitlich an der Eingangstür des Ladens vorbeiführenden Weg als den von ihm beschrittenen bezeichnet. Dass der Beschwerdeführer an der erstinstanzlichen Hauptverhandlung erklärt habe, in dem ihm vorgehaltenen Zeitraum von 6:41 Uhr bis 6:49 Uhr nicht am Tatort gewesen zu sein, stehe in klarem Widerspruch zu seinen früheren Angaben, denn für die Beurteilung der Anwesenheit des Beschuldigten am Tatort mache es keinen Unterschied, ob der Weg direkt vor der Türe des Ladens oder unmittelbar seitlich an dieser vorbei verlaufe.
Die Vorinstanz erwägt weiter, B._ habe zur fraglichen Zeit im Laden gearbeitet und sehr viel Lärm gehört. Sie habe das Gefühl gehabt, jemand schlage gegen die Tür; es sei kurz und heftig gewesen. Sie habe gehört, wie viele Leute miteinander gesprochen hätten. A._ sei nach diesem Ereignis rot im Gesicht und sehr nervös gewesen. Diese Beobachtung lasse darauf schliessen, dass kurz zuvor etwas geschehen sei, was bei A._ eine heftige Gemütsreaktion ausgelöst habe. Ein anderer Grund als die dem Beschwerdeführer vorgeworfene Handlung sei nicht ersichtlich. C._ habe als Zeugin erklärt, sie habe mehrere Männer laut und bestimmt auf Schweizerdeutsch sprechen hören. Dass der Beschwerdeführer nur gebrochen Deutsch spreche, schliesse nicht aus, dass C._ ihn gehört habe. Es könne nicht ausgeschlossen werden, dass er - wie von A._ behauptet - die einfache Wendung "chum use" gekannt und verwendet habe. Dass C._ - wie auch schon B._ - angab, mehrere Stimmen gehört zu haben, könne auch darauf zurückgeführt werden, dass die Stimmlage eines einzigen Sprechenden verändert worden sei. Anlässlich der Befragung durch die Staatsanwaltschaft habe sie jedenfalls angegeben, nur eine Stimme gehört zu haben. Zudem bestehe eine Vermutung dafür, dass an einem Gespräch oder einer Auseinandersetzung mindestens zwei Personen teilnehmen, was ebenfalls zu einer Täuschung bei der Wahrnehmung führen könne. Auch wenn C._ tatsächlich mehrere Stimmen gehört haben sollte, so könne dies immer noch damit erklärt werden, dass sie nicht den Beschwerdeführer, sondern allfällige Gespräche der Polizisten untereinander oder der Polizisten mit A._ wahrgenommen habe. Die Aussagen von C._ liessen sich mit verschiedenen Sachverhaltsvarianten - darunter auch die angeklagte Version der Geschehnisse - in Einklang bringen. Gegen die Darstellung von A._ spreche einzig, dass er den zeitlichen Ablauf der von ihm geschilderten Ereignisse widersprüchlich zu Protokoll gab. Dass er indes Mühe habe, Ereignisse zeitlich korrekt einzuordnen, ergebe sich auch aus seiner Schilderung früherer Vorkommnisse. Ebenso habe er den Zeitpunkt, in welchem die Polizei eintraf, falsch angegeben. Dies könne auch damit zusammenhängen, dass er nach eigenen Aussagen keine Uhr trage.
1.4.
1.4.1. Die Vorinstanz erblickt einen Widerspruch darin, dass der Beschwerdeführer zum einen gesagt habe, er habe den seitlich an der Eingangstüre verlaufenden Weg benützt, um zu seinem Auto zu kommen, und andererseits verneint habe, im relevanten Zeitraum am Tatort gewesen zu sein. Die angeblichen Handlungen des Beschwerdeführers sollen vor der verschlossenen Ladentüre erfolgt sein, auf welche der Beschwerdeführer nach der Darstellung von A._ auch geschlagen haben soll. Der vermeintliche Tatort konnte sich somit einzig unmittelbar vor der Ladentür befinden, und nicht auf dem Weg, der seitlich an dieser vorbeiführt. Als abwegig erweist sich somit die Auffassung der Vorinstanz, es mache keinen Unterschied, ob der Beschwerdeführer vor der Tür oder auf dem Weg seitlich der Tür vorbeiging. In den Aussagen des Beschwerdeführers ist - wie dieser zutreffend rügt - kein Widerspruch zu erkennen und die Vorinstanz verfällt in Willkür, indem sie darauf gestützt annimmt, die Aussagen des Beschwerdeführers seien nicht glaubhaft.
1.4.2. Hinsichtlich der Zeugin B._ macht der Beschwerdeführer im Wesentlichen geltend, diese habe die von ihr wahrgenommenen Stimmen niemandem zuordnen können. Auch habe sie keine konstanten Angaben zum Lärm machen können, der von der Tür gekommen sei. In Bezug auf C._ rügt der Beschwerdeführer, diese habe sich an ein Gespräch erinnert, welches auf Schweizerdeutsch geführt worden sei. Dabei habe es sich um das Gespräch zwischen der Polizei und A._ handeln können. Die Vorinstanz habe diese Variante in Betracht gezogen, aber - zu Unrecht - mit dem Argument verworfen, dass sich die Zeugenaussage von C._ auch mit dem angeklagten Sachverhalt in Einklang bringen lasse.
B._ erklärte gegenüber der Polizei, sie habe "viele Leute miteinander sprechen" gehört (act. 13/5, S. 1). Bei der Staatsanwaltschaft sagte sie aus, sie habe den Eindruck gehabt, dass Leute miteinander gesprochen hätten. Sie wisse nicht, ob es nur zwei Personen gewesen seien (act. 13/6, S. 6). C._ sagte gegenüber der Polizei aus, sie habe "Männer laut und bestimmt" sprechen gehört. Das Gespräch sei auf Schweizerdeutsch gewesen (act. 13/9, S. 1 f.). Bei der Staatsanwaltschaft erklärte sie, sie habe jemanden auf Schweizerdeutsch sprechen gehört. Sie habe nur eine Stimme gehört; sie schloss aber aus, dass es sich dabei um einen Monolog gehandelt habe. Sie könne nicht sagen, was für ein Gespräch es gewesen sei, ihres Erachtens sei es eine Erwiderung gewesen (act. 13/10, S. 4 und 6). Sowohl B._ als auch C._ berichteten, ein Gespräch gehört zu haben. B._ erklärte unmissverständlich, sie habe eine Mehrzahl von Stimmen gehört. Nach der Darstellung von A._ soll der Beschwerdeführer vor der geschlossenen Tür "chum use" und "morto" gesagt haben. Dass es zu einem Gespräch zwischen A._ und dem Beschwerdeführer gekommen sein soll, wird weder von A._ behauptet noch von der Vorinstanz festgestellt. Die Vorinstanz verfällt somit in Willkür, wenn sie die von B._ und C._ gehörten Stimmen dem Beschwerdeführer zuschreibt. Ihre Annahme, C._ habe mehrere Stimmen gehört, weil die Stimmlage eines einzigen Sprechenden verändert worden sei, erweist sich gar als abenteuerlich. Selbst wenn C._ nur eine Stimme gehört haben sollte (wie sie, anders als bei der Polizei, gegenüber der Staatsanwaltschaft erklärte), können die einzelnen Wortfetzen "chum use" und "morto" nicht als Gespräch qualifiziert werden, welches überdies auf Schweizerdeutsch geführt worden sein soll. Die Zeugenaussagen von B._ und C._ stützen die Darstellung von A._ nicht.
1.4.3. Der Beschwerdeführer bestritt konstant, die ihm vorgeworfene Tat begangen zu haben. Seine Aussagen sind als glaubhaft zu qualifizieren. Die Darstellung von A._ wurde - entgegen der Auffassung der Vorinstanz - durch keine der beiden Zeuginnen bestätigt. Die Angaben von A._ zum zeitlichen Ablauf der Geschehnisse sind - wie die Vorinstanz selbst feststellt - widersprüchlich. Die Feststellung der Vorinstanz, dies sei darauf zurückzuführen, dass A._ Mühe habe, Ereignisse zeitlich korrekt einzuordnen, ist, obschon fragwürdig, nicht an sich willkürlich. Dennoch bestehen in der Gesamtbetrachtung derartige Zweifel an der Schuld des Beschwerdeführers, dass die Vorinstanz den angeklagten Sachverhalt nicht als erstellt erachten durfte, ohne dabei den Grundsatz in dubio pro reo in einer mit dem Willkürverbot nicht vereinbaren Weise zu verletzen. Der Beschwerdeführer ist vom Vorwurf der Drohung freizusprechen, womit es sich erübrigt, auf die weiteren Rügen des Beschwerdeführers einzugehen.
2.
Der angefochtene Entscheid ist aufzuheben und der Beschwerdeführer freizusprechen. Im Übrigen ist die Sache zu neuer Entscheidung an die Vorinstanz zurückzuweisen.
3.
Für das bundesgerichtliche Verfahren sind keine Kosten zu erheben (Art. 66 Abs. 1 und 4 BGG). Der Kanton Zürich hat dem Beschwerdeführer eine angemessene Parteientschädigung zu bezahlen (Art. 68 Abs. 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen. Das Urteil des Obergerichts des Kantons Zürich vom 8. Juli 2016 wird aufgehoben und der Beschwerdeführer freigesprochen. Im Übrigen wird die Sache zu neuer Entscheidung an die Vorinstanz zurückgewiesen.
2.
Es werden keine Kosten erhoben.
3.
Der Kanton Zürich hat dem Beschwerdeführer eine Parteientschädigung von Fr. 3'000.-- zu bezahlen.
4.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Strafkammer, schriftlich mitgeteilt.
Lausanne, 1. Mai 2017
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Denys
Der Gerichtsschreiber: Moses