Sachverhalt: A. Die Staatsanwaltschaft See / Oberland klagte X._ am 16. Dezember 2014 wegen Drohung an. Sie wirft ihm zusammengefasst vor, er sei am 5. Juni 2014 in Folge einer frühmorgendlichen Ruhestörung vor dem geschlossenen Haupteingang des Ladens gestanden, der sich unter seiner Wohnung befindet, sodass A._ ihn vom Inneren des Ladens sehen konnte. Dann habe er mit einem Messer hin und her gefuchtelt, eine Art Schnittbewegung gemacht und Worte wie "morta", "morte", "morto" oder "mortu" geschrien. B. Das Bezirksgericht Uster sprach X._ am 3. Juni 2015 frei. Für die erlittene Untersuchungshaft gewährte es ihm eine Entschädigung von Fr. 350.-- für die wirtschaftlichen Einbussen und Fr. 4'000.-- als Genugtuung. Gegen dieses Urteil erhoben die Staatsanwaltschaft Berufung und X._ Anschlussberufung. C. Das Obergericht des Kantons Zürich erklärte X._ am 8. Juli 2016 der Drohung schuldig. Es bestrafte ihn mit einer bedingten Geldstrafe von 90 Tagessätzen zu Fr. 70.--. Es erachtet den angeklagten Sachverhalt als erwiesen. D. X._ führt Beschwerde in Strafsachen. Er beantragt, das Urteil des Obergerichts sei aufzuheben und er sei freizusprechen. Für den Lohnausfall während der Untersuchungshaft sei ihm eine Entschädigung von Fr. 4'126.35 zuzusprechen. Eventualiter sei die Sache an die Vorinstanz zurückzuweisen. Die Oberstaatsanwaltschaft des Kantons Zürich und das Obergericht verzichten auf eine Vernehmlassung.