Sachverhalt: A. Das Bezirksgericht Zürich sprach X._ am 17. April 2009 der Gewalt und Drohung gegen Behörden und Beamte im Sinne von Art. 285 Ziff. 1 StGB schuldig und verurteilte ihn zu einer Geldstrafe von 45 Tagessätzen à Fr. 45.--, bedingt aufgeschoben bei einer Probezeit von zwei Jahren, sowie zu einer Busse von Fr. 300.--. B. X._ erhob gegen diesen Entscheid Berufung beim Obergericht des Kantons Zürich. Dieses sprach ihn mit Urteil vom 29. Januar 2010 frei und richtete ihm eine Prozess- und Umtriebsentschädigung sowie eine Genugtuung aus. C. Die Oberstaatsanwaltschaft des Kantons Zürich erhebt Beschwerde in Strafsachen beim Bundesgericht. Sie beantragt, das vorinstanzliche Urteil sei aufzuheben, und X._ sei der Gewalt und Drohung gegen Behörden und Beamte schuldig zu sprechen. Es seien ihm die Verfahrenskosten aufzuerlegen und ihm weder eine Prozess- noch Umtriebsentschädigung sowie eine Genugtuung zuzusprechen. Eventualiter sei die Sache zur neuen Beurteilung an die Vorinstanz zurückzuweisen. D. Die Vorinstanz verzichtet auf eine Vernehmlassung. Der Beschwerdegegner beantragt, die Beschwerde sei abzuweisen und das vorinstanzliche Urteil zu bestätigen. Zudem seien die Verfahrenskosten auf die Staatskasse zu nehmen, und ihm sei für das vorliegende Verfahren eine angemessene Prozessentschädigung auszurichten.