Sachverhalt:
A.
Die Staatsanwaltschaft Zürich-Limmat führte gegen X._ eine Untersuchung wegen fortgesetzter Erpressung zum Nachteil von A._ und erhob am 9. April 2015 Anklage. Darin wird X._ zusammengefasst vorgeworfen, sie habe A._ ab September 2009 mehrmals dazu veranlasst, ihr Schweigegeld von insgesamt Fr. 225'000.-- zu geben. Dabei habe sie ihm zu verstehen gegeben, über dessen Verfehlungen mit seiner konkursiten Gesellschaft, seine Spielsucht und das gegen ihn im Kanton Basel laufende Strafverfahren Bescheid zu wissen. Sie habe ihm gedroht, dieses Wissen preiszugeben, sollte er ihr kein Geld bezahlen.
B.
Das Bezirksgericht Zürich sprach X._ am 1. September 2015 vom Vorwurf der fortgesetzten Erpressung frei und verwies die Zivilklage von A._ auf den Zivilweg. Es erhob keine Verfahrenskosten und sprach X._ eine Prozessentschädigung von Fr. 14'047.45 sowie eine Genugtuung von Fr. 500.-- zu.
C.
Auf Berufung von A._ bestätigte das Obergericht des Kantons Zürich am 26. Mai 2016 das bezirksgerichtliche Urteil im Schuld- und Zivilpunkt. Da der bezirksgerichtliche Kostenentscheid im Urteilsdispositiv vom 26. Mai 2016 vergessen ging, bestätigte ihn das Obergericht "mit Nachtragsurteil vom 16. Juni 2016".
D.
A._ beantragt mit Beschwerde in Strafsachen, das obergerichtliche Urteil vom 26. Mai 2016 "mit Nachtragsurteil vom 16. Juni 2016" sei aufzuheben und die Sache zu neuem Entscheid an das Obergericht zurückzuweisen. Er ersucht um unentgeltliche Rechtspflege und Verbeiständung.
E.
X._ lässt sich nicht vernehmen, während das Obergericht und die Oberstaatsanwaltschaft des Kantons Zürich auf eine Vernehmlassung verzichten.
Erwägungen:
1.
Die Privatklägerschaft ist gemäss Art. 81 Abs. 1 lit. a und b Ziff. 5 BGG zur Beschwerde in Strafsachen berechtigt, wenn sie vor der Vorinstanz am Verfahren teilgenommen oder keine Möglichkeit zur Teilnahme erhalten hat und wenn sich der angefochtene Entscheid auf die Beurteilung ihrer Zivilansprüche auswirken kann.
Der Beschwerdeführer bringt zu seiner Legitimation vor, er habe als Privatkläger ein rechtlich geschütztes Interesse an der Aufhebung des angefochtenen Urteils, weil die Beschwerdegegnerin 2 vom Vorwurf der fortgesetzten Erpressung zu seinem Nachteil freigesprochen und sein Schadenersatzbegehren auf den Zivilweg verwiesen worden sei.
Der Beschwerdeführer konstituierte sich im kantonalen Verfahren als Straf- und Zivilkläger. Er beantragte einen Schuldspruch wegen fortgesetzter Erpressung und Schadenersatz von Fr. 225'000.-- nebst Zins. Angesichts des Freispruchs und der Verweisung der Schadenersatzforderung auf den Zivilweg ist offensichtlich, dass sich das angefochtene Urteil auf die Beurteilung seiner Zivilansprüche auswirken kann. Auf die Beschwerde ist einzutreten.
2.
2.1. Der Beschwerdeführer rügt, die Vorinstanz habe seinen Anspruch auf rechtliches Gehör gemäss Art. 29 Abs. 2 BV sowie Art. 343 StPO verletzt. Er habe im erst- und zweitinstanzlichen Verfahren vergeblich beantragt, als Auskunftsperson befragt zu werden. Weder das erst- noch das zweitinstanzliche Gericht hätten sich ein eigenes Bild von der Glaubhaftigkeit seiner Aussagen gemacht, obwohl Aussage gegen Aussage gestanden sei. Auch die Befragung seiner Mutter sei zu Unrecht abgelehnt worden. Diese hätte schildern können, unter welchen Umständen und in welchem Umfang sie ihm Geld ausgeliehen habe. Überdies hätte sie Auskunft geben können über die zahlreichen Geldübergaben und Überweisungen auf sein Postkonto sowie über "Blitzaktionen am Morgen gleich bei der Öffnung der Poststelle". Diese Angaben seien als Hilfstatsachen von Relevanz, da sie die Glaubhaftigkeit seiner Angaben stützen würden. So werde beispielsweise im erstinstanzlichen Urteil erwogen, es sei ungeklärt, wie der Beschwerdeführer angesichts seiner schlechten finanziellen Situation in so kurzer Zeit Beträge von Fr. 5'000.-- bis 10'000.-- habe auftreiben können. Nach Ansicht des Beschwerdeführers hätte schliesslich B._ als Zeuge befragt werden müssen, da dieser zu den Darlehen von insgesamt Fr. 30'000.-- an den Beschwerdeführer Auskunft geben und die Glaubhaftigkeit der Angaben des Beschwerdeführers stützen könne.
2.2. Die Vorinstanz lehnt es ab, den Beschwerdeführer zu befragen. Sie erwägt, seine Aussagen seien nicht die einzigen direkten Beweismittel. Vielmehr befänden sich auch Sachbeweise wie die umfangreichen Bankunterlagen der Beschwerdegegnerin 2 und das Protokoll der Hausdurchsuchung bei den Akten. Der Anklagevorwurf basiere allein auf den Aussagen des Beschwerdeführers, der im Vorverfahren dreimal einvernommen worden sei. Seine Aussagen überzeugten inhaltlich nicht, da sie zu wenig substanziell seien. Der Beschwerdeführer habe sich nicht daran erinnern können, wie viel Geld die Beschwerdegegnerin 2 wie oft verlangt habe. Aufgrund der Umstände sei nicht nachvollziehbar, wieso er sich überhaupt habe erpressen lassen und bei der Beschwerdegegnerin 2 keinerlei Vermögenszufluss im behaupteten Ausmass habe festgestellt werden können. Es sei nicht einzusehen, inwiefern eine erneute Befragung des Beschwerdeführers einen Einfluss auf das Urteil haben könnte, weil nicht davon auszugehen sei, dass eine solche Befragung weitere Details zum Kerngeschehen zu Tage fördern könnte (Urteil E. I.3.2.2 S. 6 f.).
Auch den Antrag des Beschwerdeführers auf Befragung seiner Mutter weist die Vorinstanz ab. Sie begründet, der Beschwerdeführer selber habe angegeben, als er seine Mutter um ein Darlehen gebeten habe, habe er ihr gesagt, er habe Schulden bei alten Bekannten oder ein Kunde mache Ärger. Er habe ihr versichert, das Geld nicht für das Casino zu brauchen. Die Mutter des Beschwerdeführers werde deshalb höchstens diese Angaben, jedoch nichts Wesentliches zu den Erpressungsvorwürfen aussagen können. Es sei gut möglich, dass der Beschwerdeführer von seiner Mutter Geld ausgeliehen habe, dass dies kurzfristig und hektisch geschehen sei und dass er jeweils am Morgen bei der Öffnung der Post mit der Mutter Geld abhob. Damit lasse sich jedoch nicht beweisen, dass er von der Beschwerdegegnerin 2 erpresst worden sei, da er das ausgeliehene Geld auch für andere Zwecke verwendet haben könnte (Urteil E. I.3.3 S. 7 f.).
Den Beweisantrag auf Einvernahme von B._ weist die Vorinstanz mit der Begründung ab, es sei nie geltend gemacht worden, dieser habe gewusst, wozu das Darlehen an den Beschwerdeführer von insgesamt Fr. 30'000.-- gedient habe. Auch wenn B._ ein Darlehen an den Beschwerdeführer bestätigen würde, wäre damit noch nicht erstellt, dass dieser das geliehene Geld der Beschwerdegegnerin 2 gegeben habe (Urteil E. I.3.4 S. 8).
2.3. Das Rechtsmittelverfahren beruht auf den Beweisen, die im Vorverfahren und im erstinstanzlichen Hauptverfahren erhoben worden sind (Art. 389 Abs. 1 StPO). Beweisabnahmen des erstinstanzlichen Gerichts werden im Rechtsmittelverfahren nur unter den in Art. 389 Abs. 2 StPO genannten Voraussetzungen wiederholt. Nach Abs. 3 der Vorschrift erhebt die Rechtsmittelinstanz von Amtes wegen oder auf Antrag einer Partei die erforderlichen zusätzlichen Beweise. Eine unmittelbare Beweisabnahme im Rechtsmittelverfahren hat gemäss Art. 405 Abs. 1 i.V.m. Art. 343 Abs. 3 StPO auch zu erfolgen, wenn eine solche im erstinstanzlichen Verfahren unterblieb oder unvollständig war und die unmittelbare Kenntnis des Beweismittels für die Urteilsfällung notwendig erscheint. Der Wahrheits- und Untersuchungsgrundsatz gilt auch im Rechtsmittelverfahren (BGE 140 IV 196 E. 4.4.1 S. 199; Urteile 6B_70/2015 vom 20. April 2016 E. 1.3; 6B_430/2015 vom 12. Juni 2015 E. 2.2; je mit Hinweisen).
Die unmittelbare Kenntnis des Beweismittels erscheint für die Urteilsfällung als notwendig im Sinne von Art. 343 Abs. 3 StPO, wenn sie den Ausgang des Verfahrens beeinflussen kann. Dies ist namentlich der Fall, wenn die Beweiskraft des Beweismittels in entscheidender Weise vom Eindruck abhängt, der bei seiner Präsentation entsteht, beispielsweise wenn es in besonderem Masse auf den unmittelbaren Eindruck einer Zeugenaussage ankommt, so etwa, wenn Aussage gegen Aussage steht. Das Gericht verfügt beim Entscheid über die Frage, ob die unmittelbare Kenntnis des Beweismittels im Sinne von Art. 343 Abs. 3 StPO für die Urteilsfällung notwendig erscheint, über einen Ermessensspielraum (BGE 140 IV 196 E. 4.4.2 S. 199 f.; Urteile 6B_70/2015 vom 20. April 2016 E. 1.3; 6B_430/2015 vom 12. Juni 2015 E. 2.3.2; je mit Hinweisen).
2.4.
2.4.1. Die Vorinstanz erwägt, es liege auf der Hand, dass mit den sogenannten "Vier-Augen-Delikten ohne objektivierbare Beweise" im Sinne der bundesgerichtlichen Rechtsprechung vorwiegend Sexualdelikte gemeint seien (Urteil E. I.3.2.1 S. 6). De m ist nicht so. Eine Beschränkung der Rechtsprechung auf eine bestimmte Deliktskategorie besteht nicht. So betraf denn auch der publizierte Leitentscheid eine versuchte Tötung (BGE 140 IV 196).
2.4.2. Die Vorinstanz verletzt Bundesrecht, indem sie den Antrag auf Einvernahme des Beschwerdeführers abweist. Sie erwägt, dessen Aussagen seien nicht die einzigen direkten Beweismittel, und verweist auf die umfangreichen Bankunterlagen der Beschwerdegegnerin 2 sowie das Protokoll der Hausdurchsuchung. Entgegen ihren Ausführungen handelt es sich hierbei um indirekte Beweismittel, deren Bedeutung für das Verfahren verglichen mit den Aussagen des Beschwerdeführers in den Hintergrund tritt. Es ist die Vorinstanz selber, die an gleicher Stelle festhält, der Anklagevorwurf basiere allein auf den Aussagen des Beschwerdeführers, denen die Bestreitungen der Beschwerdegegnerin 2 gegenüberstehen.
2.4.3. Die Vorinstanz würdigt die Protokolle der Befragungen im Vorverfahren und hält beispielsweise fest, aufgrund der Umstände sei nicht nachvollziehbar, weshalb der Beschwerdeführer sich überhaupt habe erpressen lassen und bei der Beschwerdegegnerin 2 keinerlei Vermögenszufluss im behaupteten Ausmass habe festgestellt werden können. Die Vorinstanz erklärt, es sei nicht einzusehen, inwiefern eine erneute Befragung des Beschwerdeführers einen Einfluss auf das Urteil haben könnte. Dabei übersieht sie, dass sich die Erforderlichkeit der gerichtlichen Einvernahme gerade aus solchen scheinbaren oder anscheinenden Widersprüchen ergibt. Die Beurteilung der Glaubwürdigkeit des Beschwerdeführers und der Glaubhaftigkeit seiner Aussagen hängt im entscheidenden Masse davon ab, ob sich die Unklarheiten plausibel erklären oder nachvollziehbar auflösen lassen, was die persönliche Einvernahme durch die Vorinstanz erforderlich macht. Dass der Beschwerdeführer im Vorverfahren dreimal einvernommen wurde, ändert nichts daran, dass die Vorinstanz den Beschwerdeführer selber hätte einvernehmen müssen, um sich ein Bild von ihm und seinem Aussageverhalten zu machen.
2.5. Da sich die Beschwerde mit Blick auf die Einvernahme des Beschwerdeführers als Auskunftsperson als begründet erweist, erübrigt es sich, auf die weiteren Rügen einzugehen. Die Vorinstanz wird sich nach der Befragung des Beschwerdeführers ein abschliessendes Bild darüber machen, ob sie in zulässiger antizipierter Beweiswürdigung auf die Einvernahme weiterer Personen verzichten darf.
3.
Die Beschwerde ist gutzuheissen, soweit darauf eingetreten werden kann. Das angefochtene Urteil ist aufzuheben und die Sache zu neuer Entscheidung an die Vorinstanz zurückzuweisen. Bei diesem Ausgang des Verfahrens sind keine Kosten zu erheben (Art. 66 Abs. 4 BGG). Für das bundesgerichtliche Verfahren hat der Kanton Zürich den Beschwerdeführer angemessen zu entschädigen (Art. 68 Abs. 1 und 2 BGG). Dessen Gesuch um unentgeltliche Rechtspflege wird damit gegenstandslos. Die Entschädigung ist praxisgemäss seinem Rechtsvertreter auszurichten.
Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen, soweit darauf einzutreten ist. Das Urteil des Obergerichts des Kantons Zürich vom 26. Mai 2016 wird aufgehoben und die Sache zu neuer Entscheidung an die Vorinstanz zurückgewiesen.
2.
Es werden keine Kosten erhoben.
3.
Der Kanton Zürich hat dem Rechtsvertreter des Beschwerdeführers, Rechtsanwalt Christoph Dumartheray, für das bundesgerichtliche Verfahren eine Parteientschädigung von Fr. 3'000.-- auszurichten.
4.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Strafkammer, schriftlich mitgeteilt.
Lausanne, 29. Mai 2017
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Denys
Die Gerichtsschreiberin: Andres