Sachverhalt:
A.
A.a. X._ trat am 1. Mai 1991 als "Leiter Wertschriften Verkauf Gesamtbank" in die A._-Bank ein, welche im Jahr 1993 von der B._-Bank übernommen wurde. Auf den 1. Januar 1999 wurde er zum "Vice President" und per 1. Januar 2000 zum "Director" der B._-Bank befördert. Innerhalb der Bank war er während der anklagerelevanten Phase für die Geschäftsbeziehung zur Finanzverwaltung des Kantons Zürich, Abteilung Vermögensverwaltung (VVKZ), zuständig, welche unter anderem für die Bewirtschaftung von Kapitalanlagen der C._ und das Vermögen des Reservefonds der D._ verantwortlich war. Am 1. November 2001 verliess er die Bank und trat eine Stelle als "Chief Investment Officer" bei der E._ AG an. Bereits am 24. Oktober 2001 hatte die VVKZ die E._ AG (bzw. X._ als deren Vertreter) ermächtigt, in ihrem Auftrag SMI-Transaktionen der C._ und der D._ bei der B._-Bank zu tätigen. Am 11./12. Dezember 2001 schloss der Kanton Zürich, vertreten durch die VVKZ, mit der E._ AG eine entsprechende Vereinbarung ab. Die E._ AG hatte mit der B._-Bank am 15./20. November 2001 hinsichtlich der Mandatierung einen Vertrag betreffend externe Vermögensverwaltung unterzeichnet, gemäss welchem eine Entschädigung der E._ AG in Form von Retrozessionszahlungen vereinbart wurde.
A.b. X._ wird vorgeworfen, er habe bei Aktientransaktionen zum Nachteil der C._ und der D._ zu anderen als den effektiv an der Börse erzielten Kursen abgerechnet. Von der VVKZ habe er in einer ersten Phase als Mitarbeiter der B._-Bank und vom 29. November 2001 bis 6. Februar 2003 als Angestellter der E._ AG Handelsaufträge zur bestmöglichen und interessewahrenden Ausführung entgegengenommen. Diese habe er der Geschäftseinheit B._-Bank Privat Banking weitergeleitet mit der Anweisung, die Aufträge über mehrere Börsentage zu handeln. Diese seien über das Börsenhandelssystem in zahlreichen Teilausführungen abgewickelt worden. Die gekauften und verkauften Titel seien sodann zu den effektiv erzielten Preisen auf einem Handelsdepot der B._-Bank verbucht und dort bis zur vollständigen Ausführung des Auftrages zwischengelagert worden (sog. "warehousing"). X._ habe sich jeweils über die aktuellen Tageshöchst- bzw. Tagestiefstkurse und den "Volume Weighted Average Price" (volumengewichteter Durchschnittskurs aller in der konkreten Handelsperiode durch sämtliche Marktteilnehmer getätigten Transaktionen in einem gehandelten Titel; VWAP) informiert. Daraufhin habe er einen vom effektiv erzielten Durchschnittskurs zu Ungunsten von C._ und D._ geringfügig abweichenden Kurs festgelegt und diesen gegenüber der VVKZ abrechnen lassen. Der Abrechnungskurs sei handschriftlich auf den jeweiligen Handelsfichen im dafür vorgesehenen Feld "Titelkurs" eingetragen und im Datenverarbeitungssystem der Bank erfasst worden. Die der VVKZ übermittelten Abrechnungen hätten das Abschlussdatum der Transaktion, die Anzahl gehandelter Titel und den durch X._ bestimmten Abrechnungskurs beinhaltet. Die Faxabrechnung habe den Hinweis enthalten, dass es sich um die genauen Daten der ausgeführten Aufträge handle. Nebst den zu leistenden Abgaben sei bis zum 27. November 2000 auch die Höhe der vereinbarten Kommission von 0.08 % aufgeführt worden. Ab dem 24. August 2001 seien die Geschäfte "netto" abgerechnet und die Kommission nicht mehr separat ausgewiesen worden. Durch die Abrechnungen sei die VVKZ über die an der Börse effektiv erzielten Preise getäuscht worden. Gestützt darauf habe sie bei der F._-Bank Instruktionen für die Abwicklung der Transaktionen (sog. Settlement) erteilt. Dadurch sei es zu vermögensschädigenden Dispositionen zu Lasten der betreuten Portfolios der C._ und der D._ gekommen. Durch die Berücksichtigung einer auf die tatsächlich erzielten Kurse berechneten Kommission von 0.08 % sei bezüglich der am 24. August 2001 verbuchten Transaktionen (Transaktionen Nr. 152 bis 155 gemäss Anhang zur Anklage) ein Schaden von Fr. 105'352.65 entstanden. Gleichzeitig sei die B._-Bank in diesem Umfang unrechtmässig bereichert worden. Für die in der Zeit vom 29. November 2001 bis 6. Februar 2003 (Transaktionen Nr. 156 bis Nr. 196 gemäss Anhang zur Anklage) getätigten Transaktionen sei unter Berücksichtigung einer auf die tatsächlich erzielten Kurse berechneten und geschuldeten Kommission von 0.08 % in den Portfolios von C._ und D._ ein Schaden von insgesamt Fr. 4'949'948.80 entstanden. Der B._-Bank sei ein unrechtmässiger Ertrag in gleicher Höhe zugeflossen, aus welchem sie der E._ AG Retrozessionen im Umfang von Fr. 2'287'991.55 ausbezahlt habe.
A.c. Das Bezirksgericht Zürich erklärte X._ am 20. November 2014 des mehrfachen Betrugs (Anklage Teil 1, Anklageziffern I. und II., Phasen 1a und 1b), des gewerbsmässigen Betrugs (Anklage Teil 1, Anklageziffer III., Phase 2) und der mehrfachen Urkundenfälschung (Anklage Teil 1, Anklageziffern I. bis III., Phasen 1a, 1b und 2) schuldig. Das Verfahren wegen mehrfachen Betrugs und Urkundenfälschung (Anklage Teil 1, Anklageziffer I., Transaktionen im Zeitraum vom 22. Mai bis 25. September 2000) stellte es infolge Verjährung ein. Es verurteilte X._ zu einer Freiheitsstrafe von 4 Jahren als Zusatzstrafe zu der mit Urteil des Obergerichts des Kantons Zürich vom 22. August 2014 ausgefällten Strafe.
B.
Das Obergericht des Kantons Zürich erklärte X._ am 28. April 2016 in zweiter Instanz in teilweiser Gutheissung seiner Berufung des Betrugs (Anklage Teil 1, Anklageziffer II., Phase 1b) und des gewerbsmässigen Betrugs (Anklage Teil 1, Anklageziffer III., Phase 2) schuldig und verurteilte ihn zu einer Freiheitsstrafe von 3 Jahren als Zusatzstrafe zur mit Urteil des Obergerichts vom 22. August 2014 ausgefällten Strafe. Das Verfahren in Bezug auf Anklage Teil 1, Anklageziffer I., Phase 1a (Transaktionen im Zeitraum vom 16. Oktober bis 27. November 2000) stellte es infolge Verjährung ein. Zudem sprach es ihn von der Anklage der mehrfachen Urkundenfälschung frei.
C.
X._ führt Beschwerde in Strafsachen. Er beantragt, er sei freizusprechen von den Vorwürfen des Betrugs (Anklage Teil 1, Anklageziffer II., Phase 1b) und des gewerbsmässigen Betrugs (Anklage Teil 1, Anklageziffer III., Phase 2). Eventualiter stellt er den Antrag auf Herabsetzung der Freiheitsstrafe als Zusatzstrafe zur mit Urteil des Obergerichts des Kantons Zürich vom 22. August 2014 ausgefällten Strafe auf ein Jahr Freiheitsstrafe. Subeventualiter seien Ziffer 3, 8 und 9 des angefochtenen Urteils aufzuheben, und es sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Schliesslich ersucht X._ um Gewährung der unentgeltlichen Rechtspflege.
Das Obergericht hat auf eine Vernehmlassung verzichtet. Die Staatsanwaltschaft schliesst auf Abweisung der Beschwerde. X._ verzichtet auf eine Stellungnahme zur Vernehmlassung.
Erwägungen:
1.
1.1. Der Beschwerdeführer rügt, die Vorinstanz verletze ihre Begründungspflicht. Sie setze sich mit seinen Vorbringen im Berufungsverfahren nicht auseinander, wonach es sich bei den am 24. August 2001 abgerechneten Transaktionen Nr. 152 bis Nr. 155 (gemäss Anhang der Anklage) nicht um an der Börse gehandelte Kommissionsgeschäfte, sondern um ausserbörsliche Transaktionen gehandelt habe.
1.2. Das rechtliche Gehör nach Art. 3 Abs. 2 lit. c StPO und Art. 29 Abs. 2 BV verlangt, dass die Behörde die Vorbringen des vom Entscheid in seiner Rechtsstellung Betroffenen auch tatsächlich hört, prüft und in der Entscheidfindung berücksichtigt. Daraus folgt die Verpflichtung der Behörde, ihren Entscheid zu begründen (Art. 81 Abs. 3 StPO). Dabei ist es nicht erforderlich, dass sie sich mit allen Parteistandpunkten einlässlich auseinandersetzt und jedes einzelne Vorbringen ausdrücklich widerlegt. Vielmehr kann sie sich auf die für den Entscheid wesentlichen Punkte beschränken. Die Begründung muss so abgefasst sein, dass sich der Betroffene über die Tragweite des Entscheids Rechenschaft geben und ihn in voller Kenntnis der Sache an die höhere Instanz weiterziehen kann. In diesem Sinne müssen wenigstens kurz die Überlegungen genannt werden, von denen sich die Behörde hat leiten lassen und auf die sich ihr Entscheid stützt (BGE 141 III 28 E. 3.2.4 S. 41; 139 IV 179 E. 2.2 S. 183; 138 IV 81 E. 2.2 S. 84; 134 I 83 E. 4.1 S. 88).
1.3. Die Vorinstanz hält fest, es sei nicht einzusehen, weshalb "Warehouse-Geschäfte" nur ausserbörslich getätigt werden könnten. Der Grund für die Ausführung einer Transaktion über mehrere Tage liege namentlich im möglichen Einfluss grösserer Käufe und Verkäufe auf den Kurswert ("market impact"). Dies sei jedoch nur dann der Fall, wenn die Papiere an der Börse bzw. auf dem Markt gehandelt würden. Bei grösseren Transaktionen habe sich die VVKZ nur dann Sorgen um einen möglichen negativen Einfluss auf den Kursverlauf machen müssen, wenn es sich um ein normales Kommissionsgeschäft gehandelt habe, bei dem das Kursrisiko bei der C._ oder der D._ gelegen habe. Aufgrund der eindeutigen Akten- und Beweislage sei rechtsgenüglich erstellt, dass die B._-Bank in Übereinstimmung mit der Anklage die vier am 24. August 2001 abgerechneten Börsengeschäfte als Kommissionärin auf eigenen Namen und auf Rechnung der C._ bzw. der D._ ausgeführt habe, ohne dabei ein Kursrisiko zu tragen. Die Vorinstanz wertete die Ausführungen des Beschuldigten anlässlich der Schlusseinvernahme vom 3. Oktober 2012, der vorinstanzlichen Hauptverhandlung und der Berufungsverhandlung, wonach es sich bei den verfahrensgegenständlichen Transaktionen um Handelsgeschäfte gehandelt habe, welche wegen der Verteilung der Order über einen längeren Zeitraum nicht an der Börse hätten ausgeführt werden können, als reine Schutzbehauptung. Damit hat die Vorinstanz die wesentlichen Überlegungen dargetan, von denen sie sich hat leiten lassen und auf die sie ihren Entscheid stützt. Dies genügt unter dem Gesichtspunkt der Begründungspflicht zur Wahrung des rechtlichen Gehörs. Eine Auseinandersetzung mit jedem einzelnen Vorbringen des Beschwerdeführers war nicht erforderlich. Es war dem Beschwerdeführer denn auch ohne weiteres möglich, sich über die Tragweite des Entscheids Rechenschaft zu geben und ihn in voller Kenntnis der Sache an die höhere Instanz weiterzuziehen. Ob die Begründung in der Sache zutrifft, ist eine Frage der Beweiswürdigung. Eine Verletzung der Begründungspflicht liegt nicht vor.
2.
2.1. Der Beschwerdeführer wendet sich gegen die vorinstanzliche Sachverhaltsfeststellung und rügt Willkür bei der Beweiswürdigung. Er macht geltend, die Vorinstanz gehe bezüglich der am 24. August 2001 abgerechneten Transaktionen Nr. 152 bis Nr. 155 (gemäss Anhang zur Anklage) fälschlicherweise von normalen, an der Börse gehandelten Kommissionsgeschäften aus. Vielmehr habe es sich um ausserbörsliche Geschäfte gehandelt, bei denen die Preisfindung zwischen den Parteien ausserhalb des Börsenhandelssystems abgewickelt werde. In einem solchen Fall suche die Bank eine Gegenpartei. Die Kaufofferte werde dabei vom Käufer der Bank mitgeteilt. Diese müsse den Verkäufer zwingend anfragen, ob er mit dem Preis einverstanden sei. Der Preis pro Aktie könne in diesem Fall deutlich vom aktuellen Börsenkurs abweichen. Solche Transaktionen müssten der Börse gemeldet werden. Bei der vermerkten Handelszeit von 08.31 Uhr handle es sich um ein sogenanntes Reporting. Dieses sei vorgeschrieben, wenn Transaktionen ausserhalb der Börsenzeit zwischen einem Verkäufer und einem Käufer von der Bank vermittelt würden. Das Reporting gegenüber der Börse müsse vor Handelsbeginn, d.h. vor 09.00 Uhr erfolgen, damit die Marktteilnehmer Kenntnis einer derartigen Aktienpaketverschiebung hätten. Im einzelnen bringt der Beschwerdeführer bezüglich der am 24. August 2001 abgerechneten Transaktionen vor, in den Verkaufsfichen für die 24 Aktien der G._ AG (Transaktion Nr. 152) und der 524 Aktien derselben Firma (Transaktion Nr. 153) werde ausdrücklich auf den ausserbörslichen Handel hingewiesen. Für den Verkauf von 1'050 Aktien der H._ AG (Transaktion Nr. 154) liege keine Handelsfiche vor, weshalb es diesbezüglich an sicheren Angaben über die Abwicklung fehle. Auch für den Verkauf von 14'630 Namenaktien der H._ AG (Transaktion Nr. 155) gebe es keine Handelsfiche. Aufgrund der angegebenen "Trade Time 08.31.00" müsse es sich dabei jedoch um eine ausserbörsliche Transaktion mit einem marktüblichen Abschlag gehandelt haben. Aufgrund der Abrechnung von Nettopreisen habe für alle Beteiligten festgestanden, dass der ausgewiesene Kurs neben dem erzielten Verkaufspreis auch noch eine Kommission der Bank enthalten habe. Für die vier erwähnten Transaktionen seien auch keine Faxabrechnungen erstellt worden, welche als Grundlage für die Settlementinstruktionen der VVKZ hätten dienen können. Von einer Täuschung über den tatsächlichen Kurs und die Kommission mittels falscher Abrechnungen könne daher nicht die Rede sein. Bei dem von Vorinstanz und Staatsanwaltschaft jeweils als "effektiv erzielter Kurswert" bezeichneten Betrag handle es sich nicht um diesen Wert, sondern um den von der Staatsanwaltschaft herangezogenen durchschnittlichen Marktkurs.
2.2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Die Sachverhaltsfeststellung der Vorinstanz kann vor Bundesgericht nur gerügt werden, wenn sie offensichtlich unrichtig bzw. willkürlich ist und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG; BGE 141 IV 317 E. 5.4 S. 324 mit Hinweisen). Willkür im Sinne von Art. 9 BV liegt nur vor, wenn die vorinstanzliche Beweiswürdigung schlechterdings unhaltbar ist, das heisst wenn die Behörde in ihrem Entscheid von Tatsachen ausgeht, die mit der tatsächlichen Situation in klarem Widerspruch stehen oder auf einem offenkundigen Fehler beruhen. Dass eine andere Lösung ebenfalls möglich erscheint, genügt nicht (BGE 141 IV 369 E. 6.3 S. 375, 305 E. 1.2 S. 308). Die Rüge der Willkür muss in der Beschwerde explizit vorgebracht und substanziiert begründet werden (Art. 106 Abs. 2 BGG). Auf eine rein appellatorische Kritik am angefochtenen Entscheid tritt das Bundesgericht nicht ein (BGE 141 IV 369 E. 6.3 S. 375).
2.3. Nach den Feststellungen der Vorinstanz liegt keine schriftliche Vereinbarung zwischen der VVKZ und der B._-Bank über die Konditionen des Aktienhandels bei den Akten. Gemäss den damaligen Richtlinien der B._-Bank habe im anklagerelevanten Zeitraum für Aktientransaktionen mit einem Volumen von über Fr. 1 Mio. für institutionelle Kunden grundsätzlich ein Kommissionssatz von 0.1 % gegolten. In Abweichung davon sei in den von der B._-Bank edierten Handelsfichen des Jahres 2000 unter dem Titel Kommission stets ein Wert von 0.08 % aufgeführt worden. Auch den Wertschriftenabrechnungen der B._-Bank und der Liste der Bank über sämtliche vom 22. Mai bis 27. November 2000 für die C._ und die D._ getätigten Handelstransaktionen sei ein Kommissionssatz von 0.08 % zu entnehmen. Die Vorinstanz schliesst aus dem von der B._-Bank gegenüber der VVKZ kommunizierten Kommissionssatz auf eine zumindest stillschweigende Vereinbarung. Bei den späteren Transaktionen sei die verrechnete Kommission infolge von Netto-Abrechnungen nicht mehr separat ausgewiesen, sondern direkt in den Kurs einberechnet worden. Auf die Konditionen hatte dies laut Vorinstanz jedoch keinen Einfluss. Sie stützt sich dabei insbesondere auf die Aussagen des für die Vermögensverwaltung der C._ zuständigen I._, Vermerke in einer bei der J._ AG sichergestellten Auflistung und ein "Manual" vom 8. Juni 2000/19. November 2002. Eine willkürliche Beweiswürdigung ist diesbezüglich nicht ersichtlich.
2.4.
2.4.1. Die Vorinstanz begründet weiter nachvollziehbar, weshalb sie es als erstellt erachtet, dass die B._-Bank alle verfahrensgegenständlichen Transaktionen an der Börse in eigenem Namen und für Rechnung der C._ bzw. D._ getätigt hat. Bei der Ausführung der Order habe die Bank kein Kursrisiko getragen. Dieses habe allein bei der C._ bzw. der D._ gelegen. Dabei stellte die Vorinstanz auf die Aussagen des Beschwerdeführers anlässlich der Hafteinvernahme vom 15. Dezember 2010 ab, wonach bei den "Warehouse-Geschäften" das Risiko schlussendlich beim Kunden gelegen habe. Auch gegenüber dem Haftrichter habe dieser erklärt, der Kunde trage, ausser bei einem garantierten Fixübernahmepreis, das Risiko. Diese Aussage habe sich mit den Ausführungen von K._, L._ und M._ gedeckt. Auch weitere einvernommene Führungskräfte der B._-Bank hätten das Kursrisiko bei den Transaktionen beim Kunden und nicht bei der Bank gesehen. Der Umstand, dass eine Kommission in Rechnung gestellt wurde, spricht laut Vorinstanz ebenfalls für ein Kommissionsgeschäft. Die Ausführungen des Beschwerdeführers, wonach Handelsgeschäfte getätigt worden seien, welche wegen der Verteilung der Order über einen längeren Zeitraum nicht an der Börse hätten ausgeführt werden können, machen nach Ansicht der Vorinstanz keinen Sinn.
2.4.2. Laut Vorinstanz steht aufgrund der Akten fest, dass am 24. August 2001 bei der B._-Bank vier Kommissionsgeschäfte abgerechnet wurden, welche die Titel G._ AG und H._ AG betrafen. Die Abrechnung sei "netto" erfolgt, ohne dass eine Kommission separat ausgewiesen worden sei. Am bisher geltenden Kommissionssatz von 0.08 % habe sich jedoch nichts geändert. Die Transaktionen seien an der Börse getätigt worden. Aufgrund der Abrechnung eines andern als des effektiv an der Börse erzielten Preises sei die C._ bzw. die D._ geschädigt worden. Für die am 24. August 2001 abgerechneten Transaktionen habe die B._-Bank gegenüber der VVKZ einen Verkaufspreis von Fr. 6'143'715.-- abgerechnet, während der von der B._-Bank effektiv am Markt erzielte Kurswert insgesamt Fr. 6'254'071.-- betragen habe. Unter Berücksichtigung der Kommission von 0.08 % sei in den Portfolios der C._ und der D._ ein Schaden von insgesamt Fr. 105'352.65 entstanden.
2.4.3. Was der Beschwerdeführer dagegen vorbringt, vermag die vorinstanzliche Annahme nicht als unhaltbar erscheinen zu lassen. Gemäss den sogenannten "Warehouse-Auszügen" der Bank wurden sowohl die Aktien der G._ AG (Transaktionen Nr. 152 und Nr. 153) wie auch jene der H._ AG (Transaktionen Nr. 154 und Nr. 155) über mehrere Tage an der Börse gehandelt. Der Verkauf von insgesamt 578 Aktien der G._ AG erfolgte zwischen dem 10. Juli und dem 23. August 2001 zu einem durchschnittlichen Kurs von Fr. 7'319.69723. Der Verkauf der Aktien der H._ AG (Total 15'680 Aktien) wurde zwischen dem 16. August und dem 23. August 2001 getätigt, wobei der durchschnittliche Kurs bei Fr. 129.03611 lag. Der errechnete Durchschnittskurs ergibt sich aus den der Gesamttransaktion zugrunde liegenden Einzelabschlüssen, welche bei den G._ AG Aktien im Handelszeitraum zwischen Fr. 7'200.-- und Fr. 7'360.-- und bei den H._ AG Aktien bei Fr. 110.-- bis Fr. 143.-- lagen. Gegenüber der C._ und der D._ wurden die Verkäufe der H._ AG Aktien am 24. August 2001 zum Kurs von Fr. 122.59 abgerechnet. Die gemäss den "Warhouse-Auszügen" der B._-Bank für die VVKZ getätigten Einzelabschlüsse sind in der Übersicht der Schweizer Börse über die von sämtlichen Börsenteilnehmern am jeweiligen Handelstag für einen bestimmten Titel getätigten Transaktionen aufgeführt. Die Aktien der G._ AG wurden gemäss den Abklärungen der Staatsanwaltschaft an der von der britischen Finanzaufsichtsbehörde (FSA) regulierten virt-x gehandelt. Nichts zu seinen Gunsten abzuleiten vermag der Beschwerdeführer aus der in der Wertschriftenabrechnung aufgeführten "Trade Time". Nur die für die C._ getätigte Transaktion der H._ AG Aktien ist mit dieser Zeit versehen. Für den Verkauf derselben Aktien der D._ wurde demgegenüber als Zeitpunkt 14.57 Uhr vermerkt. Wenn tatsächlich ausserbörsliche Handelsgeschäfte getätigt worden wären, hätten sämtliche Positionen vor Börsenbeginn ausgeführt und "raportiert" werden müssen. In den Handelsfichen für den Verkauf der Aktien der G._ AG wird das Geschäft zwar bankintern als "ausserbörslich" deklariert. Daraus kann indessen nicht ohne weiteres auf einen ausserbörslichen Handel geschlossen werden, zumal die Transaktionen in den Wertschriftenabrechnungen der Bank als Kommissionsgeschäfte bezeichnet werden. Eine offensichtlich unrichtige Sachverhaltsfeststellung der Vorinstanz vermag der Beschwerdeführer mit dem Hinweis auf die Bezeichnung in den Handelsfichen jedenfalls nicht zu begründen. Auch wenn für die Transaktionen Nr. 152 bis Nr. 155 keine Faxabrechnungen bei den Akten liegen, mussten der VVKZ in irgend einer Form Abrechnungen übermittelt worden sein. Diese benötigte sie, um das Settlement der Transaktionen durch die F._-Bank auszulösen. Die vorinstanzliche Beweiswürdigung hält insofern einer Willkürprüfung stand.
2.5. Die Vorinstanz geht mit überzeugender Begründung davon aus, dass der Beschwerdeführer zum Nachteil der C._ und der D._ vom jeweils erzielten Marktpreis abweichende Abrechnungspreise festlegte. Sie stützt sich dabei nebst den von ihr als konstant und stimmig betrachteten Aussagen des bei der Bank für die Börsenaufträge zuständigen N._, auf die von der B._-Bank eingereichten Aufstellungen über die betroffenen Transaktionen und die vom Beschwerdeführer selber erstellten Listen. N._ habe dem Beschwerdeführer nach Ausführung der von diesem in Auftrag gegebenen Transaktionen den erzielten Durchschnittskurs mitgeteilt. Anschliessend habe sich der Beschwerdeführer über die aktuellen Tageshöchst- und Tagestiefstwerte sowie den VWAP des betreffenden Titels erkundigt und anschliessend N._ den gegenüber der VVKZ bzw. der C._ und der D._ abzurechnenden Kurs genannt. Dieser Kurs sei immer zu Ungunsten von C._ und D._ ausgefallen. Die Vorinstanz verfällt nicht in Willkür wenn sie annimmt, die Angaben in den Abrechnungen seien insofern klar falsch und irreführend gewesen, als sie bei Käufen jeweils nicht den tatsächlich geschuldeten tieferen Kaufpreis und bei Verkäufen nicht die effektive Höhe des Verkaufserlöses auswiesen, sondern einen davon abweichenden, in keiner Weise nachvollziehbaren Betrag. Die Mitarbeiter der VVKZ seien damit über den effektiven Ausführungspreis getäuscht worden. Der Irrtum auf Seiten der VVKZ und die daraus resultierende vermögensschädigende Disposition zum Nachteil der C._ und der D._ war laut Vorinstanz vom Beschwerdeführer gewollt. Eine Kontrolle der abgerechneten Preise durch Dritte sei nicht möglich gewesen, da die Ausführungszeiten und Volumen der einzelnen Teilabschlüsse einer jeweils über mehrere Tage oder gar Wochen dauernden Orderausführung in den Abrechnungen nicht enthalten gewesen seien. Der Beschwerdeführer vermag nicht aufzuzeigen, inwiefern das vorinstanzliche Beweisergebnis schlechterdings nicht mehr vertretbar sein sollte.
3.
3.1. Nach dem Wechsel des Beschwerdeführers zur E._ AG plazierte dieser die Order nicht mehr direkt bei der Bank, sondern bei der E._ AG als externer Vermögensverwalterin der B._-Bank. Wie bisher leitete er die Order zur Ausführung an die im Handel der B._-Bank zuständigen Personen weiter. Gemäss den laut Vorinstanz übereinstimmenden und glaubhaften Aussagen des Beschwerdeführers und den Ausführungen der Mitarbeiter der B._-Bank wurde auch in dieser Phase kein Abrechnungspreis vereinbart. Die Bank habe bei der Ausführung der von ihr als Kommissionärin getätigten Order kein Kursrisiko getragen. Auch wenn netto abgerechnet worden sei, habe die Bank somit keinen Handelsgewinn erzielen können. Die Vorinstanz stützt sich dabei auf den Hinweis in den Wertschriftenabrechnungen der B._-Bank: "Gemäss Ihren Instruktionen haben wir als Kommissionär für Sie verkauft" bzw. "Wir haben als Kommissionär an der virt-x für sie gekauft" oder "Netto Kommission Schweiz". Sie ging davon aus, dass die Verantwortlichen der C._ und der D._ von einem festen Kommissionssatz von nach wie vor 0.08 % ausgingen, der mit dem Kurswert verrechnet werde. Die Retrozessionsvereinbarung zwischen der VVKZ und der E._ AG vom 5. November 2001 interpretierte die Vorinstanz dahingehend, dass damit gegenüber der VVKZ der Eindruck habe erweckt werden sollen, die für die C._ und die D._ getätigten Kommissionsgeschäfte würden weiterhin 0.08 % Courtage kosten, wobei der E._ AG hiervon als Entschädigung 1/8 in Form einer Retrozession überwiesen werde. Dies schloss sie unter anderem aufgrund einer handschriftlichen Notiz des Beschwerdeführers vom 20. November 2001. Effektiv habe dieser jedoch die Retrozession auf 50 % des Nettohandelsertrages abrechnen lassen. Auch bezüglich dieser Phase (Transaktionen Nr. 156 bis Nr. 196 gemäss Anhang der Anklage) durfte die Vorinstanz aufgrund der Aussagen von Bankmitarbeitern annehmen, dass die Bank zu einem vom Beschwerdeführer genannten Preis abrechnete. Dies wurde von diesem auch nicht in Abrede gestellt. Die Preisdifferenz liess sich laut Vorinstanz nicht unter dem Titel Refinanzierungs- bzw. Borrowingkosten oder sonstigen Kosten der Bank rechtfertigen, weil diese bankintern bereits in den Kurs einberechnet worden waren. Diese Auffassung sieht die Vorinstanz darin bestätigt, dass das Audit Department der Bank in einem Memorandum vom 4. April 2003 zum Schluss kam, dass sich die Preisdifferenz zwischen effektiv erzieltem und gegenüber der C._ abgerechnetem Preis unter keinem Titel erklären liess und als sogenannter Kursschnitt (Abrechnung eines anderen als der am Markt erzielte Preis zu Ungunsten des Kunden) betrachtet wurde. Eine Kontrolle der abgerechneten Preise durch Dritte sei praktisch nicht möglich gewesen und hätte ohne Mitwirkung der Bank nicht durchgeführt werden können. Gemäss den bei der Bank und beim Beschwerdeführer sichergestellten Daten habe für die B._-Bank aufgrund der Differenz zwischen den effektiv erzielten und den gegenüber der VVKZ abgerechneten Kursen ein Ertrag von Fr. 5'136'147.-- resultiert. Unter Berücksichtigung einer auf die tatsächlich erzielten Kurse berechneten und geschuldeten Kommission von 0.08 % sei in den Portfolios der C._ und der D._ ein Schaden von insgesamt Fr. 4'949'948.-- entstanden. In diesem Umfang seien B._-Bank und E._ AG ungerechtfertigt bereichert worden. Von den Retrozessionszahlungen der B._-Bank habe der Beschwerdeführer gemäss den vorliegenden Abrechnungen im Jahr 2002 einen Betrag von Fr. 813'804.-- erhalten.
3.2. Wie der Beschwerdeführer selber einräumt, ist die Retrozessionsvereinbarung vom 5. November 2001 nicht nur unklar und widersprüchlich, sondern auch aussergewöhnlich. Es werden sowohl "straight trades mit genereller Ticket fee von 0.08 %" und einer Retrozession von 0.01 % als auch "net trades mit Handelsgewinn" und einer Retrozession von 50 % des Nettohandelsertrages erwähnt. Inwiefern die Vorinstanz bei ihrer Auslegung, wonach bezüglich der für die C._ und die D._ getätigten Kommissionsgeschäfte auch nach dem Wechsel des Beschwerdeführers zur E._ AG weiterhin ein Kommissionssatz von 0.08 % gelten sollte, in Willkür verfallen wäre, vermag der Beschwerdeführer nicht aufzuzeigen. Soweit er geltend macht, eine Kommission von 8 Basispunkten wäre für die B._-Bank gar nicht kostendeckend gewesen, dringt er damit nicht durch. Wie die Vorinstanz annimmt, beschränkten sich die Leistungen der Bank auf Entgegennahme, Ausführung, Abrechnung und Settlement der Börsenaufträge der VVKZ. Üblich war damals laut den Abklärungen der Staatsanwaltschaft ein Kommissionssatz von 0.1 %. Es ist durchaus denkbar, dass die Bank der VVKZ aufgrund des grossen gehandelten Volumens einen Vorzugssatz von 0.08 % anbot, um damit einen Grosskunden zu gewinnen. Im Zusammenhang mit den Transaktionen Nr. 156 bis Nr. 196 hätte daraus nach den Feststellungen der Vorinstanz ein Kommissionsertrag in Höhe von Fr. 186'198.-- resultiert. Der Beschwerdeführer legt nicht substantiiert dar, weshalb dies für die Bank nicht hätte kostendeckend sein können. Er begründet auch nicht nachvollziehbar, weshalb für die Honorierung der Dienstleistungen der B._-Bank ein Ertrag aus sog. Kursschnitten in Millionenhöhe generiert werden musste. Die Bestimmung eines höheren bzw. tieferen Kurses zu Gunsten der B._-Bank und der E._ AG nach Abschluss einer Transaktion ist objektiv nicht nachvollziehbar. Eine offensichtlich unrichtige Sachverhaltsfeststellung und willkürliche vorinstanzliche Beweiswürdigung ist nicht auszumachen. Die Rügen des Beschwerdeführers erweisen sich als unbegründet.
4.
4.1. Bei der rechtlichen Würdigung ging die Vorinstanz davon aus, dass die VVKZ durch den vom Beschwerdeführer willkürlich festgesetzten Transaktionskurs über den tatsächlich gehandelten Kurswert bzw. den effektiv erzielten Kaufpreis oder Verkaufserlös getäuscht worden sei. Die Täuschung liege in den nicht der Wahrheit entsprechenden Transaktionskursen auf den der VVKZ zugestellten Fax- und Wertschriftenabrechnungen begründet. Dabei habe sich der Beschwerdeführer die Besonderheiten der auszuführenden Transaktionen, die Eigenheiten der Geschäftsabwicklung über das System der B._-Bank und die unklare Retrozessionsvereinbarung vom 5. November 2001 zunutze gemacht. Er sei sich der fehlenden Nachvollziehbarkeit der Kursberechnung bewusst gewesen und habe diese zur Verschleierung seines Täuschungsmanövers gezielt ausgenutzt. Den Kurs habe dieser jeweils so gestaltet, dass die VVKZ keinen Verdacht habe schöpfen können. Zudem habe er sich das von dieser der Grossbank gegenüber entgegengebrachte Vertrauen in die Rechtmässigkeit ihrer Geschäftsabwicklungen zu nutze gemacht. Auch das Vertrauen seines als Chef der VVKZ amtenden Freundes I._ habe er ausgenutzt. Das täuschende Verhalten des Beschwerdeführers qualifizierte die Vorinstanz aufgrund des von ihm geschaffenen Systems bei der Kursfestsetzung als raffiniert und ausgeklügelt und demgemäss als arglistig im Sinne von Art. 146 Abs. 1 StGB. Der Irrtum der VVKZ lag laut Vorinstanz darin, dass sie annahm, die B._-Bank habe durch die Börsengeschäfte keine weiteren Einkünfte als die vereinbarte Kommission von 0.08 % erzielt.
4.2.
4.2.1. Der Beschwerdeführer wendet sich gegen die rechtliche Qualifikation seiner Tat als Betrug im Sinne von Art. 146 StGB. Er ist der Ansicht, dass sein Verhalten nicht als arglistig bezeichnet werden könne. Die VVKZ habe hinsichtlich der Kontrolle der Abrechnungen ihre Sorgfaltspflichten verletzt. Sie hätte den Irrtum durch zumutbare Überprüfung der Transaktionen und deren Abrechnungen vermeiden können.
4.2.2. Gemäss Art. 146 Abs. 1 StGB macht sich des Betrugs schuldig, wer in der Absicht, sich oder einen andern unrechtmässig zu bereichern, jemanden durch Vorspiegelung oder Unterdrückung von Tatsachen arglistig irreführt oder ihn in einem Irrtum arglistig bestärkt und so den Irrenden zu einem Verhalten bestimmt, wodurch dieser sich selbst oder einen andern am Vermögen schädigt. Handelt der Täter gewerbsmässig, so wird er mit Freiheitsstrafe bis zu zehn Jahren oder Geldstrafe nicht unter 90 Tagessätzen bestraft (Abs. 2).
4.2.3. Der Tatbestand erfordert eine arglistige Täuschung. Betrügerisches Verhalten ist strafrechtlich nur relevant, wenn der Täter mit einer gewissen Raffinesse oder Durchtriebenheit täuscht. Dieses Erfordernis ist erfüllt, wenn der Täter ein ganzes Lügengebäude errichtet oder sich besonderer Machenschaften oder Kniffe bedient. Einfache falsche Angaben erfüllen das Merkmal der Arglist, wenn deren Überprüfung nicht oder nur mit besonderer Mühe möglich oder nicht zumutbar ist, sowie dann, wenn der Täter das Opfer von der möglichen Überprüfung abhält oder er nach den Umständen voraussieht, dass dieses die Überprüfung der Angaben aufgrund eines besonderen Vertrauensverhältnisses unterlassen werde. Soweit das Täuschungsopfer den Irrtum mit einem Mindestmass an Aufmerksamkeit hätte vermeiden können, ist die Täuschung nicht arglistig. Ob die Täuschung arglistig ist, beurteilt sich unter Berücksichtigung der jeweiligen Schutzbedürftigkeit des Täuschungsopfers bzw. seiner allenfalls vorhandenen besonderen Fachkenntnis und Geschäftserfahrung im Einzelfall. Der Tatbestand erfordert indessen nicht, dass das Täuschungsopfer die grösstmögliche Sorgfalt walten lässt und alle erdenklichen Vorkehren zu seinem Schutz trifft. Arglist scheidet nur ausnahmsweise aus, nämlich wenn das Opfer leichtfertig die grundlegendsten Vorsichtsmassnahmen nicht beachtet, so dass das täuschende Verhalten des Täters in den Hintergrund tritt (BGE 142 IV 153 E. 2.2.2 S. 154 ff.; 135 IV 76 E. 5.2 S. 79 ff.).
4.2.4. Die Vorinstanz hat eine zum Ausschluss der Arglist führende Opfermitverantwortung verneint mit der Begründung, den Verantwortlichen der VVKZ bzw. der C._ und D._ sei eine Überprüfung der Transaktionen und deren Abrechnung gar nicht möglich gewesen. Sie habe der Schweizer Grossbank bei der Vertragsabwicklung ein gewisses Vertrauen entgegenbringen dürfen. Das Investment-Controlling habe die VVKZ entsprechend den Richtlinien der Finanzdirektion über die Anlage der Vermögenswerte der C._ an die externe Controllingstelle O._ delegiert. Deren Überprüfungsmöglichkeiten seien angesichts der zur Verfügung gestandenen Belege zu den von der B._-Bank ausgeführten Order eingeschränkt gewesen. Selbst bei umfassender und pflichtgemässer Überprüfung der Geschäftsabwicklung hätte diese die fehlerhafte Abrechnung nicht feststellen können. Insbesondere hinsichtlich der gehandelten Kurse sei keine detaillierte rechnerische Nachprüfung möglich gewesen. Die O._ habe sich daher auf eine Plausibilitätsprüfung beschränken müssen. Die Vorinstanz weist in diesem Zusammenhang darauf hin, dass selbst der Audit der Bank nicht in der Lage war, den berechneten Kurs zu verifizieren.
4.2.5. Was der Beschwerdeführer dagegen vorbringt, vermag keine Bundesrechtswidrigkeit der vorinstanzlichen Beurteilung zu begründen. Da die abgerechneten Kurse nicht auffällig stark vom jeweiligen Durchschnittskurs abwichen, musste die O._ keinen Verdacht schöpfen. Mit den ihr zur Verfügung gestandenen Mitteln war es dieser überdies gar nicht möglich, die ungerechtfertigten Kursabweichungen aufzudecken. Es kann ihr daher kein geradezu leichtfertiges Verhalten vorgeworfen werden. Die Vorinstanz hat eine Opfermitverantwortung zu Recht verneint und den objektiven Tatbestand des Betrugs als erfüllt betrachtet.
4.3. Die Vorinstanz hält zutreffend fest, dass der Beschwerdeführer durch sein Verhalten auch den subjektiven Tatbestand des Betrugs erfüllt hat. Dieser habe hinsichtlich der objektiven Tatbestandsmerkmale wissentlich und willentlich und damit direktvorsätzlich gehandelt. Er habe die VVKZ über den Kurswert und den Preis der durch die B._-Bank gehandelten Titel täuschen wollen. Dabei habe er bewusst die handelstechnischen Besonderheiten ausgenutzt. Es sei ihm klar gewesen, dass die VVKZ aufgrund der ihr zugestellten Belege das Settlement veranlassen und so eine sich selbst schädigende Vermögensdisposition vornehmen würde.
4.4. Hinsichtlich der von der Vorinstanz mit Bezug auf die Transaktionen Nr. 156 bis Nr. 196 bejahten Gewerbsmässigkeit gemäss Art. 146 Abs. 2 StGB beschränkt sich der Beschwerdeführer darauf zu bestreiten, dass diese gegeben sei, ohne seinen Standpunkt zu begründen und sich mit den vorinstanzlichen Ausführungen auseinanderzusetzen. Auf die Beschwerde ist daher in diesem Punkt nicht einzutreten.
5.
5.1. Die Vorinstanz bemisst die Zusatzstrafe nach Art. 49 Abs. 2 StGB (bzw. Art. 68 Ziff. 2 aStGB) in retrospektiver Konkurrenz mit der vom Obergericht des Kantons Zürich am 22. August 2014 verhängten Freiheitsstrafe von 2 1/2 Jahren (Grundstrafe) wegen mehrfacher Anstiftung zu ungetreuer Amtsführung und mehrfacher Bestechung. Die hypothetische Einsatzstrafe für den gewerbsmässigen Betrug setzt sie auf 2 1/2 Jahre Freiheitsstrafe fest. Dabei verneint sie eine Verletzung des Beschleunigungsgebots gemäss Art. 5 StPO aufgrund der Verfahrensabtrennung. Die Abtrennung komme dem Beschwerdeführer insofern zugute, als im ersten Verfahren eine teilbedingte Strafe ausgesprochen worden sei, was im Falle einer Gesamtbeurteilung in einem einzigen Verfahren aufgrund der Strafhöhe nicht möglich gewesen wäre. Dem Umstand, dass die Betrugshandlungen zeitlich sehr weit zurückliegen, trägt sie mit einer Reduktion der hypothetischen Einsatzstrafe im Sinne von Art. 48 lit. e StGB um ein halbes Jahr Rechnung. Die Einsatzstrafe erhöht sie in Anwendung des Asperationsprinzips auf eine Freiheitsstrafe von 3 Jahren und 2 Monate (Art. 49 Abs. 1 StGB). Die hypothetische Gesamtstrafe für die neuen Taten erhöht sie nochmals strafschärfend in Berücksichtigung der Freiheitsstrafe für die früher beurteilten Taten auf eine Freiheitsstrafe von 5 1/2 Jahren. Von dieser hypothetischen Gesamtstrafe bringt sie die Grundstrafe in Abzug, woraus eine zu vollziehende Zusatzstrafe von 3 Jahren Freiheitsstrafe resultiert (vgl. BGE 142 IV 265 E. 2.3.3. S. 268).
5.2. Bezüglich der Strafzumessung rügt der Beschwerdeführer unter Hinweis auf Art. 47 ff. StGB und Art. 5 StPO, von Art. 29 Abs. 1 BV sowie von Art. 6 Ziff. 1 EMRK eine fehlerhafte Strafzumessung. Er macht geltend, angesichts des langen Zeitablaufs, der Verletzung des prozessualen Beschleunigungsgebotes und der seit dem Jahr 2010 andauernden Medienkampagne sei die Strafe auf ein Jahr Freiheitsstrafe als Zusatzstrafe zur mit Urteil des Obergerichts des Kantons Zürich vom 22. August 2014 ausgefällten Strafe festzusetzen.
5.3.
5.3.1. Zunächst ist darauf hinzuweisen, dass die Vorinstanz die Anwendung des Strafminderungsgrundes von Art. 48 lit. e StGB nicht verneint hat, sondern gestützt auf diese Bestimmung für die Betrugshandlungen eine Strafreduktion von einem halben Jahr gewährt hat. Der Beschwerdeführer legt nicht dar und es ist auch nicht ersichtlich, inwiefern die Strafreduktion höher hätte veranschlagt werden sollen.
5.3.2. Das Beschleunigungsgebot (Art. 5 StPO, Art. 29 Abs. 1 BV und Art. 6 Ziff. 1 EMRK) verpflichtet die Behörden, das Strafverfahren voranzutreiben, um die beschuldigte Person nicht unnötig über die gegen sie erhobenen Vorwürfe im Ungewissen zu lassen (vgl. BGE 133 IV 158 E. 8 S. 170; 130 IV 54 E. 3.3.1 S. 54 f.). Nach Art. 30 StPO können Staatsanwaltschaft und Gerichte aus sachlichen Gründen Strafverfahren trennen oder vereinen. Die Verfahrenstrennung soll vor allem der Verfahrensbeschleunigung dienen bzw. helfen, eine unnötige Verzögerung zu vermeiden (Urteil 6B_1030/2015 vom 13. Januar 2017 E. 2.3.1).
Aufgrund des Umstandes, dass das hier zu beurteilende Betrugsverfahren nachträglich aus dem Korruptionsverfahren hervorging sowie mit Blick auf die Komplexität der Materie und der in rechtlicher Hinsicht unterschiedlich zu beurteilenden Problemfelder ist nicht ersichtlich, inwiefern die separate Beurteilung ursächlich für eine längere Verfahrensdauer gewesen sein soll. Dies wird vom Beschwerdeführer auch nicht näher dargelegt. Eine Verletzung des Beschleunigungsgebots und des Anspruchs auf ein faires Verfahren wegen der Verfahrenstrennung ist nicht auszumachen.
5.3.3. Nach der Rechtsprechung des Bundesgerichts ist eine Vorverurteilung von Tatverdächtigen in der Medienberichterstattung je nach Schwere der Rechtsverletzung als Strafzumessungsgrund zu gewichten. Der Beschuldigte hat darzutun, dass die Berichterstattung ihn vorverurteilt hat (BGE 128 IV 97 E. 3b/aa S. 104 und E. 3b/bb S. 106; Urteile 6B_1298/2016 vom 27. April 2017 E. 1.11; 6B_1110/2014 vom 19. August 2015 E. 4.3, nicht publ. in: BGE 141 IV 329). Der Beschwerdeführer musste aufgrund des Umstandes, dass eine Schweizerische Grossbank sowie die Vermögensverwaltung des Kantons Zürich respektive die C._ und die D._ involviert waren, mit einer starken Medienresonanz rechnen. Inwiefern diese zu einer massgebenden Vorverurteilung führte, welche eine Strafminderung in grösserem Umfang nahegelegt hätte, zeigt der Beschwerdeführer nicht auf.
5.3.4. Die Rügen betreffend die Nichtberücksichtigung von Strafmilderungsgründen bzw. strafmildernden Umständen sind unbegründet.
6.
Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Die Kosten sind dem unterliegenden Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG). Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung ist abzuweisen, weil die Beschwerde von vornherein aussichtslos war. Der finanziellen Lage des Beschwerdeführers ist mit herabgesetzten Gerichtskosten Rechnung zu tragen (Art. 65 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
3.
Die Gerichtskosten von Fr. 1'200.-- werden dem Beschwerdeführer auferlegt.
4.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Strafkammer, schriftlich mitgeteilt.
Lausanne, 19. Juli 2017
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Denys
Die Gerichtsschreiberin: Hofer