Sachverhalt:
A.
A.a. Das Bezirksgericht Winterthur sprach X._ am 20. Januar 2011 der Erpressung (<ref-law>), der Freiheitsberaubung (<ref-law>), der mehrfachen, teilweise versuchten einfachen Körperverletzung (Art. 123 Ziff. 1 Abs. 1 und Ziff. 2 Abs. 6 StGB, teilweise i.V.m. <ref-law>), der mehrfachen Drohung (<ref-law>), der mehrfachen, teilweise versuchten Nötigung (<ref-law>, teilweise i.V.m. <ref-law>), des Hausfriedensbruchs (<ref-law>), der mehrfachen Pornografie (<ref-law>), der groben Verletzung der Verkehrsregeln (<ref-law> i.V.m. Art. 26 Abs. 1 und Art. 31 Abs. 3 SVG), des unbefugten Aufnehmens von Gesprächen (<ref-law>), der mehrfachen Tätlichkeiten (Art. 126 Abs. 1 und 2 lit. c StGB), der geringfügigen Sachbeschädigung (<ref-law> i.V.m. <ref-law>), des geringfügigen betrügerischen Missbrauchs einer Datenverarbeitungsanlage (<ref-law> i.V.m. <ref-law>) und der mehrfachen Übertretung des Betäubungsmittelgesetzes (<ref-law>) schuldig. Es verurteilte ihn zu einer bedingten Freiheitsstrafe von 15 Monaten sowie einer Busse von Fr. 2'000.-- und ordnete eine ambulante Behandlung im Sinne von <ref-law> an. Zudem widerrief es die mit Urteil des Bezirksgerichts Winterthur am 8. Februar 2006 bedingt ausgefällte Freiheitsstrafe von acht Monaten. X._ und die Staatsanwaltschaft erhoben gegen dieses Urteil Berufung.
A.b. Das Obergericht des Kantons Zürich bestätigte am 15. Dezember 2011 auf Berufung des Verurteilten und der Staatsanwaltschaft den erstinstanzlichen Schuldspruch wegen grober Verkehrsregelverletzung. Die übrigen Schuldsprüche erwuchsen unangefochten in Rechtskraft. Es verurteilte X._ am 28. Januar 2013 zu einer unbedingten Freiheitsstrafe von 33 Monaten und einer Busse von Fr. 2'000.--. Es verzichtete auf den Widerruf der am 8. Februar 2006 bedingt ausgesprochenen Freiheitsstrafe von acht Monaten und verlängerte die Probezeit um 11/2 Jahre. Von der Anordnung einer ambulanten Behandlung sah es ab.
B.
X._ führt Beschwerde in Strafsachen mit den Anträgen, das Urteil des Obergerichts aufzuheben und die Sache zur neuen Entscheidung an die Vorinstanz zurückzuweisen.
C.
Das Obergericht und die Staatsanwaltschaft verzichteten auf eine Stellungnahme.

Erwägungen:
1.
1.1. Der Beschwerdeführer rügt eine Verletzung von <ref-law>. Die Vorinstanz hätte für die Freiheitsberaubung (schwerste Tat) eine Einsatzstrafe bilden müssen. Stattdessen habe sie methodisch falsch auch die versuchte Körperverletzung zum Nachteil von Y._ und die Nötigung quasi als einheitliches Tatgeschehen in die Bemessung der Einsatzstrafe einbezogen. Gegen dieses Vorgehen spreche auch, dass die Nötigung kein eigenes "Tatsubstrat" habe, sondern sich in der Freiheitsberaubung und der Körperverletzung erschöpfe. Selbst wenn die Vorinstanz richtig vorgegangen wäre, so würde sich eine Einsatzstrafe von zwölf Monaten in keiner Weise rechtfertigen. Die Höhe der Strafe sei schlechterdings nicht nachvollziehbar.
Der Beschwerdeführer beanstandet weiter, die Vorinstanz verletze das Asperationsprinzip, da sie sich weitgehend von der Summe der einzelnen Strafen leiten lasse. Dadurch vernachlässige sie die erforderliche Gesamtstrafzumessung (Gewichtung von Zahl und Schwere der Einzeltaten, Verhältnis der Taten zueinander, zusammenfassende Würdigung der Person des Täters). Das schematische Aufaddieren von Einzelstrafen zur vorgängig festgelegten Einsatzstrafe sei methodisch nicht vertretbar. Die Strafe von 33 Monaten sei unverhältnismässig hoch.
1.2.
1.2.1. Das Bundesgericht hat die Grundsätze der Strafzumessung nach <ref-law> wiederholt dargelegt (<ref-ruling> E. 5.4 ff. mit Hinweisen). Es greift in die Strafzumessung nur ein, wenn die Vorinstanz den gesetzlichen Strafrahmen über- oder unterschritten hat, wenn sie von rechtlich nicht massgebenden Kriterien ausgegangen ist, wesentliche Gesichtspunkte ausser Acht gelassen bzw. in Überschreitung oder Missbrauch ihres Ermessens falsch gewichtet hat (<ref-ruling> E. 5.6; <ref-ruling> E. 5.3.1; <ref-ruling> E. 2.1).
1.2.2. Hat der Täter durch eine oder mehrere Handlungen die Voraussetzungen für mehrere gleichartige Strafen erfüllt, so verurteilt ihn das Gericht zu der Strafe der schwersten Straftat und erhöht sie angemessen. Es darf jedoch das Höchstmass der angedrohten Strafe nicht um mehr als die Hälfte erhöhen und ist an das gesetzliche Höchstmass der Strafart gebunden (<ref-law>). Bei der Bildung der Gesamtstrafe nach <ref-law> hat der Richter in einem ersten Schritt den Strafrahmen für die schwerste Straftat zu bestimmen und alsdann die Einsatzstrafe für diese Tat, unter Einbezug aller straferhöhenden und strafmindernden Umstände, innerhalb dieses Strafrahmens festzusetzen. In einem zweiten Schritt hat er diese Einsatzstrafe unter Einbezug der anderen Straftaten in Anwendung des Asperationsprinzips angemessen zu einer Gesamtstrafe zu erhöhen, wobei er ebenfalls den jeweiligen Umständen Rechnung zu tragen hat (<ref-ruling> E. 2b mit Hinweis; Urteil 6B_460/2010 vom 4. Februar 2011 E. 3.3.4 mit Hinweis, nicht publ. in: <ref-ruling>).
1.2.3. Der Beschwerdeführer hinderte seine damalige Freundin Y._ am 1. Januar 2009, seine Wohnung zu verlassen, indem er die Wohnungstüre abschloss und den Schlüssel zog. Zudem verlangte er wiederholt und mit Nachdruck ihre SIM-Karte heraus, da er ihren SMS-Verkehr kontrollieren wollte. Als sich Y._ weigerte, ihm die SIM-Karte auszuhändigen, packte er sie mit beiden Händen an den Schultern und schlug sie mehrmals gegen die Wand. Sodann würgte er sie mit seiner rechten Hand während ca. 10 Sekunden am Hals, wodurch sie sich in potenzieller Lebensgefahr befand. Um weitere Gewalttätigkeiten zu vermeiden, übergab sie dem Beschwerdeführer schliesslich die SIM-Karte ihres Mobiltelefons (Urteil S. 23 f.; erstinstanzliches Urteil S. 11 ff.). Der Beschwerdeführer wurde für diese Taten der Freiheitsberaubung, der versuchten einfachen Körperverletzung und der Nötigung schuldig gesprochen. Die Vorinstanz geht grundsätzlich von der Freiheitsberaubung als schwerster Tat aus, was der Beschwerdeführer nicht beanstandet. Sie erwägt, die Freiheitsberaubung könne nicht völlig losgelöst vom ganzen inkriminierten Vorfall gesehen werden. Die Freiheitsberaubung habe an sich nur kurze Zeit gedauert. Während der Freiheitsberaubung hätten auch die versuchte Körperverletzung zum Nachteil von Y._ und die Nötigung stattgefunden. Aufgrund des einheitlichen Tatgeschehens rechtfertige es sich, für diese drei Delikte zusammen eine Einsatzstrafe zu bestimmen (Urteil S. 23).
1.2.4. Dieses Vorgehen entspricht nicht den Vorgaben der bundesgerichtlichen Rechtsprechung. Danach hat das Gericht für die Tat, die gemäss abstrakter Strafdrohung des Gesetzes mit der höchsten Strafe bedroht ist, eine Einsatzstrafe festzusetzen (<ref-ruling> E. 2c/bb; Urteil 6B_1008/2010 vom 8. September 2011 E. 5.3.3). Dies wäre vorliegend grundsätzlich möglich gewesen, auch wenn der Freiheitsberaubung als abstrakt schwerster Tat neben der konkret weit schwereren versuchten Körperverletzung und der Nötigung des gleichen Tatkomplexes wenig Gewicht zukommt. Das methodisch nicht in jeder Hinsicht korrekte Vorgehen der Vorinstanz schadet dem Beschwerdeführer jedoch nicht, da die Strafe von zwölf Monaten für die Vorkommnisse vom 1. Januar 2009 in der Wohnung des Beschwerdeführers dennoch nachvollziehbar ist. Der Beschwerdeführer behauptet zudem nicht, die Strafe wäre tiefer ausgefallen, wenn die Vorinstanz gedanklich zuerst für die Freiheitsberaubung eine Einsatzstrafe festgesetzt hätte. Die Vorinstanz gewichtet insbesondere sein massives Vorgehen gegen die Geschädigte. Dass es bezüglich der Körperverletzung lediglich bei einem Versuch blieb, sei mehr dem Zufall zu verdanken als dem Verhalten des Beschwerdeführers. Dies führt gemäss der Vorinstanz nur in einem geringen Umfang zu einer Relativierung des Verschuldens (Urteil S. 24). Der Beschwerdeführer setzt sich in seiner Kritik mit der verschuldensmässig schwersten Tat der versuchten Körperverletzung nicht auseinander. Unbegründet ist zudem der Einwand, die Nötigung erschöpfe sich in der Freiheitsberaubung und der Körperverletzung. Der Beschwerdeführer erreichte dadurch, dass Y._ ihm die SIM-Karte ihres Telefons aushändigte, welche er später auch zum Telefonieren gebrauchte. Geschütztes Rechtsgut von <ref-law> ist die Handlungsfreiheit bzw. die Freiheit der Willensbildung und -betätigung des Einzelnen (<ref-ruling> E. 3.6; <ref-ruling> E. 2.1). Die sinngemässe Kritik des Beschwerdeführers, die Nötigung habe nebst der Freiheitsberaubung und der versuchten Körperverletzung keine Auswirkung auf das Verschulden, geht bereits angesichts des unterschiedlichen Schutzzwecks der betroffenen Strafnormen fehl. Die Strafe von zwölf Monaten hält sich im Rahmen des sachrichterlichen Ermessens.
1.3.
1.3.1. Bei der Bildung der Gesamtstrafe hat das Gericht von der Einsatzstrafe auszugehen und diese in einer Gesamtwürdigung angemessen zu erhöhen. Zwar ist es dem Gericht dabei nicht untersagt, zunächst für jede Einzeltat eine selbstständige Strafe festzusetzen, zumal es die Überlegungen, die es bei der Bemessung der Strafe angestellt hat, in seinem Urteil so darstellen muss, dass erkennbar wird, welche Gesichtspunkte es in welchem Sinne berücksichtigt hat. Verlangt wird jedoch, dass es dennoch die erforderliche Gesamtstrafzumessung vornimmt. Bei der Bemessung der Gesamtstrafe müssen die einzelnen Straftaten in einem selbstständigen Schritt innerhalb des (allenfalls erweiterten) Strafrahmens gemäss <ref-law> gewürdigt werden. Dabei sind namentlich das Verhältnis der einzelnen Taten untereinander, ihr Zusammenhang, ihre grössere oder geringere Selbstständigkeit sowie die Gleichheit oder Verschiedenheit der verletzten Rechtsgüter und Begehungsweisen zu berücksichtigen. Der Gesamtschuldbeitrag des einzelnen Delikts wird dabei geringer zu veranschlagen sein, wenn die Delikte zeitlich, sachlich und situativ in einem engen Zusammenhang stehen (zum Ganzen Urteil 6B_323/2010 vom 23. Juni 2010 E. 3.2).
1.3.2. Die Vorinstanz erhöht die Strafe von zwölf Monaten unter Einbezug der weiteren Straftaten in Anwendung des Asperationsprinzips, was eine zweite Einsatzstrafe im Bereich von 30 Monaten ergab (Urteil E. 4.5 S. 28). Hierzu setzt sie zunächst für die weiteren Straftaten - ausser für das unbefugte Aufnehmen des Gesprächs mit der Geschädigten Z._, das nicht gross ins Gewicht falle - die Strafe fest, welche sie in Berücksichtigung des objektiven und subjektiven Tatverschuldens ausgefällt hätte, wenn das Delikt alleine zu beurteilen gewesen wäre (Urteil E. 4.4 S. 26 ff.). Straferhöhend berücksichtigt sie bei den Täterkomponenten die - im Wesentlichen nicht einschlägige - Vorstrafe (Widerhandlungen gegen das SVG) sowie die erneute Delinquenz während der Probezeit der Vorstrafe und der laufenden Strafuntersuchung im vorliegenden Verfahren. Leicht strafmindernd wertet sie mit Hinweis auf das erstinstanzliche Urteil hingegen das teilweise Geständnis. Zugunsten des Beschwerdeführers veranschlagt sie bei den Täterkomponenten zudem, dass er sich freiwillig in eine Therapie begab. Die Beurteilung der Täterkomponenten ergab insgesamt, dass die straferhöhenden Faktoren leicht überwogen, weshalb die Vorinstanz die zweite Einsatzstrafe von 30 Monaten im Ergebnis auf 33 Monate erhöhte (Urteil E. 4.6 S. 29 ff.).
1.3.3. Die Summe der von der Vorinstanz errechneten Einzelstrafen für die weiteren Straftaten beläuft sich auf 22 bis 23 Monate, was unter Einbezug der Strafe von zwölf Monaten für die Taten vom 1. Januar 2009 und vor Berücksichtigung der leicht straferhöhenden Täterkomponenten demnach eine kumulierte Gesamtstrafe von 34 bis 35 Monaten ergäbe. Indem die Vorinstanz die zweite Einsatzstrafe im Bereich von 30 Monaten festsetzt, misst sie dem Asperationsprinzip von vornherein nur minime Bedeutung zu. Zusätzlich stellt sie straferhöhend in Rechnung, dass der Beschwerdeführer während des hängigen Ermittlungsverfahrens erneut delinquierte. Dies ist gemäss der Rechtsprechung zwar zulässig, darf im Ergebnis bei einer Mehrzahl von Straftaten jedoch nicht zu einer Strafenkumulation führen, da das Asperationsprinzip auch in solchen Fällen zur Anwendung gelangt (vgl. <ref-law>; siehe für die retrospektive Konkurrenz auch <ref-ruling> E. 3.4; <ref-ruling> E. 1). Die erneute Delinquenz während des hängigen Verfahrens kann mit anderen Worten lediglich dazu führen, dass dem Asperationsprinzip im Rahmen der Schuldbewertung in geringerem Umfang Rechnung getragen wird. Vorliegend entspricht die Freiheitsstrafe von 33 Monaten in etwa der kumulierten Gesamtstrafe vor Berücksichtigung der Täterkomponenten. Die straferhöhenden Täterkomponenten werden teilweise durch strafmindernde Täterkomponenten (Geständnis, freiwillige Therapie) kompensiert. Damit wird deutlich, dass die von vornherein nur geringfügige Berücksichtigung des Asperationsprinzips, verbunden mit der Straferhöhung wegen erneuter Delinquenz während des hängigen Strafverfahrens im Ergebnis zu einer Strafenkumulation führte. Die vorinstanzliche Strafzumessung verstösst daher gegen <ref-law>. Der Beschwerdeführer macht zu Recht geltend, dass die Vorinstanz bei der Bildung der Gesamtstrafe die erforderliche Gesamtwürdigung (vgl. Urteil 6B_323/2010 vom 23. Juni 2010 E. 3.2) nicht vornahm. Die Beschwerde ist in diesem Punkt begründet. Die Vorinstanz hat die Strafe unter Beachtung der obigen Erwägungen neu festzusetzen.
2.
2.1. Der Beschwerdeführer rügt, die Vorinstanz verneine unter Hinweis auf das neue psychiatrische Gutachten zu Unrecht eine verminderte Schuldfähigkeit. Gleichzeitig spreche sie aber von "ungebändigter Eifersucht". Im erwähnten Gutachten werde ihm eine narzisstische Persönlichkeitsstörung attestiert. Ganz offensichtlich fehle ihm die Möglichkeit, diese nahezu krankhafte Eifersucht bei Beziehungsproblemen mit Partnerinnen in Grenzen zu halten. Es sei nicht einzusehen, weshalb eine derart ausgeprägte Eifersuchtsproblematik nicht verschuldensmässig relativierend beurteilt werden könne und müsse.
2.2. War der Täter zur Zeit der Tat nur teilweise fähig, das Unrecht seiner Tat einzusehen oder gemäss dieser Einsicht zu handeln, so mildert das Gericht die Strafe (<ref-law>). Für die Annahme einer verminderten Zurechnungsfähigkeit genügt nicht jede geringfügige Herabsetzung der Fähigkeit, sich zu beherrschen. Der Betroffene muss vielmehr in hohem Masse in den Bereich des Abnormen fallen. Seine Geistesverfassung muss nach Art und Grad stark vom Durchschnitt nicht bloss der Rechts-, sondern auch der Verbrechensgenossen abweichen (<ref-ruling> E. 3.3). Die verminderte Schuldfähigkeit ist, wie die Schuldunfähigkeit, ein Zustand des Täters (<ref-ruling> E. 6.1). In welchem Zustand sich der Täter zur Tatzeit befand, ist Tatfrage. Rechtsfrage ist hingegen, ob die Vorinstanz den Begriff der verminderten Schuldfähigkeit richtig ausgelegt und angewendet hat (<ref-ruling> E. 1a). Sachverhaltsfeststellungen der Vorinstanz prüft das Bundesgericht nur unter dem Gesichtspunkt der Willkür (<ref-law>; <ref-ruling> E. 4.2.3; <ref-ruling> E. 1.4.1).
2.3. Die Vorinstanz geht vom zutreffenden Begriff der verminderten Schuldfähigkeit aus. Sie stellt für die Beurteilung der Schuldfähigkeit auf das Gutachten vom 20. August 2012 ab, welches für den Tatzeitpunkt eine volle Einsichts- und Steuerungsfähigkeit annimmt und eine Persönlichkeitsstörung bzw. eine alltagsrelevante psychische Störung des Beschwerdeführers verneint (kant. Akten, act. 109, Gutachten S. 72 f.). Inwiefern die Vorinstanz dieses Gutachten willkürlich gewürdigt haben könnte, legt er nicht dar. Die im Gutachten vom 20. August 2012 erwähnten narzisstischen Persönlichkeitsmerkmale, die im Deliktszeitpunkt die Diagnoseschwelle einer Persönlichkeitsstörung jedoch nicht erreichten (Gutachten S. 72), führen nicht zur Annahme einer verminderten Schuldfähigkeit. Gleiches gilt für die vom Beschwerdeführer angesprochene Eifersuchtsproblematik. Seine Rüge ist unbegründet.
3.
Die Beschwerde ist teilweise gutzuheissen und im Übrigen abzuweisen, soweit darauf eingetreten werden kann. Der Kanton Zürich hat dem Beschwerdeführer für das bundesgerichtliche Verfahren im Umfang seines Obsiegens eine angemessene Parteientschädigung auszurichten (<ref-law>). Soweit der Beschwerdeführer unterliegt, hat er für die Kosten des bundesgerichtlichen Verfahrens aufzukommen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird teilweise gutgeheissen, das angefochtene Urteil aufgehoben und die Sache zu neuer Entscheidung an die Vorinstanz zurückgewiesen. Im Übrigen wird die Beschwerde abgewiesen, soweit darauf einzutreten ist.
2.
Dem Beschwerdeführer werden Gerichtskosten von Fr. 1'000.-- auferlegt.
3.
Der Kanton Zürich hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 1'500.-- zu entschädigen.
4.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Strafkammer, schriftlich mitgeteilt.
Lausanne, 5. September 2013
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Die Gerichtsschreiberin: Unseld