Sachverhalt:
A.
A.a. Der 1967 geborene A._, ausgebildeter Elektrotechniker, war zuletzt als Hilfsmonteur bei der B._ AG tätig. Er meldete sich am 6. April 2005 unter Hinweis auf Rücken- und Kopfschmerzen bei der Invalidenversicherung zum Leistungsbezug an. Nach diversen Abklärungen in medizinischer und erwerblicher Hinsicht sowie nach Beizug der Akten des Krankentaggeldversicherers und der Unfallversicherung sprach die IV-Stelle des Kantons Zürich A._ mit Verfügung vom 20. Juni 2006, bestätigt durch Einspracheentscheid vom 26. September 2006, ab 1. April 2005 ausgehend von einem Invaliditätsgrad von 59% eine halbe Invalidenrente zu. Eine dagegen erhobene Beschwerde hiess das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 28. Februar 2008 in dem Sinne gut, als es den Einspracheentscheid aufhob und die Sache zur Einholung eines polydisziplinären Gutachtens an die IV-Stelle zurückwies.
A.b. Gestützt auf das bereits vor Ergehen des kantonalen Entscheids veranlasste Gutachten der Gutachterstelle D._ vom 8. Februar 2008 und nach Einholung eines Berichts des Psychiatrie-Zentrums C._, vom 9. Oktober 2008, wo der Versicherte vom 21. April - 8. Mai 2008 stationär behandelt wurde, sowie eines Verlaufsgutachtens der Gutachterstelle D._ vom 30. Juli 2010, sprach die IV-Stelle A._ nach durchgeführtem Vorbescheidverfahren mit Verfügung vom 23. März 2012 wiederum ausgehend von einem Invaliditätsgrad von 59% mit Wirkung ab 1. April 2005 eine halbe Invalidenrente zu.
B.
Die hiegegen erhobene Beschwerde hiess das Sozialversicherungsgericht des Kantons Zürich nach Einholung eines ergänzenden schriftlichen Berichts der Gutachterstelle D._ zum Gutachten samt Verlaufsgutachten vom 8. April 2013 gut und änderte die Verfügung der IV-Stelle vom 23. März 2012 insoweit ab, als es feststellte, dass der Versicherte mit Wirkung ab 1. April 2005 Anspruch auf eine Dreiviertelsrente und mit Wirkung ab 1. September 2010 Anspruch auf eine ganze Rente der Invalidenversicherung hat.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt die IV-Stelle sinngemäss die Aufhebung des vorinstanzlichen Entscheids und die Bestätigung ihrer Verfügung vom 23. März 2012.
A._ lässt auf Abweisung der Beschwerde schliessen. Das Bundesamt für Sozialversicherungen beantragt deren Gutheissung.

Erwägungen:
1.
1.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzung gemäss den Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>; vgl. auch <ref-law>).
1.2. Bei den gerichtlichen Feststellungen zum Gesundheitszustand und zur Arbeitsfähigkeit bzw. deren Veränderung in einem bestimmten Zeitraum handelt es sich grundsätzlich um eine Tatfrage (<ref-ruling> E. 3.2 S. 397 ff.). Ebenso stellt die konkrete Beweiswürdigung eine Tatfrage dar. Dagegen sind die unvollständige Feststellung rechtserheblicher Tatsachen sowie die Missachtung des Untersuchungsgrundsatzes (Art. 43 Abs. 1, Art. 61 lit. c ATSG) und der Anforderungen an den Beweiswert ärztlicher Berichte und Gutachten Rechtsfragen (<ref-ruling> E. 5.1 S. 232).
Soweit die Beurteilung der Zumutbarkeit von Arbeitsleistungen auf die allgemeine Lebenserfahrung gestützt wird, geht es um eine Rechtsfrage; dazu gehören auch Folgerungen, die sich auf medizinische Empirie stützen, zum Beispiel die Vermutung, dass eine anhaltende somatoforme Schmerzstörung oder ein vergleichbarer ätiologisch unklarer syndromaler Zustand mit zumutbarer Willensanstrengung überwindbar sei. Im Übrigen gilt in diesem Zusammenhang Folgendes: Zu den vom Bundesgericht nur eingeschränkt überprüfbaren Tatsachenfeststellungen zählt zunächst, ob eine anhaltende somatoforme Schmerzstörung (oder ein damit vergleichbarer syndromaler Zustand) vorliegt, und bejahendenfalls sodann, ob eine psychische Komorbidität oder weitere Umstände gegeben sind, welche die Schmerzbewältigung behindern. Als Rechtsfrage frei überprüfbar ist, ob eine festgestellte psychische Komorbidität hinreichend erheblich ist und ob einzelne oder mehrere der festgestellten weiteren Kriterien in genügender Intensität und Konstanz vorliegen, um gesamthaft den Schluss auf eine nicht mit zumutbarer Willensanstrengung überwindbare Schmerzstörung und somit auf eine invalidisierende Gesundheitsschädigung zu gestatten (<ref-ruling> E. 1.2 und 4.1 S. 66 ff. mit Hinweisen).
2.
Streitig und zu prüfen ist, ob das kantonale Gericht Bundesrecht verletzt hat, indem es den von der IV-Stelle verfügten Anspruch des Beschwerdegegners auf eine halbe Rente ab 1. April 2005 auf eine Dreiviertelsrente und ab 1. September 2010 auf eine ganze Rente erhöht hat. Unbestritten ist, dass von einer somatisch bedingten Einschränkung der Arbeitsfähigkeit von 40% in einer angepassten Tätigkeit auszugehen ist. Umstritten sind jedoch die Fragen, ob die psychischen Beschwerden des Versicherten bzw. eine allfällige diesbezügliche Verschlimmerung einen zusätzlich zu berücksichtigenden invalidisierenden Gesundheitsschaden zu begründen vermögen, und ob das kantonale Gericht den von der IV-Stelle im Rahmen des Einkommensvergleichs berücksichtigten leidensbedingten Abzug von 10% auf 15% erhöhen durfte.
Die hiefür massgeblichen Rechtsgrundlagen, namentlich die Rechtsprechung zur ausnahmsweise invalidisierenden Wirkung von anhaltenden somatoformen Schmerzstörungen (<ref-ruling> E. 4.1 S. 67 und 131 V 49 E. 1.2 S. 50 je mit Hinweisen; <ref-ruling>; nicht publ. E. 4.2.1 des Urteils <ref-ruling>, in SVR 2012 IV Nr. 56 S. 200, 9C_302/2012) wurden im angefochtenen Entscheid zutreffend dargelegt. Darauf wird verwiesen.
3.
Das kantonale Gericht ist gestützt auf eine Auseinandersetzung mit der medizinischen Aktenlage zum Ergebnis gelangt, es könne auf das interdisziplinäre Gutachten der Gutachterstelle D._ vom 8. Februar 2008und hinsichtlich Verschlechterung der psychischen Beschwerden auf das psychiatrische Verlaufsgutachten der Gutachterstelle D._ vom 30. Juli 2010abgestellt werden.
3.1. Während im Gutachten vom 8. Februar 2008 in psychischer Hinsicht mit Einfluss auf die Arbeitsfähigkeit eine anhaltende somatoforme Schmerzstörung sowie eine leicht- bis zwischendurch allenfalls mittelgradige depressive Episode bei andauernder Schmerzproblematik diagnostiziert worden war, finden sich im psychiatrischen Verlaufsgutachten vom 30. Juli 2010 die Diagnosen einer mittelgradigen depressiven Episode, chronifiziert, einer anhaltenden somatoformen Schmerzstörung sowie Verdacht auf eine Persönlichkeitsänderung nach langjähriger Schmerzproblematik. Aus rein psychiatrischer Sicht betrug die Einschränkung in einer angepassten Tätigkeit zur Zeit der polydisziplinären Begutachtung 20% und erhöhte sich bis zur Verlaufsbegutachtung auf 50%. In der ergänzenden Auskunft der Gutachterstelle D._ vom 8. April 2013 wurde dargelegt, beim Exploranden sei in Anbetracht der 40%igen organischen und der 50%igen psychiatrischen Arbeitsunfähigkeit aus gesamtmedizinischer Sicht von einer 70%igen Arbeitsunfähigkeit auszugehen.
3.2. Die Vorinstanz ist gestützt auf die medizinische Aktenlage zum Schluss gekommen, es sei nicht zu beanstanden, dass die Gutachter das Beschwerdebild als lediglich teilweise überwindbar betrachtet hätten. Eine psychische Komorbidität von erheblicher Schwere, Ausprägung und Dauer liege bei der im Gutachten vom 8. Februar 2008 diagnostizierten leichten bis zwischendurch allenfalls mittelgradigen depressiven Episode nicht vor und sei bei der im Verlaufsgutachten vom 30. Juli 2010 diagnostizierten mittelgradigen depressiven Episode, chronifiziert, sowie dem Verdacht auf eine Persönlichkeitsänderung nach langjähriger Schmerzproblematik zumindest fraglich. Doch seien nach Lage der Akten - so das kantonale Gericht - die massgeblichen weiteren Kriterien, welche nach der Rechtsprechung eine Unzumutbarkeit der Schmerzüberwindung begründen könnten, weitestgehend erfüllt, weshalb sich die Annahme rechtfertige, dass dem Versicherten die willentliche Überwindung der Schmerzen nicht mehr zumutbar sei. Es sei daher davon auszugehen, dass der Beschwerdegegner ab April 2004 unter Berücksichtigung der psychischen Beschwerden in einer leidensangepassten Tätigkeit in einem Umfang von 50% und infolge Verschlechterung des psychischen Gesundheitszustandes per Juni 2010 nur noch im Umfang von 30% arbeitsfähig gewesen sei.
3.3. Die Beschwerde führende IV-Stelle rügt eine unrichtige Feststellung des Sachverhalts in dem Sinne, dass eine Einschränkung der Arbeitsfähigkeit aus psychischen Gründen nie nachvollziehbar gewesen sei; vielmehr hätten stets überwindbare Leiden vorgelegen. Nicht nachvollziehbar sei zudem die intraadditive Beurteilung der Arbeitsfähigkeit in der Weise, dass die gesamthafte Arbeitsunfähigkeit einen Wert betragen soll, der die Einschränkungen in den einzelnen Fachgebieten übersteige. Rechtsverletzend seien sodann der Ausschluss der Überwindbarkeit der Schmerzsymptomatik sowie die Nichtbeanstandung einer teilweisen Überwindbarkeit durch die Vorinstanz und deren Annahme, allein gestützt auf überwindbare psychische Leiden sei eine Verschlechterung des Gesundheitszustandes eingetreten.
4.
4.1. Aufgabe des begutachtenden Arztes im Rahmen der Invaliditätsbemessung bei Vorliegen einer anhaltenden somatoformen Schmerzstörung ist, sich dazu zu äussern, ob eine psychische Komorbidität oder weitere Umstände gegeben sind, welche die Schmerzbewältigung im Hinblick auf eine erwerbliche Tätigkeit behindern. Gestützt darauf haben die rechtsanwendenden Behörden zu entscheiden, ob der Gesundheitsschaden invalidisierend ist, d.h. zu prüfen, ob eine festgestellte psychische Komorbidität hinreichend erheblich ist und ob einzelne oder mehrere der festgestellten weiteren Kriterien in genügender Intensität und Konstanz vorliegen, um gesamthaft den Schluss auf eine im Hinblick auf eine erwerbliche Tätigkeit nicht mit zumutbarer Willensanstrengung überwindbare Schmerzstörung zu erlauben. Die Prüfung schliesst die Beurteilung der Frage ein, inwiefern die ärztliche Einschätzung der psychisch bedingten Arbeitsunfähigkeit invaliditätsfremde Gesichtspunkte (insbesondere psychosoziale und soziokulturelle Belastungsfaktoren) mitberücksichtigt (SVR 2012 IV Nr. 1 S. 1 E. 3.4.1, 9C_1040/2010). Die Beantwortung dieser Rechtsfrage obliegt nicht den Ärztinnen und Ärzten, sondern den rechtsanwendenden Behörden. Es können sich daher Konstellationen ergeben, bei welchen von der im medizinischen Gutachten festgestellten Arbeitsunfähigkeit abzuweichen ist, ohne dass dieses seinen Beweiswert verlöre (vgl. <ref-ruling> E. 3 S. 356; Urteil 8C_337/2012 vom 5. April 2013 E. 2.1 mit Hinweis).
4.2. Mit der IV-Stelle und der Vorinstanz ist gestützt auf die medizinische Aktenlage davon auszugehen, dass beim Beschwerdegegner keine psychische Komorbidität von erheblicher Schwere, Ausprägung und Dauer vorliegt, die ausnahmsweise einen Wiedereinstieg in den Arbeitsprozess und die Ausübung einer angepassten Erwerbsarbeit als unzumutbar erscheinen lässt. Für die Frage der Überwindbarkeit der Schmerzstörung ist praxisgemäss nicht entscheidend, ob die depressive Episode als leicht oder mittelgradig eingestuft wird, weil beide Diagnosen in der Regel nicht als psychische Komorbidität von erheblicher Schwere, Ausprägung und Dauer gelten, welche die ausnahmsweise Unüberwindbarkeit einer Schmerzstörung bewirken kann (vgl. Urteil 8C_705/2013 vom 23. Dezember 2013 E. 4.3 mit Hinweis). Dies wird vom Beschwerdegegner denn auch nicht bestritten.
4.3. Da somit das im Vordergrund stehende Kriterium, welches den Schluss auf fehlende Überwindbarkeit der Schmerzstörung gestatten könnte, nicht in genügender Weise gegeben ist, müssten die zusätzlichen Kriterien besonders ausgeprägt erfüllt sein, damit die Schmerzstörung dennoch ausnahmsweise als unüberwindbar zu betrachten wäre. Davon ist das kantonale Gericht ausgegangen, jedoch ohne näher auf die einzelnen Kriterien einzugehen. Daher ist das Bundesgericht nicht an die vorinstanzlichen Feststellungen gebunden (<ref-law>). Wohl liegt eine chronische körperliche Begleiterkrankung in Form eines Lumbovertebralsyndroms bei Diskushernie L5/S1 links mit wahrscheinlich intermittierender radikulärer Reiz- und Ausfallsymptomatik der Wurzel S1 links vor, indes gemäss Diagnosestellung lediglich mässig ausgeprägt. Eine Wurzelbeteiligung wird nur vermutet und im Gutachten vom 8. Februar 2008 wird auf die Verdeutlichungstendenz und das aggravatorische Verhalten des Versicherten hingewiesen. Von einem mehrjährigen, chronifizierten Krankheitsverlauf mit unveränderter oder progredienter Symptomatik ohne längerdauernde Rückbildung kann ausgegangen werden, jedoch wiederum nicht in ausgeprägter Weise. Für einen sozialen Rückzug in allen Belangen des Lebens fehlen Anhaltspunkte, zumal der Versicherte zum Tagesablauf angab, er gehe manchmal spazieren, nehme mit seiner Frau, mit welcher er zusammen mit den beiden Kindern im selben Haushalt lebe, das Abendessen ein und sehe ab und zu andere Leute, vor allem weil seine Frau noch sozial aktiv sei. Auch zu seinen Brüdern bestehe noch ein sporadischer Kontakt. Schliesslich kann auch nicht von einem verfestigten, therapeutisch nicht mehr beeinflussbaren innerseelischen Verlauf einer an sich missglückten, psychisch aber entlastenden Konfliktbewältigung ausgegangen werden, zumal nicht von einem Scheitern einer konsequent durchgeführten ambulanten oder stationären Behandlung trotz kooperativer Haltung der versicherten Person gesprochen werden kann. So berichtete der Psychiater im Verlaufsgutachten vom 30. Juli 2010 von Aggravationstendenz, Selbstlimitierung bezüglich Unfähigkeit zu arbeiten sowie Fixierung auf das Schmerzkonzept. Eine psychotherapeutische resp. sozialpsychiatrische Begleitung sei nach wie vor sinnvoll, obschon sich der Einsatz eines Antidepressivums in der Vergangenheit als wenig effektiv und die Compliance als nicht gegeben gezeigt habe. Ebenso scheiterte eine Behandlung im Psychiatrie-Zentrum C._ an der fehlenden Motivation des Beschwerdegegners. Damit können die möglichen Therapien nicht als ausgeschöpft und die Kooperation des Versicherten nicht als gegeben betrachtet werden.
4.4. Es liegen demnach die nach der Rechtsprechung erforderlichen Kriterien nicht in genügender Weise vor, um die Schmerzstörung als invalidisierend anzusehen.
5.
Sind nach Gesagtem nur die somatischen Beschwerden zu berücksichtigen, ist daher gestützt auf das Gutachten der Gutachterstelle D._ vom 8. Februar 2008 von einer Arbeitsfähigkeit in einer angepassten Tätigkeit von 60% auszugehen. Hinsichtlich der erwerblichen Auswirkungen der Arbeitsunfähigkeit sind sowohl das vorinstanzlich festgestellte Valideneinkommen für das Jahr 2005 von Fr. 63'201.- wie auch das Invalideneinkommen von Fr. 57'888.-, für eine Arbeitstätigkeit von 60% von Fr. 34'733.-, unbestritten. Selbst wenn mit der Vorinstanz ein leidensbedingter Abzug von 15% statt wie von der IV-Stelle vorgesehen von 10% berücksichtigt wird, ergibt sich ein Invalideneinkommen von Fr. 29'523.- und aus der Gegenüberstellung mit dem Valideneinkommen ein Invaliditätsgrad von 53%, welcher Anspruch auf eine halbe Rente begründet. Auf die Höhe des Abzuges ist demzufolge nicht näher einzugehen.
Die Verfügung der IV-Stelle vom 23. März 2012 ist mithin zu Recht ergangen. Die Beschwerde ist demnach begründet, was zur Aufhebung des vorinstanzlichen Entscheids führt.
6.
Die Kosten des Verfahrens sind vom unterliegenden Beschwerdegegner zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen. Der Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 4. September 2013 wird aufgehoben und die Verfügung der IV-Stelle des Kantons Zürich vom 23. März 2012 bestätigt.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdegegner auferlegt.
3.
Die Sache wird zur Neuverlegung der Kosten des vorangegangenen Verfahrens an das Sozialversicherungsgericht des Kantons Zürich zurückgewiesen.
4.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, der D._ und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 26. Juni 2014
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Leuzinger
Die Gerichtsschreiberin: Kopp Käch