Sachverhalt:
A.
Der 1963 geborene J._ bezieht seit 1. März 2004 eine ganze Rente der Invalidenversicherung. Gestützt auf ein vom Haftpflichtversicherer in Auftrag gegebenes medizinisches Gutachten sowie Observationsberichte stellte die IV-Stelle des Kantons Zürich mit Vorbescheid vom 6. November 2009 die Renteneinstellung in Aussicht. Aufgrund der dagegen erhobenen Einwände veranlasste sie unter anderem das interdisziplinäre Gutachten der Ärzte des Zentrums X._ vom 16. Dezember 2010 sowie deren Egänzungen vom 28. Januar 2011 und 8. April 2011. Mit Verfügung vom 19. August 2011 stellte sie die bisher ausgerichtete Rente als vorsorgliche Massnahme mit sofortiger Wirkung ein und entzog einer gegen die Verfügung gerichteten Beschwerde die aufschiebende Wirkung.
In der Folge gingen weitere Arztberichte ein, und die IV-Stelle holte eine weitere Stellungnahme der Gutachter des Zentrums X._ ein, zu welcher der Versicherte am 13. Januar 2012 Stellung nahm. Mit Schreiben vom 6. Februar 2012 bat er die IV-Stelle um einen raschen Entscheid, welches Begehren er unter Androhung einer Rechtsverzögerungsbeschwerde am 7. März 2012 erneuerte. Am 9. Mai 2012 teilte die IV-Stelle dem Versicherten mit, zur Klärung der Leistungsansprüche sei eine umfassende interdisziplinäre Untersuchung an der Klinik Y._ notwendig. Der Versicherter reichte am 14. Mai 2012 Zusatzfragen an die Ärzte ein. Am 10. und 11. Oktober 2012 teilte die Klinik Y._ der IV-Stelle mit, dass erst im ersten Quartal 2013 mit einem Gutachten gerechnet werden könne. Am 16. Oktober 2012 hielt der Versicherte die IV-Stelle nochmals zur Beschleunigung des Verfahrens an.
B.
J._ liess beim Sozialversicherungsgericht des Kantons Zürich Beschwerde führen und beantragen, es sei festzustellen, dass eine Rechtsverzögerung durch die IV-Stelle vorliege, und diese sei anzuweisen, innert einer vom Gericht festzusetzenden Frist einen Entscheid bezüglich der Invalidenrente zu erlassen; eventuell sei die IV-Stelle anzuweisen, das Abklärungsverfahren umgehend weiterzuführen. Das kantonale Gericht wies die Beschwerde mit Entscheid vom 1. Februar 2013 ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt J._ beantragen, es seien der vorinstanzliche Entscheid aufzuheben und unter Feststellung der Rechtsverzögerung die IV-Stelle anzuweisen, unverzüglich einen Entscheid über das Schicksal des seit Juli 2011 vorsorglich eingestellten Rentenanspruchs zu treffen.
Die IV-Stelle schliesst unter Verzicht auf eine Stellungnahme auf Abweisung der Beschwerde. Das Sozialversicherungsgericht und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung.

Erwägungen:
1.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann unter anderem die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat. Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 BGG beruht (Art. 105 Abs. 1 und 2 BGG). Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist somit weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden. Das Bundesgericht kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (<ref-ruling> E. 1.2 S. 252; <ref-ruling> E. 2.2 S. 550).
2.
Der Beschwerdeführer rügt eine Rechtsverzögerung durch die IV-Stelle und beruft sich dabei auf <ref-law>.
2.1. Jede Person hat in Verfahren vor Gerichts- und Verwaltungsinstanzen Anspruch auf gleiche und gerechte Behandlung sowie auf Beurteilung innert angemessener Frist (<ref-law>). Diese Bestimmung verankert den Grundsatz des Beschleunigungsgebots und verbietet die ungerechtfertigte Verzögerung eines Entscheids (SVR 2007 IV Nr. 44 S. 144, I 946/05 E. 5.1). Unerheblich ist, auf welche Gründe - ob auf ein Fehlverhalten der Behörden oder auf andere Umstände - die Rechtszögerung zurückzuführen ist; entscheidend ist ausschliesslich, dass die Behörde nicht handelt (SVR 2001 IV Nr. 24 S. 73, I 436/00 E. 3b; Urteil 8C_634/2012 vom 18. Februar 2013 E. 3.1).
2.2. Das ATSG und das IVG enthalten keine Frist, innert welcher die Invalidenversicherung ihre Verfügung erlassen muss. In einem solchen Fall liegt eine Rechtsverzögerung und damit eine Verletzung von <ref-law> vor, wenn eine Gerichts- oder Verwaltungsbehörde sich zwar bereit zeigt, einen Entscheid zu treffen, diesen aber nicht binnen der Frist fasst, welche nach der Natur der Sache und nach der Gesamtheit der übrigen Umstände als angemessen erscheint. Eine Rechtsverzögerung ist gegeben, wenn die Umstände, welche zur unangemessenen Verlängerung des Verfahrens führen, objektiv nicht gerechtfertigt sind. Ob sich die gegebene Verfahrensdauer mit dem Anspruch auf Rechtsschutz innert angemessener Frist verträgt, ist am konkreten Einzelfall zu prüfen. Massgeblich sind namentlich Umfang und Schwierigkeit des Falles, die Schwere der Betroffenheit des Einzelnen, aber auch das Verhalten der Beteiligten (<ref-ruling> E. 4.4 S. 277; <ref-ruling> E. 5.2 S. 332; <ref-ruling> E. 5b S. 325; FELIX UHLMANN, in: Basler Kommentar, Bundesgerichtsgesetz, 2. Aufl. 2011, N. 6 zu <ref-law>). Zeiten, in denen das Verfahren stillsteht, können der Behörde nicht ohne weiteres zum Vorwurf gemacht werden, da sie in einem Verfahren oft unumgänglich sind; solange keine einzelne solcher Zeitspannen stossend wirkt, greift die Gesamtbetrachtung (<ref-ruling> E. 2c S. 141; SVR 2007 IV Nr. 44 S. 144, I 946/05 E. 5.2 ).
3.
3.1. Das kantonale Gericht ging davon aus, dass der Versicherte am 8. November 2011 der IV-Stelle mitteilte, dass er stationär in eine psychiatrische Klinik eintreten müsse. Bereits zuvor habe dieser medizinische Berichte eingereicht, welche die IV-Stelle den Gutachtern des Zentrums X._ zur Stellungnahme vorgelegt hätte. Die Stellungnahme vom 19. Dezember 2011 sei dem Versicherten vorgelegt worden, welcher sich seinerseits am 6. Februar 2012 dazu geäussert habe. Gestützt darauf habe der Regionale Ärztliche Dienst (RAD) am 9. Mai 2012 die Notwendigkeit einer weiteren medizinischen Begutachtung bejaht. Nach Ansicht der Vorinstanz kann der Verwaltung bis zu diesem Zeitpunkt, aber auch für den weiteren Verlauf des Verfahrens keine Rechtsverzögerung vorgeworfen werden. Die Einholung eines medizinischen Gutachtens nehme erfahrungsgemäss eine gewisse Zeit in Anspruch, und es sei durchaus üblich, dass zwischen Gutachterauftrag und ärztlicher Untersuchung einige Monate vergingen. Laut Mitteilung des Arztes der beauftragten Gutachterstelle vom 11. Oktober 2012 handle es sich zudem mit Blick auf die Observationsunterlagen und Vorgutachten um einen komplexen Fall, welcher eine stationäre Untersuchung erforderlich mache. Am 18. Oktober 2012 bat die IV-Stelle um eine prompte Zustellung des Gutachtens.
3.2. Die vorinstanzliche Sachverhaltsfeststellung wird vom Beschwerdeführer nicht beanstandet, weshalb diese für das Bundesgericht grundsätzlich verbindlich ist (E. 1 hievor). Der Beschwerdeführer macht jedoch geltend, die Vorinstanz habe der Art des Verfahrens und den konkreten Verhältnissen nur unzureichend Rechnung getragen und damit gegen <ref-law> verstossen. Zu berücksichtigen sei die Dauer des Verfahrens seit August 2011. Dabei sei insbesondere eine Zeitspanne von elf Monaten zwischen Gutachtenauftrag und Gutachtendurchführung und von 20 Monaten zwischen Einstellung der Rente und Untersuchung durch die Gutachter unvertretbar.
3.2.1. Dem Beschwerdeführer ist darin beizupflichten, dass in sozialversicherungsrechtlichen Verfahren der Raschheit der Entscheidung hohe Bedeutung zukommt. Das ATSG sieht für das Einspracheverfahren einen Entscheid innert angemessener Frist (<ref-law>) und für das kantonale Gerichtsverfahren ein rasches Verfahren (<ref-law>) ausdrücklich vor. Im sozialversicherungsrechtlichen Abklärungsverfahren steht die Untersuchungspflicht der Verwaltung (<ref-law>) in einem gewissen Spannungsverhältnis zum Anspruch auf ein zügiges Vorantreiben des Verfahrens. Das Gebot des raschen Verfahrens hat dabei grundsätzlich keinen Vorrang vor dem Untersuchungsgrundsatz (SVR 2007 IV Nr. 44 S. 144, I 946/05 E. 5). Dieses darf - auch wenn es wie hier um die vorsorgliche Einstellung von Rentenleistungen geht - insbesondere nicht zur Folge haben, dass deswegen der medizinische Sachverhalt nicht mit der erforderlichen Sorgfalt untersucht und beurteilt wird. Wenn die IV-Stelle Zweifel an der Schlüssigkeit der vorliegenden medizinischen Unterlagen hat, ist sie gehalten, eine fachärztliche Beurteilung der offenen Fragen anzuordnen. Die durch die Einholung eines medizinischen Gutachtens verursachte Verzögerung des Abklärungsverfahrens stellt grundsätzlich keine unzulässige Rechtsverzögerung dar (SVR 2010 UV Nr. 16 S. 61, 8C_622/200). Da es bei der Frage des Rentenanspruchs um Geldleistungen geht, ist ein übermässiger Eingriff in die Rechtsstellung der versicherten Person nicht zu befürchten. Gemäss Rechtsprechung hat die vorsorgliche Einstellung einer Rentenzahlung keinen nicht wieder gutzumachenden Nachteil zur Folge (vgl. Urteil 9C_324/2012 vom 13. Juni 2012 E. 2.2). Dies schliesst jedoch nicht aus, dass die Art des Verfahrens und dessen Bedeutung für den Versicherten im Rahmen der Gesamtwürdigung Berücksichtigung findet. Soweit sich die Vorinstanz zu einzelnen für die Beurteilung einer Rechtsverzögerung massgebenden Kriterien in den Erwägungen des angefochtenen Entscheids nicht ausdrücklich geäussert hat, lässt sich dies nicht beanstanden, sofern ihre Gesamtwürdigung vor Bundesrecht stand hält.
3.2.2. Gerade der Hinweis des Beschwerdeführers auf mehrmalige stationäre Behandlungen in einer Spezialklinik für Depressionsbehandlungen und die von den dortigen Ärzten - in Abweichung von anderen medizinischen Beurteilungen des Versicherten und offenbar auch von den Observierungen - attestierte volle Arbeitsunfähigkeit zeigen die medizinische Komplexität und die Notwendigkeit einer umfassenden medizinischen Abklärung auf. Die Schwierigkeit des Falles wird zudem durch den Hinweis des Facharztes der Gutachterstelle bestätigt, dass nach Durchsicht der medizinischen Unterlagen die Notwendigkeit einer stationären Abklärung erforderlich sei. Es lässt sich daher nicht beanstanden, dass die Vorinstanz die Komplexität der Sache und den Umfang der Akten in die Gesamtbeurteilung miteinbezogen hat.
3.2.3. Der IV-Stelle kann sodann nicht der Vorwurf gemacht werden, sie sei zu lange untätig gewesen. Wie von der Vorinstanz aufgezeigt, hat die Verwaltung regelmässig Verfahrensschritte im Hinblick auf die Abklärung des medizinischen Sachverhalts unternommen, welche einzeln betrachtet nicht als unverhältnismässig lang beurteilt werden können. Insbesondere gingen im Laufe des Abklärungsverfahrens neue medizinische Unterlagen ein, welche ergänzende Stellungnahmen in ärztlicher Hinsicht sowie zur Wahrung des rechtlichen Gehörs erforderlich machten. Schliesslich benötigten auch die beauftragten Gutachter Zeit, um die Akten zu studieren und zu beurteilen, ob eine ambulante oder eine stationäre Untersuchung erforderlich sei und wie das Gutachterteam zusammengestellt werden kann. Bei dieser Sachlage kann nicht gesagt werden, die Verwaltung habe den Abschluss des Abklärungsverfahrens ungebührlich verzögert und die Verfahrensdauer sei nicht angemessen.
3.3. Unter Berücksichtigung sämtlicher massgebender Gesichtspunkte (E. 2.2 hievor) und der besonderen Umstände des konkreten Verfahrens ergibt sich, dass die vorinstanzliche Abweisung der Rechtsverzögerungsbeschwerde nicht gegen Bundesrecht verstösst.
4.
Das Verfahren ist kostenpflichtig (<ref-law>). Als unterliegende Partei hat der Beschwerdeführer die Gerichtskosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 10. Juli 2013
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Leuzinger
Die Gerichtsschreiberin: Hofer