Sachverhalt:
A.
Der 1969 geborene A.A._ war von August 1989 bis Februar 2008 mit B.A._ (heute: B.B._) verheiratet. Mit Verfügung vom 25. Januar 2012 gewährte die IV-Stelle des Kantons Zürich (im Folgenden: IV-Stelle) B.B._ basierend auf einem Invaliditätsgrad von 78 % mit Wirkung ab 1. Mai 2010 eine ganze Invalidenrente sowie akzessorische Kinderrenten für die beiden Kinder, Sohn C.A._ und Tochter D.A._, die sich noch in Ausbildung befanden. Da beide Kinder beim Vater lebten, wurden diesem die Kinderrenten ausbezahlt.
Im Rahmen eines ab Ende 2012 von Amtes wegen durchgeführten Revisionsverfahrens bestätigte die IV-Stelle den unveränderten Anspruch der B.B._ auf eine ganze Rente mit Schreiben vom 17. August 2015. Nach Durchführung des Vorbescheidverfahrens forderte die IV-Stelle mit Verfügung vom 29. Januar 2016 von A.A._ die Rückerstattung von zu viel ausgerichteten Kinderrenten in der Höhe von Fr. 21'454.- mit der Begründung, sie habe erst im Oktober 2015 bemerkt, dass die Rente für seine Tochter fälschlicherweise immer noch ausbezahlt werde, obwohl die Tochter ihre Ausbildung bereits im August 2013 abgeschlossen habe und der Anspruch auf Kinderrente daher im August 2013 geendet habe.
B.
Mit Entscheid vom 22. März 2017 wies das Sozialversicherungsgericht des Kantons Zürich die dagegen erhobene Beschwerde ab.
C.
A.A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen. Er beantragt, der Entscheid vom 22. März 2017 sei aufzuheben und die Rückforderung der ab 1. September 2013 zu Unrecht ausgerichteten Kinderrenten zufolge Verjährung (Verwirkung) abzuschreiben.
Das Bundesgericht holte die vorinstanzlichen Akten ein. Ein Schriftenwechsel wurde nicht durchgeführt.

Erwägungen:
1.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss den Art. 95 f. BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>), doch prüft es - unter Beachtung der Begründungspflicht nach Art. 42 Abs. 1 und 2 BGG - grundsätzlich nur die geltend gemachten Rügen, sofern allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.6 S. 280 mit Hinweisen). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann eine - für den Ausgang des Verfahrens entscheidende (vgl. <ref-law>) - Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2.
Es steht fest und ist unbestritten, dass der Beschwerdeführer die von der Beschwerdegegnerin zurückgeforderten Kinderrenten von September 2013 bis Oktober 2015 in der Höhe von Fr. 21'454.- zu Unrecht bezog, nachdem die Tochter ihre Ausbildung im August 2013 abgeschlossen hatte, und er diesen Betrag daher im Sinne von <ref-law> - vorbehältlich eines Erlasses - grundsätzlich zurückzuerstatten hat. Streitig und zu prüfen ist, ob die Rückerstattungsforderung nach <ref-law> verwirkt ist.
3.
3.1. Gemäss Art. 25 Abs. 2 erster Satz ATSG erlischt der Rückforderungsanspruch mit dem Ablauf eines Jahres, nachdem die Versicherungseinrichtung davon Kenntnis erhalten hat, spätestens aber mit dem Ablauf von fünf Jahren nach der Entrichtung der einzelnen Leistung. Bei den genannten Fristen handelt es sich um Verwirkungsfristen (<ref-ruling> E. 2 S. 525 mit Hinweisen). Nach der Rechtsprechung ist für den Beginn der relativen einjährigen Verwirkungsfrist (<ref-ruling> E. 4.1 S. 582) nicht das erstmalige unrichtige Handeln und die daran anknüpfende unrechtmässige Leistungsausrichtung massgebend. Abzustellen ist vielmehr auf jenen Tag, an dem der Versicherungsträger später bei der ihm gebotenen und zumutbaren Aufmerksamkeit den Fehler hätte erkennen können ("Wahrnehmung der Unrichtigkeit der Leistungsausrichtung aufgrund eines zusätzlichen Indizes"; <ref-ruling> E. 5b/aa S. 276) - oder erkannt hat - und dass die Voraussetzungen für eine Rückerstattung gegeben sind (vgl. auch <ref-ruling> E. 2.1 S. 525; <ref-ruling> E 4.1 S. 8). Dies ist der Fall, wenn alle im konkreten Einzelfall erheblichen Umstände zugänglich sind, aus deren Kenntnis sich der Rückforderungsanspruch dem Grundsatz nach und in seinem Ausmass gegenüber einer bestimmten rückerstattungspflichtigen Person ergibt (Urteil 9C_195/2014 vom 3. September 2014 E. 2.1 in: SVR 2015 IV Nr. 5 S. 10 mit Hinweisen).
3.2. Verfügt der Versicherungsträger (oder das Durchführungsorgan) über genügende Hinweise auf einen möglichen Rückforderungsanspruch, sind die Unterlagen aber noch unvollständig, hat er die noch erforderlichen Abklärungen innert angemessener Zeit vorzunehmen. Bei Säumnis ist der Beginn der Verwirkungsfrist auf den Zeitpunkt festzusetzen, in welchem die Verwaltung mit zumutbarem Einsatz ihre unvollständige Kenntnis so zu ergänzen im Stande gewesen wäre, dass der Rückforderungsanspruch hätte geltend gemacht werden können (Urteil 9C_447/2016 vom 1. März 2017 E. 4.2.2 m.H. auf Urteil 9C_999/2009 vom 7. Juni 2010 E. 3.2.2, in: SVR 2011 EL Nr. 7 S. 21).
4.
4.1. Gestützt auf die Akten und die unbestrittene Darstellung des Beschwerdeführers erstellte die Vorinstanz folgenden zeitlichen Ablauf: Die Beschwerdegegnerin habe den Lehrvertrag der Tochter des Beschwerdeführers erstmals am 7. November 2011 im Rahmen der Rentenzusprache zu den Akten genommen. Daraus ergebe sich eine voraussichtliche Ausbildungsdauer vom 2. August 2010 bis 1. August 2013. Der Vertrag sei am 12. Juli 2012 ein zweites Mal in die Akten aufgenommen worden. Gemäss den Ausführungen des Beschwerdeführers habe die Beschwerdegegnerin damals die Kinderrente für die Tochter zufolge Ausbildungsende per Ende August 2012 einstellen wollen, doch habe der Beschwerdeführer sie darauf hingewiesen, dass die Ausbildung erst im August 2013 enden werde. Im Rahmen des Rentenrevisionsverfahrens, welches im November 2012 eingeleitet worden sei, habe die Beschwerdegegnerin Ende Oktober 2015 bemerkt, dass weiterhin monatlich eine Kinderrente für die Tochter ausbezahlt werde und den Beschwerdeführer angefragt, ob sich seine Tochter weiterhin in Ausbildung befinde. Dieser habe anlässlich einer persönlichen Vorsprache am 28. Oktober 2015 mitgeteilt, dass sich seine Tochter seit September 2013 nicht mehr in Ausbildung befinde.
4.2. In Würdigung dieses Hergangs hielt das kantonale Gericht fest, dass aus der zweifachen Einreichung des Lehrvertrags nicht geschlossen werden dürfe, die Beschwerdegegnerin hätte bereits in diesen Zeitpunkten Kenntnis des Rückforderungsanspruchs erhalten. Auch hätten sich keine Abklärungen über den Bildungsweg der Tochter aufgedrängt, zumal sich die Tochter damals noch in Ausbildung befunden und mindestens ein weiteres Lehrjahr habe absolvieren müssen. Des Weiteren führte die Vorinstanz aus, dass es genügt hätte, wenn die Beschwerdegegnerin die Frage betreffend die Ausbildung der Tochter während des im November 2012 eingeleiteten Revisionsverfahrens geprüft hätte. Der frühestmögliche Zeitpunkt, in dem die Beschwerdegegnerin bei der gebotenen Aufmerksamkeit Kenntnis vom Rückforderungsanspruch hätte haben können, könne somit der Abschluss des Revisionsverfahrens sein, mithin der Erlass der Verfügung vom 17. August 2015. Die massgebliche Frist habe daher frühestens ab diesem Datum zu laufen begonnen und sei mit Erlass des Vorbescheids am 11. November 2015 gewahrt worden.
5.
5.1. Der Beschwerdeführer beruft sich vor Bundesgericht erstmals auf ein Schreiben der Beschwerdegegnerin vom 3. Juli 2014, in dem ihm mitgeteilt worden sei, dass die Ausbildung seines Sohnes im August 2014 ende und die Kinderrente zur IV-Rente seiner früheren Gattin daher im August 2014 letztmals ausbezahlt werde. Daraus will er ableiten, dass die Beschwerdegegnerin den Fehler betreffend die Kinderrente für die Tochter mit der gebotenen Aufmerksamkeit bereits im Juli 2014 hätte feststellen und korrigieren können. Der Beginn der Verwirkungsfrist sei daher auf den 3. Juli 2014 festzulegen, womit der Anspruch auf Rückerstattung der zu Unrecht bezogenen Kinderrenten verwirkt sei.
5.2. Damit macht der Beschwerdeführer eine neue Tatsache bzw. ein neues Beweismittel geltend. Solche neuen Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (unechte Noven; <ref-law>), was in der Beschwerde näher darzulegen ist (Urteil 8C_794/2016 vom 28. April 2017 E. 2.3.1 mit Hinweis). Der Beschwerdeführer zeigt allerdings nicht auf, inwiefern erst der angefochtene Entscheid ihn dazu bewogen hätte, sich auf diesen Umstand zu berufen, oder dass ihm dies in den vorhergehenden Verfahrensstadien trotz hinreichender Sorgfalt prozessual unmöglich bzw. objektiv unzumutbar gewesen wäre (vgl. Urteil 8C_71/2016 vom 1. Juli 2016 E. 2.2.3 mit Hinweisen).
Das Vorbringen ist daher als unechtes Novum nicht beachtlich. Selbst wenn es aber, entgegen dem eben Gesagten, zu berücksichtigen wäre, könnte der Beschwerdeführer daraus nichts zu seinen Gunsten ableiten, gebietet es die von einer IV-Stelle zu erwartende Sorgfalt doch nicht, dass bei der Überprüfung der Berechtigung einer einzelnen Zusatzrente stets auch die Rechtmässigkeit aller anderen Zusatzrenten zu kontrollieren wäre.
5.3. Abgesehen davon ficht der Beschwerdeführer die Sachverhaltsfeststellungen der Vorinstanz nicht an, sondern bestätigt diese im Wesentlichen. Im Übrigen erweist sich die rechtliche Würdigung durch das kantonale Gericht als zutreffend, so dass die Beschwerde abzuweisen ist.
6.
Die offensichtlich unbegründete Beschwerde wird im vereinfachten Verfahren nach <ref-law> - mit summarischer Begründung unter Verweis auf den kantonalen Entscheid (Art. 102 Abs. 1 und Art. 109 Abs. 3 BGG) - erledigt.
7.
Die Kosten des Verfahrens sind vom unterliegenden Beschwerdeführer zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 8. August 2017
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Betschart