Sachverhalt:
A. Der 1946 geborene K._ bezieht seit 1. Juli 1986 eine Entschädigung wegen Hilflosigkeit leichten Grades bzw. seit 1. Februar 1996 eine Entschädigung wegen Hilflosigkeit mittleren Grades. Auf den 1. Januar 2004 wurden die Hilflosenentschädigungen für nicht in einem Heim lebende versicherte Personen betragsmässig erhöht; eine entsprechende Revision der Entschädigung des K._ fand indessen nicht statt. Am 8. Januar 2011 wandte sich der Versicherte an die IV-Stelle des Kantons Zürich und erkundigte sich, weshalb er lediglich eine Entschädigung gemäss den Ansätzen der Heimbewohner erhalte, wo er doch noch nie in einem Heim gewohnt habe. Mit Verfügung vom 12. April 2011 sprach die IV-Stelle dem Versicherten die Nachzahlung des Differenzbetrages zwischen den beiden Entschädigungsarten für die Zeit ab 1. Januar 2006 zu, verneinte aber gleichzeitig einen Nachzahlungsanspruch für die Zeit zwischen dem 1. Januar 2004 und dem 31. Dezember 2005.
B. Die von K._ hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 28. September 2012 ab.
C. Mit Beschwerde beantragt K._, ihm sei unter Anpassung der Verfügung und Aufhebung des kantonalen Gerichtsentscheides der Differenzbetrag zuzüglich Zinsen auch für die Zeit vom 1. Januar 2004 bis 31. Dezember 2005 nachzuzahlen.
Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (vgl. <ref-ruling> E. 2.5 S. 262; <ref-ruling> E. 1.4 S. 140). Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind. Es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (<ref-ruling> E. 1.4.1 S. 254).
1.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann deren Sachverhaltsfeststellung berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2. Es steht fest und ist unbestritten, dass der Beschwerdeführer in der Zeit zwischen 1. Januar 2004 und 31. Dezember 2005 Anspruch auf eine höhere als die tatsächlich ausbezahlte Hilflosenentschädigung hatte. Streitig und zu prüfen ist demgegenüber, ob der Differenzbetrag nachzuzahlen ist oder ob der Anspruch auf die Differenz verjährt oder verwirkt ist.
3. 3.1 Der Anspruch auf ausstehende Leistungen oder Beiträge erlischt in Anwendung von <ref-law> fünf Jahre nach dem Ende des Monats, für welchen die Leistung, und fünf Jahre nach dem Ende des Kalenderjahres, für welches der Beitrag geschuldet war.
3.2 Grundsätzlich wird die Frist von <ref-law> durch eine rechtzeitige Anmeldung (<ref-law>) gewahrt (vgl. <ref-ruling> E. 4.3.1 S. 583 ff. mit Hinweisen). Übersieht ein Versicherungsträger jedoch eine hinreichend substantiierte Anmeldung, werden nur die Leistungen der letzten fünf Jahre vor der Neuanmeldung nachbezahlt, weiter zurückliegende sind untergegangen (<ref-ruling> E. 5d S. 201 f.). Das Bundesgericht hat trotz der Kritik eines Teils der Lehre (Ueli Kieser, Bemerkungen, in: AJP 1995 S. 1619 f.; Thomas Locher, Grundriss des Sozialversicherungsrechts, 2. Aufl., Bern 1997, S. 335 Rz. 7; Ueli Kieser, Die Eingliederungsmassnahmen als Gegenstand von Anmeldung, Abklärung und Verfügung, in: Schaffhauser/Schlauri [Hrsg.], Rechtsfragen der Eingliederung Behinderter, St. Gallen 2000, S. 117 ff., S. 125) an dieser Rechtsprechung festgehalten, da dieselben Gründe, welche im Allgemeinen für die Einführung von Verjährungs- bzw. Verwirkungsbestimmungen sprachen, grundsätzlich auch für rechtzeitig angemeldete Ansprüche gelten (vgl. Urteil M 12/06 vom 23. November 2007 E. 5). Nach diesem Urteil ist <ref-law> weiterhin auch auf rechtzeitig angemeldete Ansprüche anwendbar; Anmeldung und Neuanmeldung wirken dabei gleichsam wie eine Unterbrechung der fünfjährigen Frist (vgl. auch Urteil U 314/05 vom 7. September 2006 E. 6.2). Im Urteil 8C_888/2012 vom 20. Februar 2013 E. 4.3 hat das Bundesgericht zudem festgehalten, dass <ref-law> grundsätzlich auch in jenen Fällen Anwendung findet, in denen der Versicherungsträger zunächst mit der Prüfung eines Anspruchs begonnen hatte, hernach aber nicht über diesen mittels Verfügung entschied.
3.3 Die Frist zur Vollstreckung einer rechtskräftig zugesprochenen Leistung beträgt gemäss <ref-ruling> E. 2a S. 211 nicht fünf, sondern zehn Jahre. Bisher noch nicht entschieden wurde die auch vorliegend nicht zu beantwortende Frage, ob diese Rechtsprechung auch nach Inkrafttreten des ATSG noch gilt (vgl. die Kritik bei André Pierre Holzer, Verjährung und Verwirkung der Leistungsansprüche im Sozialversicherungsrecht, Diss. Fribourg 2005, S. 78 ff.).
4. 4.1 Auf den 1. Januar 2004 wurden die Ansätze der Hilflosenentschädigung jener versicherten Personen, welche nicht in einem Heim leben, verdoppelt, während jener für Heimbewohner unverändert beibehalten wurde. Gemäss den Übergangsbestimmungen zu dieser Änderung hätten die nach altem Recht zugesprochenen Hilflosenentschädigungen binnen eines Jahres, mithin bis zum 31. Dezember 2004, überprüft werden sollen. Diese Überprüfung hat beim Beschwerdeführer nicht stattgefunden. Bei dieser Sachlage kann nicht gesagt werden, bei der im Streit liegenden Nachzahlung handle es sich lediglich um die Vollstreckung einer rechtskräftig zugesprochenen Leistung. Der Beschwerdeführer kann demnach aus <ref-ruling> E. 2a S. 211 nichts zu seinen Gunsten ableiten.
4.2 Das Bundesgericht hat - in Kenntnis der Kritik eines Teils der Lehre - seine Rechtsprechung, wonach <ref-law> auch für rechtzeitig angemeldete Ansprüche gilt, wiederholt bestätigt (zuletzt im Urteil 8C_888/2012 vom 20. Februar 2013; vgl. auch E. 3.2 hiervor). Was der Beschwerdeführer vorbringt, rechtfertigt keine erneute Überprüfung dieser Praxis. Somit ist nicht zu beanstanden, dass die Vorinstanz in korrekter Anwendung von <ref-law> schloss, der Nachzahlungsanspruch sei am 8. Januar 2001 für die Zeit vom 1. Januar 2004 bis zum 31. Dezember 2005 bereits untergegangen gewesen.
4.3 Der Versicherte bringt weiter vor, die Beschwerdegegnerin hätte ihn bei Inkrafttreten der neuen Regelung (mithin auf den 1. Januar 2004) aktiv informieren müssen und habe durch die unterlassene Aufklärung ihre Beratungspflicht im Sinne von <ref-law> verletzt. Wie es sich damit verhält, vermag indessen offenzubleiben: Auch ein auf <ref-law> gestützter Leistungsanspruch würde der Verwirkung unterliegen und wäre somit am 8. Januar 2011 ebenfalls bereits untergegangen gewesen.
4.4 Somit ist nicht zu beanstanden, dass Vorinstanz und Verwaltung den Nachzahlungsanspruch auf die Zeit ab dem 1. Januar 2006 beschränkten; die Beschwerde des Versicherten ist abzuweisen.
5. Dem Ausgang des Verfahrens entsprechend sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 27. März 2013
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Leuzinger
Der Gerichtsschreiber: Nabold