Sachverhalt: Sachverhalt: A. Der 1951 geborene L._ bezog seit 1. April 1998 eine Viertelsrente der Invalidenversicherung. Ab 1. April 1999 wurde ihm zufolge Bejahung des Härtefalls eine halbe Rente zugesprochen, welche per 1. Dezember 1999 auf eine ganze Rente erhöht wurde. Ab 1. Dezember 2001 gelangte wiederum eine halbe Rente zur Auszahlung. Am 23. Juni 1999 hatte sich L._ zum Bezug von Ergänzungsleistungen angemeldet, welche ihm ab 1. November 1999 gewährt wurden. Auf Grund einer Neuberechnung der Ergänzungsleistungen forderte die Sozialversicherungsanstalt des Kantons Aargau, Ausgleichskasse, mit Verfügung vom 13. Dezember 2002 die für die Zeit ab 1. Dezember 1999 bis 30. April 2002 zu viel ausgerichteten Ergänzungsleistungen im Betrag von Fr. 84'213.- zurück. Am 23. Juni 1999 hatte sich L._ zum Bezug von Ergänzungsleistungen angemeldet, welche ihm ab 1. November 1999 gewährt wurden. Auf Grund einer Neuberechnung der Ergänzungsleistungen forderte die Sozialversicherungsanstalt des Kantons Aargau, Ausgleichskasse, mit Verfügung vom 13. Dezember 2002 die für die Zeit ab 1. Dezember 1999 bis 30. April 2002 zu viel ausgerichteten Ergänzungsleistungen im Betrag von Fr. 84'213.- zurück. B. Mit Beschwerde beantragte L._ eine Überprüfung der Rückerstattungsverfügung. Die Ausgleichskasse reduzierte die Rückforderung lite pendente auf Fr. 78'413.- und schloss im Übrigen auf Abweisung der Beschwerde. Mit Entscheid vom 21. Oktober 2003 hiess das Versicherungsgericht des Kantons Aargau die Beschwerde teilweise gut und änderte die Verfügung vom 13. Dezember 2002 in dem Sinne ab, dass der zurückzuerstattende Betrag auf Fr. 65'017.- festgesetzt wurde. B. Mit Beschwerde beantragte L._ eine Überprüfung der Rückerstattungsverfügung. Die Ausgleichskasse reduzierte die Rückforderung lite pendente auf Fr. 78'413.- und schloss im Übrigen auf Abweisung der Beschwerde. Mit Entscheid vom 21. Oktober 2003 hiess das Versicherungsgericht des Kantons Aargau die Beschwerde teilweise gut und änderte die Verfügung vom 13. Dezember 2002 in dem Sinne ab, dass der zurückzuerstattende Betrag auf Fr. 65'017.- festgesetzt wurde. C. Mit Verwaltungsgerichtsbeschwerde beantragt L._ sinngemäss die Reduktion der Rückerstattungsforderung um den Betrag der Krankenkassenprämienverbilligungen für die Zeit vom 1. Dezember 1999 bis 30. November 2001. Im Übrigen sei die Rückforderung in Ordnung. In ihrer Vernehmlassung gibt die Ausgleichskasse L._ insoweit Recht, als für den Zeitraum vom 1. Dezember 1999 bis 31. Dezember 2000 tatsächlich Prämienverbilligungen im Betrag von Fr. 2730.- verrechnet worden seien. In der Zeit danach seien jedoch keine Abzüge mehr erfolgt. Sie beantragt daher die Reduktion des zurückzuerstattenden Betrages auf Fr. 62'287.- und im Übrigen die Abweisung der Verwaltungsgerichtsbeschwerde. In einer weiteren Eingabe hält L._ daran fest, dass die Prämienverbilligungen bis November 2001 zu berücksichtigen seien. Auf Aufforderung des Eidgenössischen Versicherungsgerichts hin reichte die Ausgleichskasse eine weitere Stellungnahme ein und legte dar, dass L._ für die Zeit ab November 1999 bis Dezember 2001 einen Prämienverbilligungsanspruch in der Höhe von Fr. 3771.- habe, dass ihr aber unter Mitberücksichtigung des Jahres 2002 noch ein Betrag von Fr. 2776.- zustehe, sodass sich der Anspruch von L._ auf Fr. 995.- reduziere. L._ hat zu diesen Ausführungen nicht mehr Stellung genommen. Das Bundesamt für Sozialversicherung verzichtet auf eine Vernehmlassung.