Sachverhalt: Sachverhalt: A. P._ (geb. 1970) meldete sich am 25. Oktober 2002 bei der Invalidenversicherung zum Leistungsbezug an. Am 22. Januar 2004 stellte er ein Gesuch um Vorschussleistungen. Die IV-Stelle des Kantons Aargau lehnte dieses mit Verfügung vom 10. Dezember 2004 ab und hielt mit Einspracheentscheid vom 23. Februar 2005 daran fest. A. P._ (geb. 1970) meldete sich am 25. Oktober 2002 bei der Invalidenversicherung zum Leistungsbezug an. Am 22. Januar 2004 stellte er ein Gesuch um Vorschussleistungen. Die IV-Stelle des Kantons Aargau lehnte dieses mit Verfügung vom 10. Dezember 2004 ab und hielt mit Einspracheentscheid vom 23. Februar 2005 daran fest. B. Die dagegen erhobene Beschwerde hiess das Versicherungsgericht des Kantons Aargau mit Entscheid vom 29. März 2006 insofern gut, als es die IV-Stelle verpflichtete, P._ einen Vorschuss von Fr. 10'000.- zu bezahlen. B. Die dagegen erhobene Beschwerde hiess das Versicherungsgericht des Kantons Aargau mit Entscheid vom 29. März 2006 insofern gut, als es die IV-Stelle verpflichtete, P._ einen Vorschuss von Fr. 10'000.- zu bezahlen. C. Das Bundesamt für Sozialversicherungen (BSV) führt Verwaltungsgerichtsbeschwerde mit dem Antrag, der kantonale Entscheid sei aufzuheben. P._ liess um Entzug der aufschiebenden Wirkung ersuchen. Mit Verfügung vom 2. August 2006 lehnte das Eidgenössische Versicherungsgericht dieses Begehren ab und lud P._ ein, sich zur Sache zu äussern. Dieser lässt auf Abweisung der Verwaltungsgerichtsbeschwerde schliessen.