Sachverhalt: Sachverhalt: A. K._ (geb. 2000) leidet an mehreren Geburtsgebrechen und erhielt von der Invalidenversicherung verschiedene Leistungen zugesprochen, darunter als Sonderschulmassnahme stationäre heilpädagogische Früherziehung im Heilpädagogischen Kinderheim W._ für die Zeitspanne vom 28. September 2001 bis Ende Dezember 2002. Ein Gesuch um Verlängerung der stationären Früherziehung lehnte die IV-Stelle des Kantons Aargau mit Verfügung vom 3. Juli 2003 ab. Diese Verfügung bestätigte die IV-Stelle mit Einspracheentscheid vom 22. September 2003. A. K._ (geb. 2000) leidet an mehreren Geburtsgebrechen und erhielt von der Invalidenversicherung verschiedene Leistungen zugesprochen, darunter als Sonderschulmassnahme stationäre heilpädagogische Früherziehung im Heilpädagogischen Kinderheim W._ für die Zeitspanne vom 28. September 2001 bis Ende Dezember 2002. Ein Gesuch um Verlängerung der stationären Früherziehung lehnte die IV-Stelle des Kantons Aargau mit Verfügung vom 3. Juli 2003 ab. Diese Verfügung bestätigte die IV-Stelle mit Einspracheentscheid vom 22. September 2003. B. Die von K._, vertreten durch seine Eltern, hiegegen erhobene Beschwerde hiess das Versicherungsgericht des Kantons Aargau mit Entscheid vom 20. Januar 2004 gut. Es verpflichtete die Invalidenversicherung, Kostengutsprache für stationäre heilpädagogische Früherziehung ab 1. Januar 2003 bis zum Eintritt in den Kindergarten zu leisten. B. Die von K._, vertreten durch seine Eltern, hiegegen erhobene Beschwerde hiess das Versicherungsgericht des Kantons Aargau mit Entscheid vom 20. Januar 2004 gut. Es verpflichtete die Invalidenversicherung, Kostengutsprache für stationäre heilpädagogische Früherziehung ab 1. Januar 2003 bis zum Eintritt in den Kindergarten zu leisten. C. Das Bundesamt für Sozialversicherung (BSV) führt Verwaltungsgerichtsbeschwerde mit dem Antrag, der kantonale Entscheid sei aufzuheben. Während K._ auf Abweisung der Verwaltungsgerichtsbeschwerde schliessen lässt, verzichtet die IV-Stelle auf eine Vernehmlassung.