Sachverhalt: Sachverhalt: A. H._ ist der Ausgleichskasse Obwalden (nachfolgend: Ausgleichskasse) als Selbstständigerwerbender angeschlossen. Gemäss Verfügung vom 6. März 2001 bezahlte er für das Jahr 2001 persönliche Beiträge von Fr. 1509.-. Gestützt auf die Steuermeldung vom 13. Juni 2003 setzte die Ausgleichskasse am 29. August 2003 die Beiträge für 2001 auf Fr. 64'288.20 (abzüglich der geleisteten Fr. 1509.-) fest. H._ beglich am 26. September 2003 den ausstehenden Betrag von Fr. 62'779.20, welcher der Ausgleichskasse am 29. September 2003 gutgeschrieben wurde. Mit Verfügung vom 7. Oktober 2003, bestätigt mit Einspracheentscheid vom 14. Oktober 2003, forderte die Ausgleichskasse Verzugszinsen von Fr. 2345.50 für die Zeit vom 1. Januar bis 29. September 2003. A. H._ ist der Ausgleichskasse Obwalden (nachfolgend: Ausgleichskasse) als Selbstständigerwerbender angeschlossen. Gemäss Verfügung vom 6. März 2001 bezahlte er für das Jahr 2001 persönliche Beiträge von Fr. 1509.-. Gestützt auf die Steuermeldung vom 13. Juni 2003 setzte die Ausgleichskasse am 29. August 2003 die Beiträge für 2001 auf Fr. 64'288.20 (abzüglich der geleisteten Fr. 1509.-) fest. H._ beglich am 26. September 2003 den ausstehenden Betrag von Fr. 62'779.20, welcher der Ausgleichskasse am 29. September 2003 gutgeschrieben wurde. Mit Verfügung vom 7. Oktober 2003, bestätigt mit Einspracheentscheid vom 14. Oktober 2003, forderte die Ausgleichskasse Verzugszinsen von Fr. 2345.50 für die Zeit vom 1. Januar bis 29. September 2003. B. Die hiegegen erhobene Beschwerde hiess das Verwaltungsgericht des Kantons Obwalden mit Entscheid vom 23. April 2004 teilweise gut und verpflichtete H._ der Ausgleichskasse Verzugszinsen von Fr. 2083.30 (1. Januar bis 29. August 2003) zu bezahlen. B. Die hiegegen erhobene Beschwerde hiess das Verwaltungsgericht des Kantons Obwalden mit Entscheid vom 23. April 2004 teilweise gut und verpflichtete H._ der Ausgleichskasse Verzugszinsen von Fr. 2083.30 (1. Januar bis 29. August 2003) zu bezahlen. C. Das Bundesamt für Sozialversicherung (nachfolgend: BSV) führt Verwaltungsgerichtsbeschwerde mit dem Antrag, der vorinstanzliche Entscheid sei aufzuheben. Die Ausgleichskasse teilt in ihrer Stellungnahme mit, dass auf Grund einer Revision der Steuerveranlagung deutlich geringere auszugleichende Beiträge zu bezahlen seien, womit sich die Verzugszinsen entsprechend reduzieren würden, und beantragt, dies im letztinstanzlichen Verfahren zu berücksichtigen; im Übrigen schliesst sie auf Gutheissung der Verwaltungsgerichtsbeschwerde. H._ verzichtet auf eine Stellungnahme.