Sachverhalt: A. Nachdem die IV-Stelle des Kantons Solothurn ein erstes Gesuch der 1978 geborenen H._ um Zusprechung einer Hilflosenentschädigung der Invalidenversicherung mangels Erfüllung der versicherungsmässigen Voraussetzungen am 2. Juni 2010 abgelehnt hatte, trat sie auf ein neues Begehren um Gewährung einer Hilflosenentschädigung mit Verfügung vom 9. Mai 2011 nicht ein. B. H._ führte gegen die Verfügung vom 9. Mai 2011 beim Versicherungsgericht des Kantons Solothurn Beschwerde, wobei sie u.a. um die Bewilligung der unentgeltlichen Prozessführung ersuchte. Dieses Gesuch wies das Versicherungsgericht mit Entscheid vom 9. August 2011 ab, worauf die Versicherte die Beschwerde mit Schreiben vom 13. September 2011 zurückzog. Mit Beschluss vom 19. September 2011 schrieb die Präsidentin des Versicherungsgerichts das Verfahren infolge Rückzuges der Beschwerde von der Geschäftskontrolle ab und auferlegte H._ Gerichtskosten in der Höhe von Fr. 100.-. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt das Bundesamt für Sozialversicherungen (BSV), der vorinstanzliche Abschreibungsbeschluss sei aufzuheben, soweit der Versicherten Gerichtskosten von Fr. 100.- auferlegt wurden, und die Sache sei an das kantonale Gericht zurückzuweisen, damit es die Kosten innerhalb des gesetzlich vorgegebenen Rahmens von 200-1'000 Franken festsetze. H._ und die IV-Stelle verzichten auf eine Vernehmlassung. Das Versicherungsgericht des Kantons Solothurn lässt sich in ablehnendem Sinne zur Beschwerde vernehmen.