Sachverhalt:
A. Mit Verfügung vom 29. März 2010 verneinte die Schweizerische Ausgleichskasse (SAK) den Anspruch auf eine Altersrente des M._ (geb. 1945), kosovarischer Staatsangehöriger, unter Hinweis darauf, dass seit dem 1. April 2010 zwischen der Schweiz und dem Kosovo keine zwischenstaatliche Vereinbarung mehr bestehe, er nicht in der Schweiz lebe und die Wohnsitzvoraussetzung daher nicht erfüllt sei. Daraufhin beantragte M._ die Rückvergütung seiner AHV-Beiträge. Am 22. Juni 2010 verstarb er. Er hinterliess seine (kosovarische) Ehefrau A._ (geb. 1958).
Am 29. Juli 2010 verfügte die SAK die Rückerstattung von Beiträgen in der Höhe von Fr. 5'038.20. Daran hielt sie auf Einsprache der A._ hin fest (Entscheid vom 6. Dezember 2010).
B. Beschwerdeweise liess A._ die Ausrichtung eines höheren Rückerstattungsbetrages (zuzüglich Verzugszinsen) beantragen. Mit Entscheid vom 13. Februar 2012 wies das Bundesverwaltungsgericht die Beschwerde ab. Es hob den Einspracheentscheid und die Rückerstattungsverfügung auf und forderte die SAK auf, "im Sinne der Erwägungen den Rentenanspruch zu prüfen und gegebenenfalls zu verrechnen".
C. Das Bundesamt für Sozialversicherungen (BSV) lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und das Rechtsbegehren stellen, der Entscheid des Bundesverwaltungsgerichts sei aufzuheben und der Einspracheentscheid der SAK zu bestätigen.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann wegen Rechtsverletzungen gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zu Grunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2. 2.1 Wie in den unlängst ergangenen Urteilen 9C_167/2012 und 9C_171/2012 vom 23. Mai 2012 stellt sich vorab die Frage nach der Beschwerdelegitimation des BSV. Auch im hier zu beurteilenden Fall hat das Bundesverwaltungsgericht als Vorinstanz die Frage, ob das Abkommen vom 8. Juni 1962 zwischen der Schweizerischen Eidgenossenschaft und der (ehemaligen) Föderativen Volksrepublik Jugoslawien über Sozialversicherung (Sozialversicherungsabkommen; SR 0.831.109.818.1) und die Verwaltungsvereinbarung vom 5. Juli 1963 betreffend die Durchführung des Abkommens (SR 0.831.109.818.12) auf Bürger von Kosovo weiterhin anwendbar sind, bejaht und die Sache an die SAK zum weiteren Vorgehen (Prüfung des Rentenanspruchs) zurückgewiesen.
2.2 Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob ein Rechtsmittel zulässig ist (<ref-ruling> E. 1.1 S. 3).
2.2.1 Ein Rückweisungsentscheid schliesst das Verfahren nicht ab und ist nach der Regelung des BGG grundsätzlich kein Endentscheid, selbst wenn darin über eine materielle Grundsatzfrage entschieden wird. Er bildet in erster Linie einen Zwischenentscheid, der u.a. nur unter den Voraussetzungen von <ref-law> selbstständig angefochten werden kann (<ref-ruling> E. 4.2 S. 481 f.; vgl. auch <ref-ruling> E. 1.1 S. 426). Wenn jedoch bei einem Rückweisungsentscheid der unteren Instanz, an welche zurückgewiesen wird, kein Entscheidungsspielraum mehr belassen wird und die Rückweisung nur noch der Umsetzung des oberinstanzlich Angeordneten dient, handelt es sich um einen Endentscheid im Sinne von <ref-law> (Urteil 9C_684/2007 vom 27. Dezember 2007 E. 1.1 mit Hinweisen, in: SVR 2008 IV Nr. 39 S. 131).
2.2.2 Das BSV begründet seine Beschwerdelegitimation damit, dass die Voraussetzungen, unter denen ein Rückweisungsentscheid ausnahmsweise als Endentscheid betrachtet werden könne, erfüllt seien. Es sei aktenkundig, dass der verstorbene Versicherte 1970 bis 1974 (während vier Jahren und drei Monaten) in der Schweiz gearbeitet und am 7. April 2010 das 65. Altersjahr erreicht habe, was grundsätzlich zu einer schweizerischen Altersrente berechtige bzw. nach dessen Tod am 22. Juni 2010 zu einer Witwenrente zu Gunsten von A._. Der einzig strittige Punkt sei die Frage nach der Anwendbarkeit des Sozialversicherungsabkommens, von deren Beantwortung abhänge, ob die Witwenrente exportiert werde oder eine Beitragsrückvergütung zu prüfen sei. Nachdem sich die Vorinstanz für die Anwendbarkeit des Abkommens und damit für den Rentenexport ausgesprochen habe, diene die Rückweisung an die Ausgleichskasse nur noch der frankenmässigen Festsetzung der Witwenrente. Der grundsätzliche Anspruch auf eine Witwenrente sei schon aufgrund des Vorhandenseins von Kindern (aktenkundig) zu bejahen.
2.3 Dem Urteil 9C_171/2012 (vgl. auch Urteil 9C_167/2012) lag der Fall eines kosovarischen Staatsangehörigen mit Wohnsitz im Kosovo zu Grunde, dessen Anspruch auf eine Altersrente die SAK unter Hinweis auf das Fehlen einer zwischenstaatlichen Vereinbarung abgelehnt hatte, wogegen das Bundesverwaltungsgericht an der Weitergeltung des Sozialversicherungsabkommens festhielt, den Einspracheentscheid sowie die Verfügung der SAK aufhob und die Sache an die SAK zurückwies, "damit sie die Prüfung des Rentenbegehrens fortsetze und anschliessend unter Anwendung des noch in Kraft stehenden Sozialversicherungsabkommens in der Sache neu verfüge".
Das Bundesgericht erwog, dass ein Endentscheid im Sinne von <ref-law> nicht vorliege, weil die vorinstanzliche Rückweisung - entgegen der Argumentation des Beschwerde führenden BSV - über eine reine Formalie hinausgehe bzw. mehr umfasse als die blosse Ermittlung des Rentenbetrages (vgl. dazu Urteil 9C_684/2007 vom 27. Dezember 2007 E. 1.1). Es treffe zwar zu, dass der angefochtene Entscheid der SAK in Bezug auf das anwendbare Recht keinen Spielraum belasse, doch sei dies lediglich ein materieller Teilaspekt. Damit würden nicht alle wesentlichen Punkte entschieden. So stellte sich im damals zu beurteilenden Fall vor allem die Frage, ob der Beschwerdegegner allenfalls eine Abfindung gemäss Art. 7 lit. a Abs. 1 des Sozialversicherungsabkommens wünschte, zumal er als Saisonnier mit nur 10-jähriger Beitragsdauer keinen Anspruch auf eine (ordentliche) Vollrente erworben hatte (vgl. <ref-law>). Zwar sei diese Wahl bei der Anmeldung zum Rentenbezug zu treffen, falls der Berechtigte sich ausserhalb der Schweiz aufhalte (Art. 7 lit. a Abs. 1 in fine des Sozialversicherungsabkommens). Dass sich im Anmeldeformular keine entsprechende Wahlmöglichkeit finde, könne dem Beschwerdegegner nicht zum Nachteil gereichen. Er werde, sofern die Auszahlung einer Abfindung in Frage komme, nachträglich über diese Option zu informieren sein. Das BSV schweige sich zu dieser entscheidrelevanten Begebenheit aus und eine klare Antwort ergebe sich auch nicht aus den Akten.
Da der angefochtene Rückweisungsentscheid nach dem Gesagten nicht als Endentscheid betrachtet werden konnte, prüfte das Bundesgericht, ob die Voraussetzungen für die Anfechtung als Zwischenentscheid gemäss <ref-law> erfüllt waren. Es gelangte zum Ergebnis, dass auf die Beschwerde bereits mangels Substanziierung der Voraussetzungen des <ref-law> nicht einzutreten sei, da sich das BSV dazu mit keinem Wort äusserte (Urteile 5A_175/2009 vom 9. Juni 2009 E. 1.3 und 4A_92/2007 vom 8. Juni 2007 E. 2 in fine; SEILER/VON WERDT/GÜNGERICH, Bundesgerichtsgesetz [BGG], 2007, N. 13 zu <ref-law>). Darüber hinaus wären die Voraussetzungen ohnehin nicht gegeben, sei doch ein nicht wieder gutzumachender Nachteil (wegen der Möglichkeit, den Endentscheid anzufechten) ebenso zu verneinen wie die (rechtsprechungsgemäss nur mit Zurückhaltung anzunehmende) Ersparnis eines bedeutenden Aufwands an Zeit oder Kosten für ein weitläufiges Beweisverfahren.
2.4 Diese Überlegungen lassen sich ohne weiteres auf den hier zu beurteilenden Fall übertragen: Auch der Entscheid des Bundesverwaltungsgerichts vom 13. Februar 2012 kann nicht als Endentscheid betrachtet werden, da er der SAK nur in Bezug auf das anwendbare Recht keinen Spielraum belässt (indem er die Weitergeltung des Sozialversicherungsabkommens festhält), womit lediglich ein materieller Teilaspekt, aber nicht alle wesentlichen Punkte entschieden sind. So könnte auch der inzwischen verstorbene Versicherte allenfalls eine Abfindung gemäss Art. 7 lit. a Abs. 1 des Sozialversicherungsabkommens gewollt haben, zumal er mit einer Beitragsdauer von vier Jahren und drei Monaten ebenso wenig einen Anspruch auf eine ordentliche Vollrente erworben hatte (vgl. <ref-law>). Die administrative Unzulänglichkeit, dass das Anmeldeformular die Möglichkeit, zwischen einer Rente und einer Abfindung zu wählen, nicht vorsah, darf für den Versicherten resp. seine Hinterlassenen keine Nachteile zur Folge haben. Sodann scheitert die Anfechtung als Zwischenentscheid wie im Verfahren 9C_171/2012 daran, dass sich das BSV zu den Rechtsmittelvoraussetzungen des <ref-law> nicht geäussert hat, so dass auf die Beschwerde insoweit mangels rechtsgenüglicher Substanziierung nicht einzutreten ist. Im Übrigen wären auch hier aus den im Urteil 9C_171/2012 erwähnten Gründen die Voraussetzungen des nicht wieder gutzumachenden Nachteils oder der Ersparnis eines bedeutenden Aufwands an Zeit oder Kosten für ein weitläufiges Beweisverfahren nicht erfüllt.
2.5 Bei dieser Sachlage ist auf die Beschwerde des BSV nicht einzutreten.
3. Es sind keine Gerichtskosten zu erheben (Art. 66 Abs. 1 und 4 BGG). Der Beschwerdegegnerin ist im bundesgerichtlichen Verfahren kein Aufwand erwachsen, da kein Schriftenwechsel durchgeführt wurde; es ist ihr daher keine Parteientschädigung zuzusprechen (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Es werden keine Gerichtskosten erhoben.
3. Dieses Urteil wird den Parteien, der Schweizerischen Ausgleichskasse und dem Bundesverwaltungsgericht schriftlich mitgeteilt.
Luzern, 31. Mai 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Die Gerichtsschreiberin: Keel Baumann