Sachverhalt:
A. Mit Verfügung vom 30. November 2010 verneinte die Schweizerische Ausgleichskasse (SAK) einen Anspruch der G._, kosovarische Staatsangehörige mit Wohnsitz im Kosovo, auf eine Hinterlassenenrente (Tod des Ehemanns am 27. August 2010; Anmeldung vom 19. Oktober 2010), dies unter Hinweis darauf, dass seit dem 1. April 2010 zwischen der Schweiz und dem Kosovo keine zwischenstaatliche Vereinbarung mehr bestehe. Daran hielt die SAK mit Einspracheentscheid vom 4. April 2011 fest.
B. G._ erhob dagegen Beschwerde mit dem sinngemässen Rechtsbegehren, der Einspracheentscheid sei aufzuheben und es seien ihr die gesetzlichen Leistungen der AHV auszurichten. Das angerufene Bundesverwaltungsgericht rief vorab sein in Rechtskraft erwachsenes Grundsatzurteil C-4828/2010 vom 7. März 2011 in Erinnerung, in dem es sich für die Weiteranwendung des Abkommens ausgesprochen hatte; das Bundesgericht war auf die diesbezügliche Beschwerde in öffentlich-rechtlichen Angelegenheiten des Bundesamtes für Sozialversicherungen (BSV) nicht eingetreten (Urteil 9C_329/2011 vom 27. September 2011). In der Folge hiess das Bundesverwaltungsgericht die Beschwerde in dem Sinne gut, als es den Einspracheentscheid und die Verfügung aufhob und die Sache an die SAK zurückwies, "damit sie die Prüfung des Antrags der Beschwerdeführerin auf Ausrichtung einer Hinterlassenenrente fortsetze und anschliessend unter Anwendung des noch in Kraft stehenden Sozialversicherungsabkommens in der Sache neu verfüge" (Entscheid vom 12. Januar 2012).
C. Das BSV reicht Beschwerde in öffentlich-rechtlichen Angelegenheiten ein und beantragt, der Entscheid des Bundesverwaltungsgerichts sei aufzuheben und es sei die Verfügung (recte: der Einspracheentscheid) der SAK vom 4. April 2011 zu bestätigen.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (Art. 82 ff. BGG) kann wegen Rechtsverletzungen gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zu Grunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG).
2. Im vorinstanzlichen Verfahren stellte sich (wie im Prozess C-4828/2010) die Frage, ob das Abkommen vom 8. Juni 1962 zwischen der Schweizerischen Eidgenossenschaft und der (ehemaligen) Föderativen Volksrepublik Jugoslawien über Sozialversicherung (Sozialversicherungsabkommen; SR 0.831.109.818.1) und die Verwaltungsvereinbarung vom 5. Juli 1963 betreffend die Durchführung des Abkommens (SR 0.831.109.818.12) auf Bürger von Kosovo weiterhin anwendbar sind.
3. Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob ein Rechtsmittel zulässig ist (<ref-ruling> E. 1.1 S. 3).
3.1 Ein Rückweisungsentscheid schliesst das Verfahren nicht ab und ist nach der Regelung des BGG grundsätzlich kein Endentscheid, selbst wenn darin über eine materielle Grundsatzfrage entschieden wird. Er bildet in erster Linie einen Zwischenentscheid, der u.a. nur unter den Voraussetzungen von Art. 93 Abs. 1 BGG selbstständig angefochten werden kann (<ref-ruling> E. 4.2 S. 481 f.; vgl. auch <ref-ruling> E. 1.1 S. 426). Wenn jedoch bei einem Rückweisungsentscheid der unteren Instanz, an welche zurückgewiesen wird, kein Entscheidungsspielraum mehr belassen wird und die Rückweisung nur noch der Umsetzung des oberinstanzlich Angeordneten dient, handelt es sich um einen Endentscheid im Sinne von Art. 90 BGG (Urteil 9C_684/2007 vom 27. Dezember 2007 E. 1.1 mit Hinweisen, in: SVR 2008 IV Nr. 39 S. 131).
3.2 Das BSV begründet seine Beschwerdelegitimation damit, dass die Voraussetzungen, unter denen ein Rückweisungsentscheid ausnahmsweise als Endentscheid betrachtet werden könne, erfüllt seien. Es sei aktenkundig, dass der verstorbene Ehemann der G._, mit dieser seit 1966 verheiratet, in den Jahren 1981-1992 als Saisonnier in der Schweiz gearbeitet habe, was die Beschwerdegegnerin grundsätzlich zu einer schweizerischen Witwenrente berechtige. Der einzige strittige Punkt sei die Frage nach der Anwendbarkeit des Sozialversicherungsabkommens. Werde sie bejaht, würden die Leistungen exportiert; werde sie verneint, sei die Beitragsrückvergütung zulässig. Nachdem sich die Vorinstanz für die Anwendbarkeit des Abkommens und damit für den Rentenexport ausgesprochen habe, diene die Rückweisung an die Ausgleichskasse nur noch der Feststellung, dass die Voraussetzungen für eine Witwenrente erfüllt seien, sowie der Festsetzung des Rentenbetrages.
3.2.1 Im Urteil 9C_684/2007 vom 27. Dezember 2007 E. 1.1 (vgl. E. 3.1 in fine) qualifizierte das Bundesgericht einen Rückweisungsentscheid, mit dem eine Vorinstanz die Höhe einer Invalidenrente (ganze, Dreiviertelsrente usw.), aber nicht den frankenmässigen Rentenbetrag festgesetzt hatte, als Endentscheid. Bei einer rein rechnerischen Frage verbleibe in aller Regel kein Entscheidungsspielraum. Mit der Zusprechung einer ganzen Rente sei regelmässig das Wesentliche entschieden.
3.2.2 In concreto präsentiert sich die Rechts- und Sachlage indessen nicht derart liquid und unverrückbar. Es trifft zu, dass der angefochtene Entscheid der SAK in Bezug auf das anwendbare Recht keinen Spielraum belässt. Dies ist jedoch lediglich ein materieller Teilaspekt. Dass das Sozialversicherungsabkommen der Beschwerdegegnerin tatsächlich Anspruch auf eine schweizerische Witwenrente verleiht, ist damit nicht gesagt. Dazu bedarf es einer weiteren Prüfung der Anmeldung vom 19. Oktober 2010. So stellt sich hier vor allem die Frage, ob der 1938 geborene Ehemann der Beschwerdegegnerin sich allenfalls eine Abfindung gemäss Art. 7 lit. a Abs. 1 des Sozialversicherungsabkommens hat auszahlen lassen, zumal er als Saisonnier mit nur 12-jähriger Beitragsdauer keinen Anspruch auf eine (ordentliche) Vollrente erworben hat (vgl. Art. 29 Abs. 2 AHVG). Nach Auszahlung der Abfindung können weder der Berechtigte noch seine Hinterlassenen gegenüber der schweizerischen Versicherung irgendwelche Ansprüche aus den durch die Abfindung abgegoltenen Beiträgen mehr geltend machen (Art. 7 lit. a Abs. 2 Sozialversicherungsabkommen). Erstaunlich ist in diesem Zusammenhang denn auch, dass die Beschwerdegegnerin in der Anmeldung vom 19. Oktober 2010 angab, noch keine Leistungen der AHV/IV oder eine Hilflosenentschädigung beantragt oder bezogen zu haben, obwohl der Ehemann im Jahr 2003 das 65. Altersjahr vollendete (vgl. Art. 21 AHVG). In der (unrichtigerweise als Beschwerde bezeichneten) Einsprache vom 21. Dezember 2010 führte die Beschwerdegegnerin sodann aus, der Ehemann habe "alle Kapitalmittel seit dem Jahr 2003" besessen und ihr gehöre "der ganze Restbetrag". Eine klare Antwort ergibt sich demnach nicht aus den Akten. Das BSV schweigt sich zu diesen entscheidrelevanten Punkten aus.
3.2.3 Nach dem Gesagten kann nicht im Sinne von Art. 90 BGG auf die Beschwerde eingetreten werden. Entgegen der Auffassung des Beschwerdeführers geht die vorinstanzliche Rückweisung über eine reine Formalie hinaus resp. umfasst mehr als die blosse Ermittlung des Rentenbetrages.
3.3 Voraussetzung für die selbstständige Anfechtbarkeit eines Zwischenentscheids gemäss Art. 93 Abs. 1 BGG ist, dass der angefochtene Entscheid einen nicht wieder gutzumachenden Nachteil bewirken kann (lit. a) oder dass die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (lit. b).
Das BSV äussert sich zu diesen Rechtsmittelvoraussetzungen mit keinem Wort. Damit kommt es seiner Substanziierungspflicht nicht einmal ansatzweise nach und es kann - unter dem vorliegenden Titel - von vornherein nicht auf die Beschwerde eingetreten werden (Urteile 5A_175/2009 vom 9. Juni 2009 E. 1.3 und 4A_92/2007 vom 8. Juni 2007 E. 2 in fine; SEILER/VON WERDT/GÜNGERICH, Bundesgerichtsgesetz [BGG], 2007, N. 13 zu Art. 93 BGG). Dessen ungeachtet ist auf die Beschwerde auch aus folgenden Gründen nicht einzutreten:
3.3.1 Massgebend für das Vorliegen eines nicht wieder gutzumachenden Nachteils ist, ob der Nachteil auch mit einem günstigen Entscheid in Zukunft nicht behoben werden kann. Rechtsprechungsgemäss bewirkt ein Rückweisungsentscheid in der Regel keinen irreversiblen Nachteil im Sinne von Art. 93 Abs. 1 lit. a BGG, da der Rechtsuchende ihn später zusammen mit dem neu zu fällenden Endentscheid anfechten kann (vgl. Art. 93 Abs. 3 BGG). Anders verhält es sich allerdings für die Verwaltung bzw. den Versicherungsträger, wenn diese durch den Rückweisungsentscheid gezwungen werden, eine ihres Erachtens rechtswidrige Verfügung zu treffen. Diesfalls kann bereits dieser Entscheid angefochten und muss nicht der Endentscheid abgewartet werden (<ref-ruling> E. 5.2, 5.2.1-5.2.4 S. 483 ff.; Urteile 8C_531/2008 vom 8. April 2009 E. 1.2.1 mit Hinweisen, nicht publ. in: <ref-ruling>, aber in: SVR 2009 UV Nr. 40 S. 137, und 8C_682/2007 vom 30. Juli 2008 E. 1.2.1, nicht publ. in: <ref-ruling>). Im Urteil 9C_301/2010 vom 21. Januar 2011 (E. 1.2) hat das Bundesgericht erwogen, dass dasselbe auch für das BSV gilt, das mit der Überwachung des bundesrechtskonformen Gesetzesvollzuges betraut und gegenüber den IV-Stellen weisungsbefugt ist, obwohl es nicht selber verfügt hat. In casu ging es jedoch nicht um die grundsätzlich gegebene Anfechtungsmöglichkeit der später zu erlassenden Verwaltungsverfügung durch das BSV, sondern darum, dass eine ganze Rente weiter geflossen wäre, wenn es beim Entscheid der Vorinstanz geblieben wäre. Diese hatte im Dispositiv nebst der Rückweisung ausdrücklich deren Weiterausrichtung angeordnet. In dieser Konstellation ist die (direkte) behördliche Anfechtbarkeit des Rückweisungsentscheids rechtsprechungsgemäss zu bejahen. Da hier aber keine solche Konstellation vorliegt, kann sich das BSV nicht gleich wie die Verwaltung den Titel des nicht wieder gutzumachenden Nachteils zu Nutze machen, um sein Beschwerderecht gegen den angefochtenen Rückweisungsentscheid zu begründen. Dies gilt umso mehr, als das BSV, obwohl vorliegend möglich (Art. 89 Abs. 2 lit. a und Art. 111 Abs. 2 BGG in Verbindung mit Art. 201 AHVV und Art. 89 IVV), am vorinstanzlichen Verfahren nicht teilgenommen hat, womit es - anders als die verfügende Verwaltung - nicht seiner formellen Beschwer beraubt wurde (<ref-ruling> E. 5.2.4 S. 484; Urteile 8C_1053/2010 vom 26. Januar 2011 E. 4.1.1 und 8C_89/2010 vom 4. Oktober 2010 E. 4.1 und 4.2). Die Bundesämter beschränken sich aus einleuchtenden praktischen Gründen darauf, die kantonal letztinstanzlichen Entscheide und die Entscheide des Bundesverwaltungsgerichts zu überprüfen und allenfalls anzufechten (<ref-ruling> E. 5.2.4 S. 485). Entsprechend kann das BSV den (allenfalls) rechtswidrigen Endentscheid, der auf dem (behaupteterweise) bundesrechtswidrigen Rückweisungsentscheid beruht, anfechten und das falsche Ergebnis dannzumal korrigieren lassen (Urteil 9C_329/2011 vom 27. September 2011 E. 3.2, in: SVR 2012 IV Nr. 23 S. 97).
3.3.2 Mit der bundesgerichtlichen Feststellung, dass das Sozialversicherungsabkommen nicht mehr anwendbar sei, würde der angefochtene Entscheid wohl aufgehoben und der anspruchsverneinende Einspracheentscheid der SAK vom 4. April 2011 sofort rechtskräftig. Das Verfahren würde endgültig abgeschlossen. Indes geht damit nicht automatisch die Ersparnis eines bedeutenden Aufwands an Zeit oder Kosten für ein weitläufiges Beweisverfahren einher. Infolge des Auslandbezugs und allfällig nötiger Übersetzungen mag sowohl in zeitlicher als auch kostenmässiger Hinsicht ein gewisser Aufwand auf der Hand liegen. Dieser erweist sich aber nicht als gross. Die offenen Tatfragen (vgl. E. 3.2.2) lassen sich primär anhand der schweizerischen Verwaltungsunterlagen beantworten, ohne dass hierzu ein weitläufiges Beweisverfahren erforderlich wäre, das einen erheblichen Zeit- oder Kostenaufwand nach sich zöge. Im Übrigen ist es ständige Rechtsprechung, dass durch die Aufhebung von Rückweisungsentscheiden, mit denen eine ergänzende Sachverhaltsabklärung angeordnet wird, grundsätzlich kein bedeutender Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren im Sinne von Art. 93 Abs. 1 lit. b BGG erspart werden kann, zumal auch insoweit die selbstständige Anfechtbarkeit von Zwischenentscheiden aus prozessökonomischen Gründen eine Ausnahme darstellt, die restriktiv zu handhaben ist, und die Parteien keiner Rechte verlustig gehen, da sie die mit dem Zwischenentscheid zusammenhängenden Fragen mit dem Endentscheid anfechten können (Urteil 9C_329/2011 vom 27. September 2011 E. 3.3, in: SVR 2012 IV Nr. 23 S. 97; 8C_121/2011 vom 30. Juni 2011 E. 2, in: SVR 2012 IV Nr. 6 S. 38, je mit Hinweisen).
3.3.3 Zusammenfassend sind auch die Eintretensvoraussetzungen von Art. 93 Abs. 1 BGG nicht erfüllt.
4. Es sind keine Gerichtskosten zu erheben (Art. 66 Abs. 1 und 4 BGG).

Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Es werden keine Gerichtskosten erhoben.
3. Dieses Urteil wird den Parteien, der Schweizerischen Ausgleichskasse und dem Bundesverwaltungsgericht schriftlich mitgeteilt.
Luzern, 23. Mai 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Die Gerichtsschreiberin: Keel Baumann