Sachverhalt:
A. Mit Verfügung vom 7. März 2007 forderte die Ausgleichskasse des Kantons Solothurn von der Stadt X._ Fr. 67'272.80 für in den Jahren 2002 bis 2005 zu Unrecht über die Erwerbsersatzordnung (EO) abgerechnete Schutzdiensttage von G._ (49 Tage) und M._ (370 Tage) zurück. Mit Einspracheentscheid vom 24. Oktober 2007 bestätigte die Ausgleichskasse eine Rückerstattungspflicht sowie die Höhe der zu bezahlenden Summe.
B. In Gutheissung der Beschwerde der Stadt X._ hob das Versicherungsgericht des Kantons Solothurn mit Entscheid vom 6. November 2008 Verfügung und Einspracheentscheid auf.
C. Das Bundesamt für Sozialversicherungen führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, der Entscheid des solothurnischen Versicherungsgerichts vom 6. November 2008 sei aufzuheben.
Die Ausgleichskasse des Kantons Solothurn beantragt die Gutheissung der Beschwerde. Das kantonale Gericht und die Stadt X._ schliessen auf Abweisung der Beschwerde.

Erwägungen:
1. Die Rückerstattungspflicht der Stadt X._ in der Höhe von Fr. 67'272.80 für zu Unrecht bezogene Erwerbsausfallentschädigung für G._ (49 Tage) und M._ (370 Tage) im Zeitraum 2002-2005 ist im Grundsatz unbestritten. Sie stützt sich für 2002 auf den damals geltenden <ref-law>, für 2003 bis 2005 auf <ref-law> (in Verbindung mit <ref-law> und <ref-law>).
2. Nach Auffassung der Vorinstanz widerspricht die Rückforderung der Ausgleichskasse Treu und Glauben. Die zu Unrecht erfolgte Leistungsausrichtung beruhe auf einer dem Kanton seit 2001 bekannten rechtswidrigen und von der Aufsichtsbehörde geduldeten Praxis (Überschreitung der gesetzlichen Höchstgrenze von über die EO abrechenbaren Diensttagen). Diese könne «wohl geändert werden, jedoch lediglich mit Wirkung ex nunc et pro futuro, einschliesslich der zum Zeitpunkt der Änderung noch hängigen Fälle». Dementsprechend hat das kantonale Gericht eine Rückerstattungspflicht der Stadt X._ verneint.
3. Das Beschwerde führende Bundesamt bestreitet ein widersprüchliches Verhalten. Im Dezember 2005 sei es durch den Verantwortlichen einer kantonalen Zivilschutzstelle darauf aufmerksam gemacht worden, die Stadt X._ stelle ihrem Zivilschutzstellenleiter für dessen Arbeitseinsätze EO-Meldekarten aus. Bis zu diesem Zeitpunkt habe es keine Kenntnis über diese Praxis gehabt. Dem hält die Stadt X._ entgegen, aus der Beschwerde des Bundesamtes gehe hervor, dass es sich bei den erst nach Jahren beanstandeten EO-Abrechnungen um ein verbreitetes gesamtschweizerisches Phänomen handle. Da die zuständigen Behörden des Kantons und des Bundes im EO-Bereich eng zusammenarbeiten würden, sprächen somit gewichtige Indizien dafür, dass das Bundesamt tatsächlich bereits seit Jahren Kenntnis von der verbreitet geübten Praxis betreffend EO-Abrechnungen gehabt haben müsse und diese bewusst toleriert und unterstützt habe. Zumindest die Ausgleichskassen, welche die EO-Leistungen auszahlten, hätten davon Kenntnis gehabt oder haben müssen. Das Wissen der Durchführungsstellen ebenso wie der zuständigen kantonalen Zivilschutz-Amtsstellen müsse sich das Bundesamt anrechnen lassen.
Es kann mit Blick auf die nachstehenden Erwägungen offenbleiben, ob die Darstellung der Beschwerdegegnerin zutrifft und bejahendenfalls, ob der in <ref-law> verankerte Vertrauensschutz oder das Rechtsmissbrauchsverbot nach <ref-law> (vgl. Urteil 1P.701/2004 vom 7. April 2004 E. 4.2) eine Rückerstattungspflicht ausschlösse.
4. Das kantonale Gericht hat auch geprüft, ob die Rückforderung der zuviel ausgerichteten Erwerbsausfallentschädigung rechtzeitig geltend gemacht wurde oder ob der Rückerstattungsanspruch verwirkt ist. Es hat die Frage in Bezug auf G._ verneint, hinsichtlich M._ offen gelassen. Nach Auffassung der Beschwerdegegnerin ist die am 7. März 2007 verfügte Rückforderung verspätet geltend gemacht worden. Die Verwirkung sei spätestens in der ersten Januarwoche 2007 eingetreten.
4.1 Der Rückforderungsanspruch erlischt mit dem Ablauf eines Jahres, nachdem die Versicherungseinrichtung davon Kenntnis erhalten hat, spätestens aber mit dem Ablauf von fünf Jahren nach der Entrichtung der einzelnen Leistung (<ref-law>). Bereits vor Inkrafttreten des Allgemeinen Teils des Sozialversicherungsrechts am 1. Januar 2003 galt im EO-Bereich dieselbe Regelung (aArt. 20 Abs. 2 EOG).
4.1.1 Massgebend für die Auslösung der einjährigen Verwirkungsfrist nach <ref-law> ist der Zeitpunkt, in dem der Versicherungsträger bei Beachtung der ihm zumutbaren Aufmerksamkeit hätte erkennen müssen, dass die Voraussetzungen für eine Rückforderung gegeben waren. Dies ist der Fall, wenn alle im konkreten Einzelfall erheblichen Umstände zugänglich sind, aus deren Kenntnis sich der Rückforderungsanspruch dem Grundsatz nach und in seinem Ausmass gegenüber einer bestimmten rückerstattungspflichtigen Person ergibt (<ref-ruling> E. 3 S. 17). Verfügt die Versicherungseinrichtung über genügende Hinweise auf einen möglichen Rückforderungsanspruch, sind die Unterlagen aber noch unvollständig, hat sie die noch erforderlichen Abklärungen innert angemessener Zeit vorzunehmen. Bei Säumnis ist der Beginn der Verwirkungsfrist auf den Zeitpunkt festzusetzen, in welchem die Verwaltung mit zumutbarem Einsatz ihre unvollständige Kenntnis so zu ergänzen im Stande gewesen wäre, dass der Rückforderungsanspruch hätte geltend gemacht werden können. Die einjährige Verwirkungsfrist beginnt auf jeden Fall, wenn und sobald sich aus den Akten bereits die Unrechtmässigkeit der Leistungserbringung ergibt, ohne dass Zeit für eine weitere Abklärung zugestanden würde (Urteil K 70/06 vom 30. Juli 2007 E. 5.1 mit Hinweisen, nicht publiziert in: <ref-ruling>, aber in: SVR 2008 KV Nr. 4 S. 11).
4.1.2 Ist für die Abklärung und Prüfung eines Rückforderungsanspruchs das Zusammenwirken mehrerer mit der Durchführung der Versicherung betrauter Verwaltungsstellen erforderlich, genügt für den Beginn des Fristenlaufs die nach der dargelegten Praxis erforderliche Kenntnis einer dieser Stellen (<ref-ruling> E. 4c S. 182 f.; ZAK 1989 S. 558, H 212/88 E. 4b). Die Durchführung der Erwerbsersatzordnung erfolgt durch die Organe der Alters- und Hinterlassenenversicherung, für den Zivilschutz unter Mitwirkung der Rechnungsführer der Schutzorganisationen (<ref-law>). Im Kanton Solothurn sind die Zivilschutzkommission und das Zivilschutzkommando die Organe der regionalen Zivilschutzorganisation (RZSO). Das Amt für Militär und Bevölkerungsschutz ist zuständig für die Kontrollführung im Bereich des Zivilschutzes und erlässt hierfür Weisungen (§§ 2 und 22 Abs. 1 der Verordnung vom 15. November 2005 über den Bevölkerungsschutz und den Zivilschutz [BZVSO; BGS 531.2]). Die Erwerbsersatzordnung steht unter der Aufsicht des Bundes. Zuständig ist der Bundesrat, welcher das Bundesamt für Sozialversicherungen beauftragen kann, den mit der Durchführung der Versicherung betrauten Stellen für den einheitlichen Vollzug Weisungen zu erteilen (<ref-law> in Verbindung mit <ref-law> und <ref-law>).
4.2 Die Vorinstanz hat festgestellt, das Bundesamt sei im Dezember 2005 durch eine Drittperson darauf aufmerksam gemacht worden, dass die Stadt X._ ihrem Zivilschutz-Stellenleiter G._ auch für Arbeitseinsätze, die den Verwaltungsaufgaben der Gemeinde zugerechnet werden müssten, EO-Meldekarten ausstelle. Mit Schreiben vom 30. Januar 2006 habe die Aufsichtsbehörde das kantonale Amt für Militär und Bevölkerungsschutz um Mithilfe bei der Abklärung des Falles ersucht. In diesem Zeitpunkt sei sie im Besitz einer vom Bundesamt für Bevölkerungsschutz erstellten Übersicht und Auswertung der von G._ 2005 geleisteten Diensttage gewesen. Mit Schreiben vom 22. Februar 2006 habe die für die Kontrollführung zuständige Amtsstelle zu den aufgeworfenen Fragen Stellung genommen, ohne die einzelnen Tage, für die G._ zu Unrecht EO-Meldekarten ausgestellt worden sein sollen, näher zu bezeichnen. Am 11. Juli 2006 sei die Aufsichtsbehörde nochmals an das kantonale Amt für Militär und Bevölkerungsschutz gelangt, da nicht klar gewesen sei, ob und welche Einsatztage unrechtmässig über die EO abgerechnet worden seien. Aus diesem insoweit unbestrittenen Sachverhalt folgerte das kantonale Gericht, spätestens seit 22. Februar 2006 habe beim Bundesamt der erhebliche und weiter abklärbare Verdacht bestanden, dass die Stadt X._ für diverse Einsätze des Versicherten G._ zu Unrecht EO-Meldekarten ausgestellt und Erwerbsausfallentschädigung bezogen habe. Für die Einholung der letzten diesbezüglich noch notwendigen Auskünfte sei der Verwaltung eine angemessene Frist von 14 Tagen einzuräumen, sodass die Verfügung vom 7. März 2007 gerade noch rechtzeitig innerhalb der einjährigen Verwirkungsfrist ergangen sei.
Mit Bezug auf M._ hat die Vorinstanz festgestellt, das Schreiben des kantonalen Amtes für Militär und Bevölkerungsschutz vom 22. Februar 2006 habe noch keinen hinreichenden Verdacht begründet, dass die Stadt X._ auch für ihn für diverse Einsätze zu Unrecht EO-Meldekarten ausgestellt und Entschädigungen bezogen habe. Das Schreiben habe lediglich Anlass zu entsprechenden Abklärungen gegeben, worauf das Bundesamt am 29. Mai 2006 auch die EO-Meldekarten dieses Versicherten einverlangt und dem Bundesamt für Bevölkerungsschutz zur weiteren Prüfung übergeben habe. Das kantonale Gericht hat die Frage jedoch offen gelassen, wann im Falle von M._ die relative einjährige Verwirkungsfrist nach <ref-law> zu laufen begann. Nach seinen Erwägungen kann dieser Zeitpunkt indessen nicht vor dem Beginn der Frist für die G._ betreffende Rückforderung liegen, sodass auch die M._ betreffende Rückforderung als rechtzeitig geltend gemacht zu betrachten wäre.
4.3 Die Beschwerdegegnerin macht nicht geltend, es seien keine Abklärungen notwendig gewesen, um den angeblich unrechtmässigen Bezug von Erwerbsausfallentschädigung für G._ und M._ zu verifizieren. Dass die Anfrage beim kantonalen Amt für Militär und Bevölkerungsschutz als zuständigem Kontrollführungsorgan im Zivilschutzbereich erst Ende Januar 2006 und nicht bereits früher erfolgte, hat seinen Grund darin, dass die Aufsichtsbehörde vorgängig beim Bundesamt für Bevölkerungsschutz eine Übersicht samt Auswertung der von G._ 2005 geleisteten und über die EO abgerechneten Diensttage eingeholt hatte. Es kann offenbleiben, ob dies absolut notwendig gewesen war. Von einer unangemessenen oder sogar unannehmbaren Verzögerung kann jedenfalls nicht gesprochen werden. Sodann bestreitet die Beschwerdegegnerin nicht, dass die Antwort der kantonalen Amtsstelle vom 22. Februar 2006 unvollständig war und die Akten in diesem Zeitpunkt den Erlass einer Rückerstattungsverfügung nicht erlaubt hätte. Insoweit ist dem Bundesamt, welches die Abklärungen selber vornahm und nicht etwa die kantonale Ausgleichskasse damit beauftragte, kein Vorwurf zu machen. Es stellt sich jedoch die Frage, ob die kantonale Amtsstelle nicht in der Lage gewesen war oder hätte sein müssen, innerhalb von drei Wochen nach der Anfrage Ende Januar 2006 die 2005 über die EO abgerechneten Diensttage eines einzelnen Versicherten nach Art des Einsatzes (vgl. E. 4.4) aufzuschlüsseln, woraus sich die Summe der allenfalls zuviel ausgerichteten Erwerbsausfallentschädigung hätte ermitteln lassen, wie die Beschwerdegegnerin sinngemäss vorbringt. Bejahendenfalls hätte die einjährige Verwirkungsfrist nach <ref-law> spätestens im Februar 2006 zu laufen begonnen und der mit Verfügung vom 7. März 2007 geltend gemachte Rückforderungsanspruch wäre verwirkt. Dieser Punkt kann indessen offen bleiben.
4.4 Nach dem bis Ende 2003 in Kraft gestandenen Bundesgesetz vom 17. Juni 1994 über den Zivilschutz (ZSG; SR 520.1 [AS 1994 2626 ff.]) konnten pro Schutzdienst leistende Person und Kalenderjahr maximal 40 Tage durch die EO entschädigt werden. In Bezug auf Einsätze zur Katastrophen- und Nothilfe bestand keine Begrenzung (vgl. Art. 12, 23 und 37 Abs. 3 ZSG). Nach dem seit 1. Januar 2004 geltenden Bundesgesetz vom 4. Oktober 2002 über den Bevölkerungsschutz und den Zivilschutz (BZG; SR 520.1) können Kader und Spezialisten maximal 14 Tage an Wiederholungskursen (WK) leisten und innerhalb von vier Jahren zu Weiterbildungskursen von insgesamt längstens zwei Wochen aufgeboten werden. Die Dauer der Einsätze bei Katastrophen und in Notlagen sowie zu Gunsten der Gemeinschaft sind grundsätzlich unbegrenzt, müssen aber vom Bundesrat oder den Kantonen speziell bewilligt werden (Art. 23, 27 und 35 ff. BZG sowie Verordnung vom 5. Dezember 2003 über Einsätze des Zivilschutzes zugunsten der Gemeinschaft [VEZG; SR 520.14], in der bis 30. Juni 2008 gültig gewesenen Fassung [AS 2003 5175]).
4.4.1 Gemäss den Angaben der Aufsichtsbehörde im Schreiben vom 10. Januar 2007 an die kantonale Ausgleichskasse wurden für G._ 2005 insgesamt 66 Diensttage über die EO abgerechnet, davon zwei Tage Einsatz in «Katastrophen und Notlagen», ein Tag Einsatz zu Gunsten der Gemeinschaft und 14 WK-Tage. Für M._ wurden für die Jahre 2002 bis 2005 insgesamt 513 Diensttage über die EO abgerechnet, davon ein Tag Einsatz in «Katastrophen und Notlagen», 32 Tage Einsatz zu Gunsten der Gemeinschaft», zwei Tage für Weiterbildung und 108 WK-Tage.
4.4.2 Für G._ waren somit 2005 38 Diensttage, für M._ 2002-2005 sogar 391 oder jährlich im Durchschnitt 98 Diensttage mehr als die maximal zulässige Anzahl von 28 resp. 122 ordentlichen WK- und Weiterbildungstagen der EO gemeldet worden. Mindestens 38 resp. jährlich rund 98 Diensttage stellten somit ausserordentliche Einsätze zur Katastrophen- und Nothilfe sowie zu Gunsten der Gemeinschaft dar. Diese Zahlen hätten bei Beachtung der gebotenen und zumutbaren Aufmerksamkeit sowohl den zuständigen Rechnungsführer der RZSO X._ und das für die Kontrollführung zuständige kantonale Amt für Militär und Zivilschutz als auch die kantonale Ausgleichskasse stutzig machen müssen, zumal die erst seit 1. Januar 2004 vorgesehenen Einsätze zu Gunsten der Gemeinschaft nur unter ganz bestimmten in der einschlägigen Verordnung vom 5. Dezember 2003 (VEZG) umschriebenen Voraussetzungen von der EO zu entschädigen sind. Die Aufsichtsbehörde weist in ihrer Beschwerde auch darauf hin, dass insbesondere in diesem Bereich eine Missbrauchsgefahr besteht (beispielsweise Dienstleistungen beim eigenen Arbeitgeber über die EO entschädigen zu lassen), welcher es durch gesetzgeberische Massnahmen vorzubeugen gelte (Botschaft vom 17. Oktober 2001 über die Totalrevision der Zivilschutzgesetzgebung, BBl 2002 S. 1683 ff., 1712). Die der EO im Zeitraum 2002- 2005 für G._ und insbesondere M._ gemeldete hohe Anzahl Diensttage deuteten nicht nur möglicherweise, sondern sehr wahrscheinlich auf eine nicht dem Gesetz entsprechende Abrechnung hin. Die Durchführungsorgane der Versicherung hätten somit bereits vor Dezember 2005 Kenntnis vom rückerstattungspflichtigen Tatbestand haben können oder zumindest diesbezügliche Abklärungen in die Wege leiten müssen. Die einjährige Verwirkungsfrist nach <ref-law> hatte somit spätestens im Dezember 2005 zu laufen begonnen, wie die Beschwerdegegnerin geltend macht, jedenfalls nicht erst im März 2006. Bei Erlass der Verfügung vom 7. März 2007 war somit der Rückforderungsanspruch verwirkt. Die Beschwerde ist unbegründet.
5. Dem unterliegenden Bundesamt sind keine Gerichtskosten aufzuerlegen (<ref-law>). Die obsiegende Beschwerdegegnerin hat keinen Anspruch auf Parteientschädigung (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Es werden keine Gerichtskoten erhoben.
3. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Solothurn und dem Amt für Militär und Zivilschutz des Kantons Solothurn schriftlich mitgeteilt.
Luzern, 4. Mai 2009
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Fessler