Sachverhalt:
A.
A._, MLaw, absolvierte vom 1. April 2018 bis zum 30. Juni 2019 ein Anwaltspraktikum. Vom 12. August bis zum 22. November 2019 durchlief er die Offiziersschule, weshalb ihm die Ausgleichskasse Arbeitgeber Basel (nachfolgend: Ausgleichskasse) für diesen Zeitraum eine auf der Grundlage des Praktikumslohnes berechnete Erwerbsausfallentschädigung von Fr. 182.40 pro Tag ausrichtete. Am 8. Juni 2020 legte A._ die schriftliche Anwaltsprüfung erfolgreich ab. Vom 22. Juni bis zum 30. Oktober 2020 leistete er Militärdienst (Abverdienen des Offiziersgrades), wofür ihm die Ausgleichskasse eine Entschädigung entsprechend dem Mindestansatz von Fr. 111.- pro Tag ausrichtete. Mit Verfügung vom 24. November 2020 resp. Einspracheentscheid vom 22. Dezember 2020 bestätigte die Verwaltung die Höhe dieser Entschädigung. Am 20. April 2021 bestand A._ auch den mündlichen Teil der Anwaltsprüfung.
B.
Das Sozialversicherungsgericht des Kantons Basel-Stadt hiess die Beschwerde des A._ mit Urteil vom 2. Juni 2021 gut. Es hob den Einspracheentscheid vom 22. Dezember 2020 auf und wies die Sache zur Neubemessung der EO-Entschädigung für den Zeitraum vom 22. Juni bis zum 30. Oktober 2020 an die Ausgleichskasse zurück.
C.
Die Ausgleichskasse beantragt mit Beschwerde in öffentlich-rechtlichen Angelegenheiten, unter Aufhebung des Urteils vom 2. Juni 2021 sei der Einspracheentscheid vom 22. Dezember 2020 vollumfänglich zu bestätigen und die Verfügung vom 24. November 2020 wieder in Kraft zu setzen.

Erwägungen:
1.
1.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist zulässig gegen Entscheide, die das Verfahren abschliessen (<ref-law>). Gegen selbständig eröffnete Vor- und Zwischenentscheide, die nicht die Zuständigkeit oder ein Ausstandsbegehren betreffen, ist die Beschwerde zulässig, wenn sie einen nicht wieder gutzumachenden Nachteil bewirken können, oder wenn die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (<ref-law>).
Das angefochtene Rückweisungsurteil verpflichtet die Ausgleichskasse, die Erwerbsersatzentschädigung für die Dienstzeit vom 22. Juni bis zum 30. Oktober 2020 mit einem höheren als dem Mindestansatz neu festzulegen (vgl. für Einzelheiten nachfolgende E. 3.2). Ob es sich dabei (materiell) um einen End- oder Zwischenentscheid handelt, kann offenbleiben. Das Urteil beinhaltet einen nicht wieder gutzumachenden Nachteil für die Ausgleichskasse, da ihr Beurteilungsspielraum wesentlich eingeschränkt wird, ohne dass sie eine ihres Erachtens rechtswidrige neue Verfügung selber anfechten könnte (vgl. <ref-ruling> E. 4.2 mit Hinweisen). Auf die Beschwerde ist (grundsätzlich; vgl. sogleich E. 1.2) einzutreten.
1.2. Die Auslegung der Rechtsbegehren im Lichte der Beschwerdebegründung (vgl. Urteil 8C_62/2018 vom 19. September 2018 E. 1.2.2, nicht publ. in: <ref-ruling>) ergibt, dass dem Antrag betreffend die Verfügung vom 24. November 2020 keine eigenständige Bedeutung zukommt. Die Beschwerde zielt allein auf die Bestätigung des Einspracheentscheids vom 22. Dezember 2020, der an die Stelle der genannten Verfügung getreten ist (vgl. <ref-ruling> E. 4.2.2; <ref-ruling> E. 6.1).
1.3. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 f. BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Dennoch prüft es - offensichtliche Fehler vorbehalten - nur die in seinem Verfahren gerügten Rechtsmängel (Art. 42 Abs. 1 und 2 BGG). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>) und kann ihre Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Verfahrensausgang entscheidend sein kann (Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG; zum Ganzen vgl. <ref-ruling> E. 4).
2.
2.1. Personen, die in der schweizerischen Armee Dienst leisten, haben für jeden besoldeten Diensttag Anspruch auf eine Entschädigung (<ref-law> [SR 834.1]). Während Diensten, die - wie hier - nicht unter <ref-law> fallen, beträgt die tägliche Grundentschädigung 80 % des durchschnittlichen vordienstlichen Erwerbseinkommens. Vorbehalten bleibt Art. 16 Abs. 1-3 EOG (<ref-law>). War die dienstleistende Person vor Beginn des Dienstes nicht erwerbstätig, so entspricht die tägliche Grundentschädigung den Mindestbeträgen gemäss Art. 16 Abs. 1-3 EOG (<ref-law>). Der Bundesrat kann für Dienstleistende, die nur vorübergehend nicht erwerbstätig waren oder die wegen des Dienstes keine Erwerbstätigkeit aufnehmen konnten, besondere Vorschriften über die Bemessung ihrer Entschädigung erlassen (<ref-law>).
Als Erwerbstätige gelten Personen, die in den letzten zwölf Monaten vor dem Einrücken während mindestens vier Wochen erwerbstätig waren (<ref-law> [SR 834.11]). Den Erwerbstätigen gleichgestellt sind: a. Arbeitslose; b. Personen, die glaubhaft machen, dass sie eine Erwerbstätigkeit von längerer Dauer (dazu <ref-ruling>) aufgenommen hätten, wenn sie nicht eingerückt wären; sowie c. Personen, die unmittelbar vor dem Einrücken ihre Ausbildung abgeschlossen haben oder diese während des Dienstes beendet hätten (<ref-law>). Für Personen, die glaubhaft machen, dass sie während des Dienstes eine unselbstständige Erwerbstätigkeit von längerer Dauer aufgenommen hätten oder einen wesentlich höheren Lohn als vor dem Einrücken erzielt hätten, wird die Entschädigung auf Grund des Lohns berechnet, der ihnen entgangen ist. Haben sie unmittelbar vor dem Einrücken ihre Ausbildung abgeschlossen oder hätten sie diese während des Dienstes beendet, so wird die Entschädigung auf Grund des ortsüblichen Anfangslohns im betreffenden Beruf berechnet (<ref-law>).
2.2. In Bezug auf <ref-law> gilt Folgendes: Während sich für Arbeitslose im Sinn von <ref-law> (SR 837.0) die grundsätzliche Erwerbstätigkeit schon aus diesem Gesetz ergibt, müssen von lit. b erfasste Personen die hypothetische Aufnahme einer Erwerbstätigkeit zwar nicht mit überwiegender Wahrscheinlichkeit nachweisen (vgl. zum Regelbeweismass <ref-ruling> E. 5b), aber immerhin glaubhaft machen. Unter lit. c fallende Personen profitieren von einer noch weiter gehenden Beweiserleichterung, indem - im Sinne einer gesetzlichen Vermutung - die Beweislast zu Gunsten des Leistungsansprechers umgekehrt und dessen Erwerbstätigkeit unterstellt wird. Diese Vermutung kann indessen durch den Beweis des Gegenteils umgestossen werden, indem die Verwaltung Umstände geltend macht, welche darauf schliessen lassen, dass der Leistungsansprecher auch ohne Dienstabsolvierung keine Erwerbstätigkeit aufgenommen hätte (<ref-ruling> E. 4.2 mit Hinweisen).
3.
3.1. Wie bereits im vorangegangenen Verfahren ist streitig, ob der Beschwerdegegner für die Dienstzeit vom 22. Juni bis zum 30. Oktober 2020als Nichterwerbstätiger oder als Erwerbstätiger zu qualifizieren ist und ihm demnach eine Entschädigung gemäss Art. 10 Abs. 2 (i.V.m. Art. 16 Abs. 1) EOG oder gemäss <ref-law> zusteht.
3.2. Das kantonale Gericht hat festgestellt, der Versicherte habe seine berufliche Laufbahn bereits unmittelbar nach Studienabschluss auf den Anwaltsberuf ausgerichtet und gleich nach Erlangung des Masterdiploms das für die Zulassung zur Anwaltsprüfung notwendige Praktikum absolviert. Nach dem Durchlaufen der Offiziersschule (12. August bis 22. November 2019) habe er sich sechs Monate - wobei eine Lernphase dieser Dauer als notorisch anzusehen sei - auf die schriftliche Anwaltsprüfung vom 6. (recte: 8.) Juni 2020 vorbereitet, deren Bestehen ihm am 24. August 2020 mitgeteilt worden sei. Im Anschluss an den vom 22. Juni bis zum 30. Oktober 2020 dauernden Militärdienst habe er nach einer nochmaligen - wiederum notorischen - Lernphase von fünf Monaten am 20. April 2021 das Anwaltspatent erlangt. Angesichts dieses zielgerichteten Verhaltens und unter Berücksichtigung zweier Lernphasen sowie einer dazwischenliegenden Mitteilungsfrist hätte der Versicherte ohne Militärdienst die Ausbildung zum Rechtsanwalt bereits im Juli 2020 und somit während der Dienstzeit abgeschlossen.
Folglich hat die Vorinstanz den Versicherten als Erwerbstätigen im Sinne von <ref-law> qualifiziert und erkannt, dass die umstrittene Entschädigung in Anwendung von <ref-law> zu bemessen ist.
4.
4.1. Die Beschwerdeführerin macht im Wesentlichen geltend, <ref-law> erlaube nicht die Umqualifizierung einer grundsätzlich nicht erwerbstätigen zu einer erwerbstätigen Person. Es sei der freie Entscheid des Versicherten gewesen, sich nach dem Universitätsabschluss dem Erwerb des Anwaltspatents zu widmen und gleichzeitig die Offizierslaufbahn anzutreten. Die Offiziersausbildung habe er nicht in einem Zug absolviert. Nicht der Militärdienst als solcher habe dazu geführt, dass der Versicherte die mündliche Anwaltsprüfung erst später abgelegt habe, sondern sein freier Entschluss, wie und wann er die Offiziersschule besuche, den Offiziersgrad abverdiene und parallel dazu sich auf die Anwaltsprüfung vorbereite. Damit sei er aus freien Stücken nicht erwerbstätig gewesen. Er habe auch nicht geltend gemacht, dass er einer Erwerbstätigkeit nachgegangen wäre. Damit sei aufgrund des speziellen Sachverhalts widerlegt, dass der Versicherte einem Erwerbstätigen gleichgestellt sei.
4.2. Dass die vorinstanzlichen Feststellungen (vgl. vorangehende E. 3.2 Abs. 1) offensichtlich unrichtig (unhaltbar, willkürlich; <ref-ruling> E. 4.1.2; <ref-ruling> E. 7.3.1; <ref-ruling> E. 8.1) sein oder auf einer Rechtsverletzung beruhen sollen, ist nicht ersichtlich und wird auch nicht vorgebracht. Sie bleiben für das Bundesgericht verbindlich (vgl. vorangehende E. 1.3). Sodann gibt der Umstand, dass das kantonale Gericht die Erlangung des Anwaltspatents als Abschluss einer Ausbildung im Sinne von <ref-law> betrachtet hat, keinen Anlass zu Weiterungen. Es ist unbestritten, dass der hier zu beurteilende Sachverhalt - grundsätzlich - von <ref-law> erfasst wird.
4.3. Es trifft zu, dass <ref-law> nicht die Umqualifikation einer grundsätzlich nicht erwerbstätigen Person zu einer erwerbstätigen erlaubt, sondern lediglich (im Sinne der vorangehenden E. 2.2) die Beweisanforderungen für die Qualifikation modifiziert (<ref-ruling> E. 4.2.1). Indessen leuchtet insbesondere mit Blick auf die ratio legis von <ref-law> nicht ein, weshalb der Versicherte unter den konkreten Umständen schlechter gestellt werden sollte, als wenn er die Offiziersausbildung erst unmittelbar nach der bestandenen Anwaltsprüfung angetreten hätte. Diese beiden Sachverhalte sind denn auch nach dem klaren Wortlaut der genannten Bestimmung ausdrücklich gleichgestellt (auch in der französischen resp. italienischen Version; vgl. zur Bedeutung des Wortlauts bei der Auslegung <ref-ruling> E. 7.3.1; <ref-ruling> E. 4.1). Zudem enthält der Tatbestand von Art. 1 Abs. 2 lit. c und <ref-law> - neben dem Erfordernis des tatsächlichen resp. hypothetischen Ausbildungsabschlusses unmittelbar vor dem Einrücken resp. während des Dienstes - keine Einschränkung hinsichtlich der zeitlichen Koordination der beruflichen mit der militärischen Ausbildung.
4.4. Anders als die Beschwerdeführerin anzunehmen scheint, oblag es mit Blick auf <ref-law> nicht dem Versicherten, die Aufnahme einer Erwerbstätigkeit nach der hypothetischen Erlangung des Anwaltspatents geltend zu machen. Vielmehr wird eine solche vermutet, wobei es der Verwaltung offensteht, den Beweis des Gegenteils zu erbringen (vgl. vorangehende E. 2.2).
Im Fall des erwähnten <ref-ruling> hatte der Leistungsansprecher kurz vor Dienstantritt ein Diplom als Master of Science ETH erlangt. Sodann hatte er sich während des Dienstes nur um eine einzige (nicht ausgeschriebene) Stelle beworben und unmittelbar an den Dienst anschliessend für über drei Monate ins Ausland begeben. Diese Umstände liessen den Schluss zu, dass er auch ohne Dienstabsolvierung nach dem Ausbildungsende keine Erwerbstätigkeit aufgenommen hätte (vgl. <ref-ruling> E. 4.3). Vergleichbare oder andere Gegebenheiten, die geeignet wären, die gesetzliche Vermutung der Aufnahme einer Erwerbstätigkeit zu widerlegen, bringt die Ausgleichskasse auch nicht ansatzweise vor. Die damit verbundene Beweislosigkeit geht zu Lasten der Verwaltung.
4.5. Nach dem Gesagten hat das kantonale Gericht kein Recht verletzt, indem es den Versicherten als Erwerbstätigen im Sinne von <ref-law> betrachtet hat. Die Beschwerde ist unbegründet.
5.
Dem Ausgang des Verfahrens entsprechend hat die Beschwerdeführerin die Gerichtskosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin auferlegt.
3.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Basel-Stadt und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 19. Oktober 2021
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Parrino
Die Gerichtsschreiberin: Dormann