Sachverhalt:
A.
A._ bezieht eine Altersrente der AHV. Seine 1996 geborene Tochter B._ erhielt gestützt darauf eine AHV-Kinderrente. Bis am 31. Juli 2019 war sie an der Universität C._ immatrikuliert. Am 28. Juli 2019 reichte A._ bei der Ausgleichskasse Arbeitgeber Basel einen Arbeitsvertrag zwischen der Schweizerischen Eidgenossenschaft und B._ ein, wonach sie vom 3. September 2019 bis 29. Februar 2020 ein Hochschulpraktikum bei der Schweizerischen Vertretung in D._ absolvieren werde. Mit Verfügung vom 12. August 2019 hob die Ausgleichskasse Arbeitgeber Basel den Anspruch von A._ auf eine AHV-Kinderrente per 31. Juli 2019 mit der Begründung auf, seine Tochter befinde sich seit August 2019 nicht mehr im Studium und das Hochschulpraktikum in D._ könne nicht als Ausbildung anerkannt werden. Die bereits ausbezahlte Leistung für den Monat August wurde zurückgefordert. Daran hielt die Ausgleichskasse mit Einspracheentscheid vom 3. September 2019 fest.
B.
Die hiergegen erhobene Beschwerde hiess das Kantonsgericht Basel-Landschaft mit Entscheid vom 21. Februar 2020 gut, hob den Einspracheentscheid vom 3. September 2019 auf und verpflichtete die Ausgleichskasse, die AHV-Kinderrente über den 31. Juli 2019 hinaus zu entrichten.
C.
Die Ausgleichskasse beantragt mit Beschwerde in öffentlich-rechtlichen Angelegenheiten, der angefochtene Entscheid sei aufzuheben und der Einspracheentscheid vom 3. September 2019 sowie die Verfügung vom 12. August 2019 seien zu bestätigen. Der Beschwerdegegner trägt auf Abweisung der Beschwerde an. Das Bundesamt für Sozialversicherungen schliesst sich der Beschwerdeführerin an.

Erwägungen:
1.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 f. BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Dennoch prüft es - offensichtliche Fehler vorbehalten - nur die in seinem Verfahren gerügten Rechtsmängel (Art. 42 Abs. 1 f. BGG; <ref-ruling> E. 2.2.1 S. 389). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann ihre Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Verfahrensausgang entscheidend sein kann (Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG).
2.
Strittig und damit zu prüfen ist, ob die Vorinstanz das Hochschulpraktikum bei der Schweizerischen Vertretung in D._ zu Recht als faktisch geboten für das angestrebte Masterstudium an der Universität E._ in F._ qualifiziert und damit (unter Bejahung der weiteren Voraussetzungen) auf eine Ausbildung im Sinne von <ref-law> geschlossen hat.
3.
Auf die vom kantonalen Gericht korrekt dargelegten rechtlichen Grundlagen wird verwiesen.
Zu ergänzen bleibt, dass nach bundesgerichtlicher Rechtsprechung (unter anderem) dann keine Ausbildung gemäss <ref-law> vorliegt, wenn ein Kind eine praktische Tätigkeit ausübt, um seine Anstellungschancen bei schwieriger Beschäftigungssituation zu verbessern (vgl. im Zusammenhang mit dem Anspruch auf Ausbildungszulagen <ref-ruling> E. 3.2 in fine S. 317 mit Hinweisen).
4.
4.1. Die Vorinstanz hat argumentiert, vorliegend sei eine Zulassung zum Studium an der E._ grundsätzlich auch ohne Berufserfahrung denkbar, sofern im Bereich der übrigen Zulassungskriterien hervorragende Leistungen vorgewiesen werden könnten. Den Zulassungsbedingungen der E._ lasse sich entnehmen, dass der geforderte minimale Notendurchschnitt für die Zulassung von Studierenden aus der Schweiz 4.7 betrage, wobei es zu berücksichtigen gelte, dass auch ein ausreichender Notendurchschnitt keine Zulassung garantiere. Zusätzlich dazu würden weitere Kriterien wie die berufliche Erfahrung, die Karrierepläne oder der persönliche Hintergrund im Zulassungsprozess berücksichtigt. Die Bewerbungen würden darüber hinaus auch untereinander verglichen. Die Anforderungen an die Zulassung von künftigen Studierenden seien demzufolge sehr hoch. Den Akten sei zu entnehmen, dass die Tochter des Beschwerdegegners zwar über einen ausreichenden Notendurchschnitt von 4.9 verfüge, dieser jedoch in einer Gesamtbeurteilung unter Berücksichtigung der bereits genannten anderen Kriterien sowie in Bezug auf die übrigen Bewerbenden alleine mit überwiegender Wahrscheinlichkeit nicht ausreichen werde, um zugelassen zu werden. Das Vorweisen von Praktikumserfahrung im entsprechenden Fachbereich sei demnach vorliegend unerlässlich. Damit erweise sich das Praktikum bei der Schweizerischen Vertretung in D._ als faktisch geboten, um für das angestrebte Masterstudium an der E._ überhaupt zugelassen werden zu können (vorinstanzliche Erwägung 6.4 S. 6).
4.2. Damit hat das kantonale Gericht seinen Schluss betreffend die faktische Gebotenheit des Hochschulpraktikums mit den besseren Zulassungschancen zum Masterstudiengang an der E._ begründet. Dies hält jedoch mit Blick auf die dargelegte bundesgerichtliche Rechtsprechung (E. 3), welche auf den Schritt hier nicht direkt in den Arbeitsmarkt, sondern auf eine weitere Etappe beruflicher Ausbildung gerichtet, sinngemäss anzuwenden ist, nicht stand. Das Praktikum kann daher nicht als Ausbildung im Sinne von <ref-law> qualifiziert werden.
Daran vermögen auch die Vorbringen des Beschwerdegegners, abgesehen von ihrem Charakter als unzulässige Noven (<ref-law>), nichts zu ändern. So ist den eingereichten Unterlagen vielmehr zu entnehmen, dass die Berufserfahrung auch an den anderen Bildungsanstalten - gleich wie bei der E._ ( vgl. die Eingaben im vorinstanzlichen Verfahren) - eines der Kriterien darstellt, das beim Zulassungsentscheid Beachtung findet. Die Absolvierung eines Praktikums kann damit - wie die Beschwerdeführerin zu Recht vorbringt - für die Zulassung zu den Masterstudiengängen von Nutzen sein (Entsprechendes ist auch der Bestätigung der Universität G._ zu entnehmen). Faktisch notwendig ist ein Praktikum deswegen jedoch nicht. Die Beschwerde ist begründet.
5.
Die Umstände rechtfertigen es, auf die Erhebung von Gerichtskosten zu verzichten (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen. Der Entscheid des Kantonsgerichts Basel-Landschaft vom 21. Februar 2020 wird aufgehoben und der Einspracheentscheid der Ausgleichskasse Arbeitgeber Basel vom 3. September 2019 bestätigt.
2.
Es werden keine Gerichtskosten erhoben.
3.
Dieses Urteil wird den Parteien, dem Kantonsgericht Basel-Landschaft und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 24. August 2020
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Parrino
Die Gerichtsschreiberin: Nünlist