Sachverhalt:
A.
Mit Verfügung vom 13. August 2018 sprach die IV-Stelle des Kantons Zug dem 1994 geborenen A._ eine ganze ausserordentliche Invalidenrente ab dem 1. Mai 2013 zu. Im September 2018 meldete er sich zum Bezug von Ergänzungsleistungen an. Mit Schreiben vom 21. November 2018 forderte die Ausgleichskasse Zug den Versicherten auf, bis zum 20. Dezember 2018 bestimmte Dokumente einzureichen. Gleichzeitig kündigte sie unter Verweis auf die Mitwirkungspflicht an, bei Säumnis werde sie weitere Erhebungen einstellen und auf das Leistungsbegehren nicht eintreten. Weil darauf keine Reaktion erfolgte, verfügte die Ausgleichskasse am 11. Januar 2019 wie angekündigt. Mit der dagegen erhobenen Einsprache liess A._ verschiedene Unterlagen einreichen. Die Ausgleichskasse hielt mit Einspracheentscheid vom 21. Juni 2019 am Nichteintreten fest.
B.
Die dagegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Zug mit Entscheid vom 20. April 2020 ab, soweit es darauf eintrat.
C.
A._ lässt mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragen, unter Aufhebung des Entscheids vom 20. April 2020 sei die Ausgleichskasse anzuweisen, auf das Gesuch um Ergänzungsleistungen vom September 2019 (recte: 2018) einzutreten.

Erwägungen:
1.
1.1. Ob die vom Beschwerdeführer neu eingereichten Akten der IV-Stelle zulässig sind (vgl. <ref-law>; <ref-ruling> E. 1.2 S. 22 f. mit Hinweisen), kann offenbleiben. Sie sind für den Ausgang dieses Verfahrens ohnehin nicht von Belang (vgl. untenstehende E. 4.1).
1.2. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Pflicht zur Begründung der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1 S. 236 mit Hinweisen).
Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann eine - für den Ausgang des Verfahrens entscheidende (vgl. <ref-law>) - Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2.
2.1.
2.1.1. Anspruch auf Ergänzungsleistungen (EL) haben unter anderem Personen, die Anspruch auf eine Rente der Invalidenversicherung (IV) haben (Art. 4 Abs. 1 lit. c ELG [SR 831.30]), wenn die vom Gesetz anerkannten Ausgaben die anrechenbaren Einnahmen übersteigen. Was als Ausgaben anerkannt und was als Einnahmen angerechnet wird, ist in Art. 10 und 11 ELG bestimmt. Für den Leistungsanspruch, der auch rückwirkend entstehen kann (vgl. Art. 12 Abs. 4 ELG i.V.m. Art. 22 Abs. 1 ELV [SR 831.301]), werden insbesondere Wohnsitz und gewöhnlicher Aufenthalt (vgl. <ref-law>) in der Schweiz vorausgesetzt (Art. 4 Abs. 1 Ingress ELG).
2.1.2. Kurzfristige Auslandaufenthalte - bis zu 92 Tage am Stück - unterbrechen die laufenden EL nicht (SVR 2015 EL Nr. 11 S. 33, 9C_174/2015 E. 3.3; Urteil 8C_493/2007 vom 15. Mai 2008 E. 2.2.1; vgl. auch Rz. 2330.01 der Wegleitung des BSV über die Ergänzungsleistungen zur AHV und IV [WEL]). Nach der Verwaltungspraxis (vgl. zur Bedeutung von Verwaltungsweisungen <ref-ruling> E. 3.2.2.1 S. 547 f.; 343 E. 5.2 S. 346) kann selbst ein über vier Monate dauernder Auslandaufenthalt - auch wenn dafür kein triftiger oder zwingender Grund vorliegt - ohne Einfluss auf die EL sein. Wenn sich eine Person im selben Kalenderjahr (ohne triftigen oder zwingenden Grund) insgesamt mehr als sechs Monate (183 Tage) im Ausland aufhält, entfällt der EL-Anspruch für das gesamte Kalenderjahr (vgl. zum Ganzen Rz. 2320.01-2340.04 WEL und die Beispiele in den Anhängen 3.1-3.3 WEL).
2.2. Im Sozialversicherungsverfahren gilt der Untersuchungsgrundsatz. Danach haben der Versicherungsträger oder das Durchführungsorgan und im Beschwerdefall das kantonale Versicherungsgericht von sich aus für die richtige und vollständige Abklärung des rechtserheblichen Sachverhalts zu sorgen (Art. 43 Abs. 1 und Art. 61 lit. c i.V.m. <ref-law> und Art. 1 Abs. 1 ELG; <ref-ruling> E. 4.1.1 S. 377). Der Untersuchungsgrundsatz wird durch die Mitwirkungspflicht der Versicherten resp. der Parteien beschränkt (vgl. Art. 28 und Art. 43 Abs. 2 ATSG; <ref-ruling> E. 5.2.3 S. 97; <ref-ruling> E. 2 S. 195), vor allem in Bezug auf Tatsachen, die sie besser kennen als die (Verwaltungs- oder Gerichts-) Behörde und welche diese sonst gar nicht oder nicht mit vernünftigem Aufwand erheben könnte (Urteil 9C_763/2016 vom 9. Oktober 2017 E. 2.1 mit Hinweisen).
2.3. Kommen die versicherte Person oder andere Personen, die Ergänzungsleistungen beanspruchen, den Auskunfts- oder Mitwirkungspflichten in unentschuldbarer Weise nicht nach, so kann die EL-Durchführungsstelle aufgrund der Akten verfügen oder die Erhebungen einstellen und Nichteintreten beschliessen. Sie muss diese Personen vorher schriftlich mahnen und auf die Rechtsfolgen hinweisen; ihnen ist eine angemessene Bedenkzeit einzuräumen (<ref-law>).
Von der Möglichkeit, auf ein Leistungsgesuch nicht einzutreten, ist nur mit grösster Zurückhaltung Gebrauch zu machen (<ref-ruling> E. 3 S. 47 mit Hinweisen). Nichteintreten kommt erst in Betracht, wenn eine Beurteilung des Leistungsbegehrens aufgrund der gesamten Aktenlage ohne Mitwirkung der Partei ausgeschlossen ist. Andererseits kann ein materieller Entscheid aufgrund der Akten erst ergehen, wenn sich der rechtserhebliche Sachverhalt unabhängig von der als notwendig und zumutbar erachteten Abklärungsmassnahme, der sich die versicherte Person ohne entschuldbaren Grund widersetzt hat, nicht weiter vervollständigen lässt (Urteile 9C_763/2016 vom 9. Oktober 2017 E. 2.2; 9C_553/2016 vom 17. November 2016 E. 2.1).
2.4. Wie bereits im vorinstanzlichen Verfahren ist einzig umstritten und (als Rechtsfrage) zu prüfen, ob die Ausgleichskasse auf das Leistungsbegehren des Versicherten hätte eintreten müssen.
3.
Das kantonale Gericht hat erwogen, die bis zum Erlass der Verfügung vom 11. Januar 2019 eingereichten Unterlagen (Rentenverfügung vom 13. August 2018, Mahnung betreffend ausstehenden Wohnungsmietzins, Quittung für eine Mietzinszahlung, Kopie der Krankenversicherungskarte) hätten für eine Beurteilung des Leistungsanspruchs nicht genügt. Auch die (nicht beigezogenen) IV-Akten hätten über die wirtschaftlichen Verhältnisse des Versicherten nicht vollständig Auskunft geben können, und aus einer Wohnsitzbestätigung gehe nicht hervor, wie oft und wie lange sich der Versicherte seit Mai 2013 in der Türkei aufgehalten habe. Der Versicherte habe auf das Mahnschreiben vom 21. November 2018 nicht reagiert und damit seine Mitwirkungspflicht verletzt. Folglich sei die Verwaltung (mit der Verfügung vom 11. Januar 2019) zu Recht nicht auf sein Gesuch eingetreten.
Daran ändere auch nichts, dass der Versicherte im Einspracheverfahren diverse Unterlagen (Bankkontoauszüge für die Zeit vom 10. Februar 2012 bis zum 31. Dezember 2017, Mietvertrag, Steuererklärung 2017, Abrechnung des Sozialdienstes über wirtschaftliche Sozialhilfe vom 29. April 2013 bis zum 27. August 2018, Krankenversicherungspolicen) beigebracht habe. Eine Aufstellung bzw. Bestätigung betreffend die Aufenthalte in der Türkei fehle nach wie vor und die Verwaltung habe nicht selber in Erfahrung bringen können, wie oft und wie lange sich der Versicherte in der Türkei aufgehalten habe.
4.
4.1. Ob die Ausgleichskasse zwingend die IV-Akten hätte beiziehen müssen, wie der Beschwerdeführer anzunehmen scheint, kann offenbleiben. Für die Frage, ob sie auf das EL-Gesuch des Versicherten hätte eintreten müssen, ist nicht die Aktenlage bei Erlass der Verfügung vom 11. Januar 2019, sondern jene im Zeitpunkt des Einspracheentscheids vom 21. Juni 2019 entscheidend, wurde doch das Verwaltungsverfahren erst durch dessen Erlass abgeschlossen (vgl. <ref-ruling> E. 2.1.2.1 S. 412).
4.2.
4.2.1. Weder die Ausgleichskasse noch die Vorinstanz stellte den schweizerischen Wohnsitz des Versicherten resp. dessen Abklärbarkeit in Frage. Zu den weiteren Voraussetzungen des EL-Anspruchs (ab 1. Mai 2013) lassen sich den im Einspracheverfahren eingereichten Unterlagen viele Informationen entnehmen. Aus der Rentenverfügung vom 13. August 2018 geht hervor, dass eine Ausbildung nur in geschütztem Rahmen möglich wäre, der Versicherte jedoch "zurzeit" die Grundanforderungen dafür nicht erfülle. Die Abrechnung des Sozialdienstes über wirtschaftliche Sozialhilfe enthält detaillierte Angaben über die Einnahmen und Ausgaben, mithin über die wirtschaftliche Situation des Versicherten. Wie häufig resp. regelmässig der Beschwerdeführer persönlich beim Sozialdienst erschienen war, hätte mit einer einfachen Nachfrage bei diesem geklärt werden können. Die Bankkontoauszüge weisen zahlreiche und regelmässige Bancomat-Bezüge und Maestrozahlungen im Kanton Zug aus, was als starkes Indiz für einen Aufenthalt in der Schweiz gewertet werden kann (vgl. CARIGIET/KOCH, Ergänzungsleistungen zur AHV/IV, 2. Aufl. 2009, S. 118). Auffällig ist aber beispielsweise, dass der Sozialdienst für die Monate April bis und mit August 2014 keinen Grundbedarf anerkannte und dass auf dem Bankkonto vom 26. Februar 2014 bis zum 31. August 2014 keine Belastungen verbucht wurden. Soweit sich aus den vorhandenen Unterlagen die Frage nach einem leistungsrelevanten Auslandaufenthalt stellt (vgl. obenstehende E. 2.1.2), hätte die Verwaltung ohne grossen Aufwand und mit entsprechenden konkreten Hinweisen nochmals beim Versicherten nachfragen und/oder die EL gegebenenfalls (vorübergehend) unter Berücksichtigung der objektiven Beweislast (vgl. <ref-law>) verweigern können.
4.2.2. Die vorinstanzliche Feststellung einer fehlenden Aufstellung bzw. Bestätigung betreffend die Aufenthalte in der Türkei - die im Schreiben vom 21. November 2018 (wenn auch ohne nähere Begründung) verlangt worden war - bleibt für das Bundesgericht verbindlich (vgl. obenstehende E. 1.2). Die blosse Behauptung des Versicherten, die entsprechenden Informationen liessen sich den "Vorakten" resp. IV-Unterlagen entnehmen, ändert daran nichts. Zudem stellt er nicht in Abrede, dass es ihm im Rahmen seiner Mitwirkungspflicht ohne Weiteres zumutbar gewesen wäre, bereits im Verwaltungsverfahren auf die erste Aufforderung hin zu allfälligen Auslandaufenthalten klar und substanziiert Stellung zu nehmen und, soweit vorhanden, entsprechende Unterlagen einzureichen. Angesichts der gebotenen Zurückhaltung (vgl. obenstehende E. 2.3) wiegt seine Unterlassung aber nicht derart schwer, dass sich bei der gegebenen Aktenlage (vgl. E. 4.2.1) das Nichteintreten auf sein EL-Gesuch rechtfertigen lässt. Im Ergebnis ist die Beschwerde begründet; die Ausgleichskasse wird materiell über den geltend gemachten Anspruch zu verfügen haben.
4.3. Auf einen Schriftenwechsel wird angesichts des Verfahrensausgangs, der allein die Frage des Eintretens auf das Leistungsgesuch beantwortet, verzichtet. Die Einholung einer Vernehmlassung zur Beschwerde käme einem Leerlauf gleich und würde nur weitere Kosten verursachen. Damit ist ein Schriftenwechsel aus Gründen der Prozessökonomie nicht erforderlich (<ref-law>; Urteile 9C_612/2017 vom 27. Dezember 2017 E. 2; 9C_440/2017 vom 19. Juli 2017 E. 10).
5.
Dem Ausgang des Verfahrens entsprechend hat die Beschwerdegegnerin die Kosten zu tragen (<ref-law>). Der Beschwerdeführer hat Anspruch auf eine Parteientschädigung (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen. Der Entscheid des Verwaltungsgerichts des Kantons Zug vom 20. April 2020 und der Einspracheentscheid der Ausgleichskasse Zug vom 21. Juni 2019 werden aufgehoben. Die Sache wird zu neuer Verfügung an die Ausgleichskasse Zug zurückgewiesen.
2.
Die Gerichtskosten von Fr. 500.- werden der Beschwerdegegnerin auferlegt.
3.
Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2800.- zu entschädigen.
4.
Die Sache wird zur Neuverlegung der Parteientschädigung des vorangegangenen Verfahrens an das Verwaltungsgericht des Kantons Zug zurückgewiesen.
5.
Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Zug und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 4. September 2020
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Meyer
Die Gerichtsschreiberin: Dormann