Sachverhalt:
A. Mit Verfügung vom 29. Juni 2010 verneinte die IV-Stelle für Versicherte im Ausland (nachfolgend IVSTA) den Anspruch des im Kosovo lebenden H._ (geb. 1964), kosovarischer Staatsangehöriger, auf eine Rente der schweizerischen Invalidenversicherung.
B. H._ erhob dagegen Beschwerde mit dem Antrag auf Aufhebung der Verfügung und Zusprechung einer vollen (recte: ganzen) Rente. Mit Entscheid vom 30. März 2011 trat das Bundesverwaltungsgericht auf die Beschwerde nicht ein mit der Begründung, der Versicherte habe innert der ihm gesetzten Frist (Zwischenverfügung vom 18. Februar 2011) weder den Kostenvorschuss geleistet noch um die Bewilligung der unentgeltlichen Rechtspflege ersucht. Dabei liess es offen, ob H._ in der Eingabe, welche er der Post in Prishtina am 23. März 2011 übergeben hatte, ein Gesuch um unentgeltliche Rechtspflege gestellt hatte, dies mit der Begründung, es wäre jedenfalls nicht fristgerecht erfolgt.
C. H._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, der Entscheid des Bundesverwaltungsgerichts sei aufzuheben und die IVSTA sei anzuweisen, ihm eine volle (recte: ganze) IV-Rente auszurichten.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann wegen Rechtsverletzung gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>) und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>).
2. 2.1 Gemäss Art. 42 Abs. 1 und 2 BGG hat das Rechtsmittel unter anderem die Begehren und deren Begründung zu enthalten, wobei in der Begründung in gedrängter Form darzulegen ist, inwiefern der angefochtene Akt Recht verletzt. Dies setzt voraus, dass sich der Beschwerdeführer wenigstens kurz mit den Erwägungen des angefochtenen Entscheids auseinandersetzt. Genügt die Beschwerdeschrift diesen Anforderungen nicht, so ist darauf nicht einzutreten, bei offensichtlichen Begründungsmängeln im vereinfachten Verfahren gemäss <ref-law>. Zwar wendet das Bundesgericht das Recht grundsätzlich von Amtes wegen an (<ref-law>); dies setzt aber voraus, dass auf die Beschwerde überhaupt eingetreten werden kann, diese also wenigstens die minimalen Begründungsanforderungen von <ref-law> erfüllt (<ref-ruling> E. 2.1 S. 245 f.; vgl. auch <ref-ruling> E. 1.3.1 S. 68).
2.2 Der Versicherte beantragt die Aufhebung des Nichteintretensentscheides und die Zusprechung einer ganzen IV-Rente. Setzt sich eine Beschwerdeschrift gegen einen Nichteintretensentscheid in diesem Sinne lediglich mit der materiellen Seite des Falles auseinander, weist sie nach der Rechtsprechung keine sachbezogene Begründung auf und stellt damit keine rechtsgenügliche Beschwerde dar (vgl. <ref-ruling>; <ref-ruling>; ARV 2002 Nr. 7 S. 61, C 60/01 E. 2; vgl. auch in <ref-ruling> nicht publ. E. 2.1 des Urteils 4A_330/2008 vom 27. Januar 2010). Gegen das vorinstanzliche Nichteintreten wendet sich der Versicherte indessen insoweit, als er sich auf den Standpunkt stellt, das Bundesverwaltungsgericht habe sich nicht korrekt verhalten hinsichtlich des Antrags auf unentgeltliche Rechtspflege und der Fall sei gerichtlich zu behandeln. Weil damit sinngemäss geltend gemacht wird, der vorinstanzliche Nichteintretensentscheid sei zu Unrecht ergangen, ist auf die Beschwerde einzutreten.
3. 3.1 Das Bundesverwaltungsgericht hat den Beschwerdeführer mit Zwischenverfügung vom 18. Februar 2011 (zugestellt am 21. Februar 2011) aufgefordert, einen Kostenvorschuss von Fr. 400.- innert 30 Tagen seit Zustellung zu bezahlen (unter Androhung des Nichteintretens im Unterlassungsfalle), und ihm gleichzeitig Gelegenheit eingeräumt, zur Vernehmlassung der IVSTA Stellung zu nehmen.
3.2 Es steht fest und ist unbestritten, dass der Beschwerdeführer den verlangten Kostenvorschuss innert der gesetzten 30-tägigen Frist, welche am 22. Februar 2011 zu laufen begann und am 23. März 2011 endete (<ref-law> in Verbindung mit Art. 37 des Bundesgesetzes über das Bundesverwaltungsgericht [Verwaltungsgerichtsgesetz, VGG]), nicht geleistet hat. Seine Eingabe vom 23. März 2011 nimmt mit keinem Wort Bezug auf die entsprechende Aufforderung, sondern setzt sich - in Übereinstimmung mit der Überschrift - einzig mit der Vernehmlassung der IVSTA auseinander. Es wird darin weder ausdrücklich noch sinngemäss um die unentgeltliche Rechtspflege ersucht, was eine der Voraussetzungen für deren Bewilligung darstellen würde (vgl. Art. 65 Abs. 1 und 2 VwVG in Verbindung mit Art. 37 VGG; vgl. Marcel Maillard, in: Waldmann/Weissenberger [Hrsg.], Praxiskommentar zum Bundesgesetz über das Verwaltungsverfahren, 2009, N. 9 zu <ref-law>), dies obwohl der Rechtsvertreter des Versicherten den terminologisch richtigen Begriff kennt, wie die beim Bundesgericht eingereichte Rechtsmittelschrift zeigt. Zwar findet sich in der Eingabe vom 23. März 2011 der Hinweis, dass der Beschwerdeführer unter dem Existenzminimum lebe und auf die Solidarität anderer Menschen angewiesen sei. Indessen steht diese Aussage im Zusammenhang mit dem Vorbringen, der Versicherte sei nicht in der Lage, rational zu handeln, und habe eine Persönlichkeitsstruktur, welche den Ärzten eine objektive Einschätzung seines Gesundheitszustandes erschwere. Unter diesen Umständen kann in der Eingabe vom 23. März 2011 kein Gesuch um unentgeltliche Rechtspflege im Sinne von Art. 65 Abs. 1 und 2 VwVG erblickt werden und ist das vorinstanzliche Nichteintreten - im Ergebnis - nicht zu beanstanden.
3.3 Bei dieser Sachlage kann offen gelassen werden, ob die Vorinstanz die Eingabe vom 23. März 2011 zu Recht als verspätet betrachtet hat. Insbesondere braucht nicht geprüft zu werden, ob der Übergabe an die Post in Prishtina am letzten Tag der Frist (23. März 2011) gestützt auf Art. 20 des zwischen der Schweiz und der (ehemaligen) Föderativen Volksrepublik Jugoslawien am 8. Juni 1962 abgeschlossenen Abkommens über Sozialversicherung (AS 1964 161, SR 0.831.109.818.1) fristwahrende Wirkung zukam (vgl. Urteil des Eidg. Versicherungsgerichts I 188/98 vom 18. Januar 1999 E. 2; vgl. auch Urteile des Eidg. Versicherungsgerichts I 769/02 vom 17. Januar 2003 E. 1.1 und I 327/98 vom 9. Februar 2000 E. 1b).
4. Auf die Erhebung von Gerichtskosten wird umständehalber verzichtet (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Es werden keine Gerichtskosten erhoben.
3. Dieses Urteil wird den Parteien, dem Bundesverwaltungsgericht und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 10. Juni 2011
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Meyer Keel Baumann