Faits:
A. Originaire du Kosovo, S._ est arrivé en Suisse en juin 1998 et y a déposé une demande d'asile. Souffrant d'un cancer de la gorge (carcinome supraglottique) diagnostiqué le 17 septembre 1998, il a subi le 18 février suivant une laryngectomie totale avec pose d'une prothèse pour la voix. Renvoyé de Suisse en juillet 2000, il y est revenu en novembre de la même année et a été mis au bénéfice d'une admission provisoire (permis F) le 6 mars 2001. Il n'a jamais exercé d'activité lucrative en Suisse.
Le 12 mai 2005, S._ a présenté une demande de prestations de l'assurance-invalidité. Après avoir recueilli des rapports médicaux, l'Office de l'assurance-invalidité pour le canton de Vaud a rejeté la demande par décision du 20 décembre 2007. Il a nié le droit de l'intéressé à une rente ordinaire et extraordinaire parce qu'il disposait d'une pleine capacité de travail et donc de gain dans toute activité respectant certaines limitations et qu'il ne remplissait pas (pour la rente ordinaire) la condition de la durée minimale de cotisation d'une année à l'assurance-invalidité suisse lors de la survenance de l'invalidité.
B. Statuant le 22 mars 2010 sur le recours formé par S._ contre cette décision, le Tribunal cantonal, Cour des assurances sociales, du canton de Vaud l'a rejeté.
C. S._ interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation. Sous suite de frais, il conclut, principalement, à l'octroi d'une rente extraordinaire et, à titre subsidiaire, au renvoi de la cause à l'autorité de recours de première instance pour instruction complémentaire sous la forme d'une expertise médicale et nouvelle décision au sens des considérants. Il sollicite par ailleurs le bénéfice de l'assistance judiciaire.
L'Office de l'assurance-invalidité pour le canton de Vaud n'a aucune remarque à formuler au sujet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.
Considérant en droit:
1. Le litige porte sur le droit du recourant à une rente extraordinaire d'invalidité. Il doit être tranché à la lumière du droit applicable jusqu'au 20 décembre 2007, date de la décision administrative litigieuse (ATF 129 V 1 consid. 1.2 p. 4 et les arrêts cités).
2. 2.1 Selon les art. 8 let. d et 7 let. b de la Convention du 8 juin 1962 entre la Confédération suisse et la République populaire fédérative de Yougoslavie relative aux assurances sociales (RS 0.831.109.818.1; ci-après: la convention), les ressortissants yougoslaves n'ont droit aux rentes extraordinaires de l'assurance-invalidité qu'aussi longtemps qu'ils conservent leur domicile en Suisse et si, immédiatement avant la date à partir de laquelle ils demandent la rente, ils ont résidé en Suisse de manière ininterrompue pendant 5 années entières au moins.
Ainsi que le Tribunal fédéral l'a précisé à propos d'une disposition conventionnelle rédigée de manière semblable, par "date à partir de laquelle ils demandent la rente", il faut entendre, dans le cas d'une rente d'invalidité, le moment où une telle prestation peut ou pourrait effectivement être allouée à celui qui la requiert, toutes autres conditions étant remplies. Ce moment ne se confond pas avec le jour auquel la demande est présentée, ni avec la date de la survenance de l'événement assuré, en l'espèce de l'invalidité. Le délai se calcule rétroactivement depuis la date à laquelle s'ouvre le droit de l'assuré à une rente (ATF 122 V 386 consid. 1a p. 389; 110 V 278 consid. 2b p. 287).
2.2 Considérant que les conditions ouvrant le droit éventuel à une rente extraordinaire d'invalidité auraient été réalisées en septembre 1999, soit à l'échéance du délai d'une année de l'art. 29 al. 1 let. b aLAI (dans sa teneur en vigueur jusqu'au 31 décembre 2007), la juridiction cantonale a considéré cette date comme déterminante pour calculer rétroactivement le délai quinquennal. Toutefois, à ce moment-là, le recourant n'avait pas encore requis des prestations, ce qu'il n'a fait, selon les constatations de la juridiction cantonale qui lient le Tribunal fédéral (art. 105 al. 1 LTF), que le 12 mai 2005. Compte tenu de la date du dépôt de la demande, une rente d'invalidité n'aurait pu être effectivement allouée qu'à partir du 1er mai 2004, conformément à l'art. 48 al. 2 aLAI. Il en résulte que le délai quinquennal doit être calculé rétroactivement depuis le 1er mai 2004. A cette date, le recourant pouvait se prévaloir de cinq années de résidence ininterrompue en Suisse. A cet égard, on peut considérer que l'absence due au renvoi du recourant d'une durée légèrement supérieure aux trois mois du délai de tolérance prévu au ch. 9 du Protocole final de la convention n'a pas interrompu la résidence (cf. ATF 110 V 278 consid. 2c p. 282; voir aussi ATF 119 V 111 consid. p. 7c p. 118).
3. 3.1 Cela étant, il reste à examiner si les autres conditions du droit à une rente extraordinaire d'invalidité étaient réalisées. Contrairement à ce que soutient le recourant, celles-ci ne se résument pas uniquement à l'exigence d'une résidence ininterrompue de cinq ans et à une incapacité de gain supérieure à 40 %. En plus des conditions spécifiques relatives au domicile en Suisse et à la durée minimum de résidence posées par les art. 8 let. d et 7 let. b de la convention, les ressortissants étrangers (auxquels les dispositions conventionnelles sont applicables) qui prétendent des prestations de l'assurance-invalidité suisse doivent remplir les conditions matérielles du droit à la prestation envisagée découlant du droit de l'assurance-invalidité suisse. Il s'agit pour la rente extraordinaire d'invalidité en particulier de l'art. 42 LAVS auquel renvoie l'art. 39 al. 1 LAI (dispositions dont la teneur en vigueur au moment déterminant a été exposée dans le jugement entrepris auquel il suffit de renvoyer).
3.2 Comme l'ont rappelé à juste titre les premiers juges, le cercle des bénéficiaires d'une rente extraordinaire est, à teneur de l'art. 42 al. 1 LAVS, limité aux personnes qui comptent un nombre d'années d'assurance égal à celui de leur classe d'âge, mais qui, "sans faute de leur part", n'ont pu cotiser durant la période minimale et qui, de ce fait, ne peuvent prétendre une rente ordinaire; entrent dans cette catégorie les personnes qui, n'ayant pas encore atteint l'âge déterminant ou qui, tout en ayant été assujetties à l'assurance-invalidité suisse depuis cette limite d'âge, n'ont pas, avant la survenance du risque, cotisé du tout ou pendant une année, faute d'y avoir été obligées (arrêts I 780/02 du 1er mai 2003 consid. 5.1.2 [SVR 2003 IV n° 34 p. 104] et I 810/05 du 5 février 2007 consid. 5.2.2). Peuvent donc se voir allouer une rente extraordinaire d'invalidité exclusivement des personnes qui sont encore susceptibles d'atteindre une durée d'assurance complète, en vue de l'octroi d'une rente de vieillesse de l'assurance-vieillesse et survivants, jusqu'au 31 décembre précédant l'âge-terme (ATF 131 V 390 consid. 7.3.1 p. 402).
Ne sont en revanche pas visées par l'art. 42 al. 1 LAVS, les personnes qui comptent une lacune de cotisations parce qu'elles n'ont pas été assujetties à l'assurance pendant une certaine période de leur vie. Les rentes extraordinaires soumises à limites de revenu que les assurés placés dans cette situation pouvaient prétendre avant la dixième révision de l'AVS, si la rente ordinaire partielle dont ils bénéficiaient était inférieure à la rente extraordinaire (cf. art. 42 al. 1 LAVS, dans sa teneur en vigueur jusqu'au 31 décembre 1996), ont en effet été transférées dans le régime des prestations complémentaires (cf. ATF 124 V 271 consid. 1a p. 273). Il en va de même des rentes extraordinaires allouées aux personnes qui ne pouvaient prétendre de rente ordinaire d'invalidité, faute d'avoir été assujetties à l'assurance-vieillesse et invalidité suisse - et par conséquent d'avoir versé des cotisations - pendant une année au moins avant la survenance de l'invalidité (arrêt I 780/02 du 1er mai 2003 consid. 5.1.2, in SVR 2003 IV n° 34 p. 104).
3.3 Il n'est pas contesté que le recourant ne compte pas un nombre d'années d'assurance égal à celui des personnes de sa classe d'âge, puisqu'il n'a pas été assujetti à l'assurance-vieillesse, survivants et invalidité avant de s'être constitué un domicile en Suisse, au plus tôt en juin 1998 selon les constatations du jugement entrepris. La juridiction cantonale a dès lors retenu à juste titre que l'intéressé n'avait pas droit à une rente extraordinaire d'invalidité. C'est en vain que le recourant invoque s'être acquitté "indirectement des cotisations depuis plusieurs années", dès lors que la loi exige "le même nombre d'années d'assurance que les personnes de [sa] classe d'âge".
Le grief tiré d'une prétendue violation de la garantie constitutionnelle de l'égalité de traitement est par ailleurs mal fondé. Si la réglementation de l'art. 39 al. 1 LAI en relation avec l'art. 42 al. 1 LAVS réserve le droit à une rente extraordinaire aux ressortissants suisses, le recourant ne subit cependant pas de discrimination directe, car un Suisse se trouvant, abstraction faite de la nationalité, dans la même situation que lui, ne pourrait pas non plus prétendre à une rente extraordinaire, faute de compter un nombre d'années d'assurance égal à celui des personnes de sa classe d'âge. De plus, le recourant ne soutient pas que l'art. 2 de la convention consacrerait l'interdiction de toute discrimination indirecte, de sorte que ce point n'a pas à être examiné plus avant, faute de motivation suffisante (art. 106 al. 2 LTF).
4. Invoquant un déni de justice, le recourant reproche encore aux premiers juges de ne pas s'être prononcés sur le taux d'incapacité de gain, ni sur la mise en oeuvre d'une expertise susceptible de définir ce taux. Il soutient qu'il a un intérêt à ce que le taux d'incapacité de gain soit déterminé par la juridiction cantonale, dès lors qu'il pourrait prétendre des prestations complémentaires conformément à l'art. 4 al. 1 let. d LPC.
4.1 Selon la jurisprudence, commet un déni de justice formel et viole l'art. 29 al. 1 Cst. l'autorité qui ne statue pas ou n'entre pas en matière sur un recours ou un grief qui lui est soumis, alors qu'elle devrait le faire (ATF 117 Ia 116 consid. 3a p. 117 et les références).
A teneur des motifs et conclusions formulés en première instance par le recourant, qu'il a réitérés en substance devant la Cour de céans, le litige a pour seul objet le droit à une rente extraordinaire de l'assurance-invalidité. Il ressort des motifs du jugement entrepris que la juridiction cantonale a nié ce droit en considérant que les conditions posées par les art. 8 let. d et 7 let. b de la convention, d'une part, et 42 al. 1 LAVS en relation avec l'art. 39 al. 1 LAI, d'autre part, n'étaient pas réalisées. Elle est donc entrée en matière sur le recours et a examiné l'objet du litige à la lumière des conditions régissant le droit à la prestation en cause. Dès lors qu'elle est arrivée à la conclusion que le recourant ne réunissait pas certaines de ces conditions, elle n'avait pas à se prononcer sur les motifs du recourant relatifs aux autres conditions du droit à la rente extraordinaire, ceux-ci n'étant plus pertinents pour l'issue du litige. Le grief tiré d'un déni de justice formel est donc mal fondé.
4.2 Il convient encore d'examiner si le recourant disposait d'un intérêt digne de protection à faire constater son (éventuel) degré d'invalidité par la juridiction cantonale, en relation avec une demande de prestations complémentaires au sens de l'art. 4 al. 1 let. d LPC. Selon cette disposition, les personnes qui ont leur domicile et leur résidence habituelle (art. 13 LPGA) en Suisse ont droit à des prestations complémentaires, dès lors qu'elles auraient droit à une rente de l'AI si elles justifiaient de la durée de cotisation minimale requise à l'art. 29 al. 1 LAVS (dans la version en vigueur jusqu'au 31 décembre 2007), respectivement à l'art. 36 al. 1 LAI (dans la version en vigueur à partir du 1er janvier 2008).
4.2.1 Selon la jurisprudence, une autorité ne peut rendre une décision de constatation que lorsque la constatation immédiate de l'existence ou de l'inexistence d'un rapport de droit est commandée par un intérêt digne de protection, à savoir un intérêt actuel de droit ou de fait, auquel ne s'opposent pas de notables intérêts publics ou privés, et à condition que cet intérêt digne de protection ne puisse pas être préservé au moyen d'une décision formatrice, c'est-à-dire constitutive de droits ou d'obligations (ATF 129 V 289 consid. 2.1 p. 290).
4.2.2 Comme l'a relevé à juste titre la juridiction cantonale, il appartient aux organes désignés par les cantons pour fixer et verser les prestations complémentaires (cf. art. 21 al. 1 LPC) - et non pas à l'intimé - de se prononcer sur le droit éventuel du recourant à des prestations complémentaires prévues par la LPC, singulièrement à des prestations indépendantes d'une rente de l'AVS ou de l'AI ("rentenlose Ergänzungsleistung"). Cette compétence comprend l'examen des conditions matérielles des prestations requises, ce qui suppose selon les cas que les organes compétents en matière de prestations complémentaires éclaircissent et apprécient des aspects qui sortent de leur domaine propre, tels l'évaluation et le degré d'invalidité du requérant dans le contexte d'une prestation complémentaire "sans droit à une rente". L'examen du droit à une telle prestation ne dépend pas alors d'une décision (de refus) préalable des organes d'exécution de l'assurance-invalidité, sinon un office de l'assurance-invalidité ou une caisse de compensation devraient toujours examiner la demande de prestations complémentaires avant l'organe compétent selon la LPC (Ralph Jöhl, Ergänzungsleistungen zur AHV/IV, in Soziale Sicherheit [SBVR], 2ème éd., n° 39 p. 1667). De manière générale, aussi longtemps que l'autorité compétente pour se prononcer à titre principal sur certaines questions n'a pas rendu de décision à leur sujet, une autre autorité peut examiner ces questions à titre préliminaire et rendre une décision; il n'y a alors pas de place pour une décision de constatation sur les questions préliminaires (arrêt I 92/07 du 21 février 2008 consid. 2.3; Ulrich Meyer, Über die Zulässigkeit von Feststellungsverfügungen in der Sozialversicherungs-praxis, in: Sozialversicherungsrechtstagung 2007, p. 49 ch. 4a).
4.2.3 Dans sa décision du 20 septembre 2007, l'intimé a admis que le recourant ne présentait aucune perte de gain. Il s'agit là de la motivation de la décision relative à des prestations de l'assurance-invalidité, singulièrement au rejet de la demande, qui ne fait pas partie intégrante du dispositif attaqué devant la juridiction cantonale. Cette motivation a été contestée par le recourant, mais n'a pas été examinée par les premiers juges, qui ont confirmé la décision administrative pour d'autres raisons sans se prononcer sur le degré d'invalidité de l'assuré. Aussi, vu le dispositif du jugement entrepris, interprété à la lumière de ses considérants, la question du taux d'invalidité du recourant n'a pas été tranchée dans la procédure judiciaire cantonale portant sur le droit à une rente extraordinaire de l'assurance-invalidité. Elle pourra dès lors faire l'objet, si nécessaire - au regard des autres conditions matérielles du droit invoqué -, d'un examen préliminaire par les organes compétents en matière de prestations complémentaires (pour le canton de Vaud, la Caisse cantonale de compensation [art. 6 al. 1 de la loi vaudoise du 13 novembre 2007 sur les prestations complémentaires à l'assurance-vieillesse, survivants et invalidité; RSVD 831.212], lorsque le recourant aura formellement présenté sa demande. Par conséquent, le recourant ne peut se prévaloir d'un intérêt digne de protection à la constatation immédiate du taux d'invalidité par l'autorité de recours de première instance.
5. Il suit de ce qui précède que le recours est mal fondé. Le recourant voit ses conclusions rejetées, de sorte qu'il doit en principe supporter les frais de justice et ses propres dépens (art. 66 al. 1 et 68 al. 1 LTF). Il a toutefois déposé une demande d'assistance judiciaire. Dès lors que le recours n'était pas d'emblée dénué de chances de succès, que l'indigence du recourant est établie et que l'assistance d'un avocat est justifiée (cf. art. 64 al. 1 et 2 LTF), il convient d'accéder à cette demande. Le recourant est toutefois rendu attentif au fait qu'il devra rembourser la caisse du Tribunal s'il se trouve ultérieurement en mesure de le faire (art. 64 al. 4 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. L'assistance judiciaire est accordée au recourant.
3. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant. Ils sont toutefois supportés provisoirement par la caisse du Tribunal.
4. Maîtres Alexis Overney et Christine Magnin sont désignés en tant qu'avocats d'office du recourant et une indemnité de 2'800 fr. au total leur est allouée à titre d'honoraire, supportée par la caisse du Tribunal.
5. Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal cantonal du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 11 juillet 2011
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Moser-Szeless