Faits:
A. A._, née le *** 1955 et originaire de Tunisie, vit en Suisse depuis 1988. Elle a acquis la nationalité suisse en 2003. Par décision du 21 avril 1999, l'Office fédéral des étrangers (actuellement l'Office fédéral des migrations, ci-après: ODM) a refusé d'approuver la délivrance d'une autorisation d'entrée et de séjour au titre du regroupement familial en faveur de son fils X._, ressortissant tunisien né le *** 1978. Le 31 octobre 2002, le Service de la population de canton de Vaud (ci-après: SPOP) a délivré au prénommé une autorisation de séjour temporaire pour études dont la prolongation jusqu'au 31 décembre 2004 lui a permis d'obtenir un diplôme de gestionnaire en voyages et en tourisme.
En novembre 2004, X._ a sollicité une nouvelle prolongation de son autorisation de séjour pour études, afin de pouvoir entamer une formation d'assistant en gestion d'entreprise. Par décision du 4 mai 2005, confirmée par le Tribunal administratif du canton de Vaud (actuellement la Cour de droit administratif et de droit public du Tribunal cantonal; ci-après: le Tribunal cantonal) le 30 mars 2006, le SPOP a refusé de prolonger son autorisation de séjour pour études et prononcé son renvoi de Suisse. Le 19 juin 2006, l'Office de la population de la commune de B._ a informé le SPOP que l'intéressé avait annoncé son départ de la commune pour le 30 avril 2006, sans toutefois préciser sa destination.
B. Le 22 décembre 2009, X._ a déposé auprès du SPOP une demande d'"autorisation de séjour pour "cas de rigueur". Il a notamment fait valoir qu'il n'avait pas quitté la Suisse au terme du délai de départ qui lui avait été imparti et qu'il y était "parfaitement intégré". Il a également indiqué qu'il ne figurait pas au casier judiciaire et était autonome financièrement. Il encore a précisé que sa mère, qui était atteinte dans sa santé et constituait sa seule famille, vivait en Suisse. Il a joint à sa demande plusieurs pièces justificatives. Le 15 mars 2010, le SPOP l'a informé qu'il entendait refuser sa demande de permis humanitaire, au motif qu'il aurait dû quitter la Suisse depuis mai 2006 et que le temps qui s'était écoulé depuis lors ne pouvait pas être pris en considération dans l'appréciation, vu le caractère illégal de son séjour. Le 30 mars 2010, X._ a allégué que sa détresse résidait dans le fait que s'il était tenu de quitter la Suisse pour son pays d'origine où il n'avait plus de famille, il devrait abandonner sa mère, qui vivait seule et était gravement malade. Il a joint à sa demande des certificats médicaux dont il ressortait notamment que sa mère souffrait d'une sclérose en plaques secondaire progressive avec poussées récentes, d'une hypothyréose substituée ainsi que d'un état dépressif traité.
Par décision du 8 juin 2010, le SPOP a refusé d'octroyer à X._ un permis de séjour sous quelque forme que ce soit, ainsi que de transmettre sa demande à l'ODM pour une éventuelle autorisation de séjour dérogeant aux conditions d'admission ordinaires.
C. X._ a interjeté recours auprès du Tribunal cantonal contre la décision précitée du SPOP en faisant valoir sa bonne intégration, son autonomie financière malgré son statut précaire, ainsi que son comportement irréprochable en Suisse. Par ailleurs, il a invoqué la relation particulière qu'il entretient avec sa mère, malade, qui vit en Suisse depuis de nombreuses années.
Par arrêt du 23 septembre 2010, le Tribunal cantonal a rejeté le recours, en estimant que les conditions d'un cas d'extrême gravité au sens de l'art. 30 al. 1 let. b de la loi fédérale du 16 décembre 2005 sur les étrangers (ci-après LEtr, RS 142.20) n'étaient pas réunies et que sa situation familiale, notamment l'état de santé de sa mère, ne lui ouvrait pas le droit à une autorisation de séjour fondée sur l'art. 8 CEDH. En substance, les juges ont retenu que la durée de séjour illégal en Suisse ne pouvait être prise en compte dans la pesée des intérêts, que le cas d'extrême gravité allégué ne se trouvait pas en sa personne mais en celle de sa mère, que la maladie dont celle-ci souffrait ne la plaçait pas dans une situation de dépendance à l'égard de son fils, telle que la présence de celui-ci à ses côtés serait indispensable et, enfin, que "seule importe la question de savoir si la présence permanente du fils est nécessaire pour pallier le manque d'autonomie de sa mère, ce qui n'a ni été prouvé, ni même avancé par le recourant."
D. X._ forme un recours en matière de droit public contre le jugement du Tribunal cantonal du 23 septembre 2010. Il réitère en substance les griefs soulevés devant les premiers juges et conclut, outre à l'octroi de l'effet suspensif, à la réforme du jugement entrepris en ce sens qu'une autorisation de séjour lui soit délivrée, subsidiairement au renvoi de la cause au Tribunal cantonal pour nouveau jugement dans le sens des considérants.
Le Tribunal cantonal se réfère aux considérants de son arrêt, le SPOP renonce à se déterminer sur le recours et l'ODM a conclut à son rejet.
Par ordonnance du 1er novembre 2010, le Président de la IIème Cour de droit public a octroyé l'effet suspensif au recours.
Considérant en droit:
1. Le Tribunal fédéral examine d'office sa compétence (art. 29 al. 1 LTF). Il contrôle donc librement la recevabilité des recours qui lui sont soumis (ATF 136 I 43 consid. 1 p. 43; 135 II 94 consid. 1 p. 96).
1.1 D'après l'art. 83 let. c LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit (ch. 2) ou qui concernent des dérogations aux conditions d'admission (ch. 5).
1.1.1 Le recourant motive son droit à une autorisation de séjour sur la base de l'art. 30 al. 1 let. b LEtr (cas individuel d'extrême gravité pouvant justifier l'octroi d'un permis humanitaire) en lien avec les art. 8 § 1 CEDH et 13 al. 1 Cst. (droit au respect de la vie privée et familiale). Dans la mesure où il critique la manière dont le Tribunal cantonal a interprété et appliqué l'art. 30 al. 1 let. b LEtr, son recours n'est pas recevable en vertu de l'art. 83 let. c ch. 5 LTF. Les art. 8 § 1 CEDH et 13 al. 1 Cst. ne peuvent être examinés que pris isolément et pour eux-mêmes. Ils ont une portée analogue en matière de garantie de la vie privée et familiale (cf. ATF 129 II 215 consid. 4.2 p. 218 s.) et visent avant tout à protéger les rapports entre époux ainsi qu'entre parents et enfants mineurs vivant ensemble (soit la famille dite nucléaire; cf. ATF 135 I 143 consid. 1.3.2 p. 146; 127 II 60 consid. 1d/aa p. 65; 120 Ib 257 consid. 1d p. 261). Du moment qu'il est majeur, le recourant ne peut donc pas invoquer l'art. 8 § 1 par rapport à son lien avec sa mère.
1.1.2 Néanmoins, le Tribunal fédéral admet qu'en dehors du cercle de la famille nucléaire, un étranger puisse, exceptionnellement et à des conditions restrictives, déduire un droit à une autorisation de séjour de l'art. 8 § 1 CEDH s'il existe un rapport de dépendance particulier entre lui et un (proche) parent au bénéfice d'un droit de présence assuré en Suisse (nationalité suisse ou autorisation d'établissement; cf. ATF 135 I 143 consid. 1.3.1 p. 145 s.; 130 II 281 consid. 3.1 p. 285), par exemple en raison d'une maladie ou d'un handicap (cf. ATF 120 Ib 257 consid. 1d p. 261). Cette jurisprudence vaut sans conteste lorsque la personne dépendante est l'étranger qui sollicite le droit à une autorisation de séjour (cf. arrêt 2C_451/2007 du 22 janvier 2008 consid. 2.2 et les nombreuses références citées). Ce n'est toutefois pas la situation du recourant qui est majeur, en bonne santé et parfaitement capable de pourvoir lui-même à ses besoins et de mener sa vie de manière autonome. L'intéressé ne prétend du reste pas le contraire, mais fait valoir que sa mère, de nationalité suisse et gravement malade, "a besoin, au quotidien, d'une aide extérieure fournie régulièrement par (lui) qui lui prodigue également un soutien psychologique."
On peut se demander si ces circonstances sont pertinentes sous l'angle de l'art. 8 § 1 CEDH. La jurisprudence est en effet incertaine sur la possibilité d'invoquer cette disposition conventionnelle lorsque l'état de dépendance tient, comme en l'occurrence, non pas dans l'étranger qui sollicite le droit à une autorisation de séjour, mais dans la personne de celui qui bénéficie du droit de présence assuré en Suisse. Alors qu'elle avait parfois admis cette possibilité lors de l'examen de l'art. 8 § 1 CEDH en lien - ce que permettait l'ancienne réglementation des voies de recours au Tribunal fédéral - avec les conditions mises à l'obtention d'un permis humanitaire (cf. arrêts 2A.76/2007 du 12 juin 2007 consid. 5.1; 2A.627/2006 du 28 novembre 2006 consid. 4.2.1; 2A.92/2007 du 21 juin 2006 consid. 4.3 et les arrêts cités), la Haute Cour a apparemment tranché en sens contraire, sans se référer à ces précédents, dans une autre affaire (arrêt précité 2C_451/2007 consid. 2.2); antérieurement, elle avait laissé la question ouverte (cf. arrêt 2P.84/2002 consid. 3.5; 2P.278/1997 du 8 octobre 1997 consid. 2b/bb). Il n'est pas nécessaire de résoudre cette question dans la présente affaire, car les conditions de l'art. 8 § 1 CEDH ne sont, comme on le verra (infra consid. 4), de toute façon manifestement pas remplies, à supposer même que le recourant puisse invoquer le droit à la protection de la vie familiale en raison de la dépendance de sa mère à son égard.
1.2 Au surplus, en tant qu'il s'en prend à l'arrêt du Tribunal cantonal du 16 juin 2010, le recours est dirigé contre une décision finale (art. 90 LTF) rendue en dernière instance cantonale par un tribunal supérieur (art. 86 al. 1 let. d et al. 2 LTF); en outre, il a été déposé en temps utile (art. 100 al. 1 LTF) par le destinataire de l'acte attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (art. 89 al. 1 LTF), de sorte qu'il convient d'entrer en matière.
2. Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral et du droit international (cf. art. 95 let. a et b ainsi que 106 al. 1 LTF), sous réserve des exigences de motivation figurant aux art. 42 et 106 al. 2 LTF. Il y procède en se fondant sur les faits constatés par l'autorité précédente (cf. art. 105 al. 1 LTF), à moins que ceux-ci n'aient été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (cf. art. 105 al. 2 LTF).
3. Le recourant conteste en vain la constatation des faits et leur appréciation par le Tribunal cantonal. Formulées sur un mode purement appellatoire, ses critiques ne peuvent en effet pas être prises en compte par le Tribunal fédéral (art. 97 al. 1 LTF; ATF 136 II 101 consid. 3 p. 104). Le présent arrêt sera dès lors fondé sur les seuls faits retenus par les premiers juges.
4. Comme on l'a vu, pour les relations qui excèdent le cadre étroit de la famille nucléaire, l'art. 8 § 1 CEDH ne confère que de manière restrictive un droit au regroupement familial, soit s'il existe un rapport de dépendance particulier entre les membres de la famille en cause. Tel est notamment le cas si la personne dépendante nécessite un soutien de longue durée en raison de graves problèmes de santé et que ses besoins ne seraient pas convenablement assurés sans la présence en Suisse de l'étranger qui sollicite une autorisation de séjour (cf. arrêt 2A.136/1998 du 12 août 1998 consid.3 d; arrêt 2A.282/1994 du 5 juillet 1995 consid. 4b; à propos de la notion de dépendance: cf. ATF 120 Ib 257 consid. 1d et 1e p. 261 ss). En revanche, des difficultés économiques ou d'autres problèmes d'organisation ne sauraient être assimilés à un handicap ou une maladie grave rendant irremplaçable l'assistance de proches parents (cf. arrêt 2C_174/2007 du 12 juillet 2007 consid. 3.4; arrêt 2A.31/2004 du 26 janvier 2004 consid. 2.1.2; arrêt 2A.30/2004 du 23 janvier 2004 consid. 2.2).
En l'espèce, il ressort des constatations cantonales que la mère du recourant souffre de sérieux troubles de santé et qu'elle vit seule avec son fils, qui est par ailleurs son unique enfant. Ces éléments ne suffisent toutefois pas à fonder un droit à une autorisation de séjour au regard de l'art. 8 § 1 CEDH. L'élément déterminant tient en effet dans l'absolue nécessité pour l'étranger de demeurer en Suisse pour assister son proche parent qui, à défaut d'un tel soutient, ne pourrait pas faire face autrement aux problèmes imputables à son état de santé. De telles circonstances doivent toutefois être alléguées et établies par celui qui s'en prévaut conformément à son obligation de collaborer. Or, tel n'est précisément pas le cas en l'espèce, ainsi que le Tribunal cantonal l'a clairement exposé. Le recourant ne peut, à cet égard, se contenter d'affirmer que les premiers juges n'auraient pas pris en compte les certificats médicaux au dossier ou ses déterminations. L'invocation de l'arbitraire dans l'appréciation des preuves obéit en effet à des conditions de motivation strictes, imposées par l'art. 106 al. 2 LTF, que de telles affirmations purement appellatoires ne remplissent nullement. Au demeurant, contrairement à ce que soutient le recourant, le Tribunal cantonal a pris en considération les pièces litigieuses et n'a pas non plus ignoré ses allégués (cf. p. 2 et 6 de l'arrêt attaqué).
5. Il suit de ce qui précède que le recours, manifestement mal fondé, doit être rejeté dans la mesure où il est recevable.
Succombant, le recourant doit supporter les frais judiciaires (cf. art. 66 al. 1 LTF) et n'a pas droit à des dépens (cf. art. 68 al. 1 LTF a contrario).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est mal fondé.
2. Le frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, au Service de la population et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 24 mars 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier :
Zünd Addy