Faits:
A. Après que deux demandes de prestations de l'assurance-invalidité présentées par M._ (né en 1966) ont successivement été rejetées (décisions des 10 décembre 1992 et 8 avril 1998), l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) a ouvert une procédure d'instruction à l'occasion d'une nouvelle requête déposée par le prénommé, le 19 avril 2002. L'administration a recueilli différents avis médicaux, dont ceux figurant au dossier de l'assureur-maladie perte de gain de l'assuré. Elle a également chargé les médecins de son Service médical régional (SMR) d'examens psychiatrique et clinique (rapports des 18 août et 26 novembre 2003). Se fondant sur ces appréciations, la doctoresse C._, spécialiste FMH en médecine interne, du SMR a fait état de lombalgies communes et d'une allergie au ciment; elle a conclu à une incapacité de travail totale du 18 septembre 2000 au 20 novembre 2002, puis de 0% à partir du 21 novembre 2002, l'assuré disposant d'une capacité entière de travail dans une activité adaptée aux limitations fonctionnelles décrites (avis du 16 décembre 2003). M._ a effectué un pré-stage à la fondation X._, qu'il a interrompu après une journée en raison de douleurs. Par décision du 12 novembre 2004, l'office AI a nié le droit de l'intéressé à une rente d'invalidité, motif pris d'un degré d'invalidité (de 23,60%) insuffisant pour ouvrir le droit à cette prestation.
M._ s'est opposé à cette décision, ensuite de quoi l'office AI l'a soumis à une expertise dermatologique auprès du docteur R._, spécialiste FMH en dermatologie et vénérologie. Diagnostiquant un eczéma dyshidrosique avec épisodes de dissémination secondaire, de probable eczéma nummulaire focal surajouté, de sensibilisation de contact au bichromate de potassium et de sensibilisation de contact au Kathon CG (isothiazolinones), le médecin a conclu à une capacité de travail de 100% dans une activité adaptée excluant tout contact avec le bichromate de potassium ou le chlorure de cobalt, ainsi qu'avec le Kathon CG (isothiazolinones), les produits irritants ou une activité en milieu humide risquant par ailleurs de réactiver rapidement la symptomatologie dyshidrosique (rapport du 19 mars 2007). Par décision sur opposition du 8 novembre 2007, l'office AI a partiellement admis l'opposition de l'assuré, en ce sens qu'il lui a reconnu le droit à une rente entière d'invalidité du 1er septembre 2001 au 28 février 2003.
B. Par jugement du 28 juillet 2010 (dont la rédaction a été approuvée le 26 avril 2011), le Tribunal cantonal, Cour des assurances sociales, du canton de Vaud a rejeté le recours formé par l'assuré contre cette décision. Il a par ailleurs transmis le dossier à l'office AI afin qu'il statue sur le droit de l'assuré à des mesures d'ordre professionnel. En bref, il a considéré qu'à partir du 21 novembre 2002, M._ disposait d'une capacité de travail de 80% dans une activité adaptée, ce qui lui permettait de réaliser, en 2002, un revenu de 41'045 fr. 80 (y compris un abattement de 10%); la comparaison avec un revenu sans invalidité de 60'970 fr., que l'assuré aurait pu obtenir sans invalidité en tant que maçon, mettait en évidence un taux d'invalidité de 32,68%, ce qui ne justifiait pas le maintien de la rente au-delà de février 2003.
C. M._ interjette un recours en matière de droit public contre le jugement cantonal, dont il demande l'annulation. Sous suite de dépens, il conclut principalement à la reconnaissance de son droit à une rente entière d'invalidité du 1er septembre 2001 au 28 février 2003, puis à une rente fondée sur un taux de 52% dès le 1er mars 2003. A titre subsidiaire, il conclut au renvoi de la cause au Tribunal cantonal pour instruction complémentaire afin de déterminer le revenu d'un maçon sans Certificat fédéral de capacité (CFC) avec plus de vingt ans d'expérience en 2002 et d'examiner le droit à des indemnités d'attente dès le 1er mars 2003.
L'office AI conclut implicitement au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.
Considérant en droit:
1. Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral, qui applique le droit d'office (art. 106 al. 1 LTF), n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'art. 42 al. 2 LTF, et ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (art. 105 al. 1 LTF) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). Le recourant qui entend s'écarter des faits constatés doit expliquer de manière circonstanciée en quoi les conditions de l'art. 105 al. 2 LTF sont réalisées sinon un état de fait divergent ne peut être pris en considération (cf. art. 97 al. 2 LTF).
2. 2.1 En tant que les conclusions subsidiaires du recourant portent sur l'octroi d'indemnités journalières de l'assurance-invalidité à partir du 1er mars 2003, elles sont irrecevables. Elles sortent en effet de l'objet du litige défini par la décision litigieuse (du 8 novembre 2007), qui concernait uniquement le droit à une rente d'invalidité (sur la notion d'objet de la contestation, voir ATF 125 V 413). Conformément au renvoi du dossier ordonné par la juridiction cantonale (ch. III du dispositif du jugement entrepris), le droit du recourant à des mesures d'ordre professionnel devra cependant être examiné par l'intimé dans une procédure séparée.
2.2 Compte tenu des conclusions du recours (art. 107 al. 1 LTF), le litige se limite au droit du recourant à une demi-rente d'invalidité (correspondant à un taux d'invalidité de 52%) à partir du 1er mars 2003. Il n'y a pas lieu de se prononcer sur le droit à une rente entière du 1er septembre 2001 au 28 février 2003, dont il demande également l'octroi, puisque cette prestation lui a été reconnue par la décision sur opposition du 8 novembre 2007.
3. Au regard de l'objet du litige, le recourant critique uniquement les deux termes de la comparaison des revenus effectuée par la juridiction cantonale pour évaluer l'invalidité, qu'elle a fixée à 33%.
3.1 Prétendant tout d'abord qu'il percevait en 1989 déjà un revenu équivalent à celui d'un maçon titulaire d'un CFC, le recourant soutient que l'intimé aurait dû s'adresser à son ancien employeur ou à la Fédération vaudoise des entrepreneurs afin de déterminer quel était le revenu d'un maçon sans CFC avec plus de 20 ans d'expérience en 2002.
Avec son argumentation, le recourant ne démontre pas que le salaire de 60'970 fr. par année (en 2002) déterminé à titre de revenu sans invalidité par les premiers juges au moyen de la Convention collective du bâtiment et du génie civil (ouvriers qualifiés et spécialistes sans CFC, machinistes et chauffeurs) serait manifestement inexact au sens de l'art. 97 al. 1 LTF. Sans indiquer à quel montant devrait correspondre selon lui le revenu sans invalidité, le recourant se limite en effet à contester le salaire fixé par la juridiction cantonale et n'explique pas en quoi ce montant serait différent si l'administration avait requis des données auprès de son ancien employeur ou de la Fédération vaudoise des entrepreneurs. Il ressort par ailleurs du dossier qu'au cours de la première procédure administrative, le recourant avait indiqué à l'intimé qu'il réalisait un revenu (comme maçon) de 36'249 fr. en 1989 (rapport de la division de réadaptation professionnelle de l'office AI du 27 février 1995). Adapté à l'évolution des salaires nominaux de 1989 à 2002 (cf. Office fédéral de la statistique, Evolution des salaires nominaux, des prix à la consommation et des salaires réels, 1976-2010), il en résulterait un revenu de 49'103 fr. en 2002, soit un montant moins favorable, sous l'angle du droit aux prestations d'assurance, que celui retenu dans le jugement entrepris. L'argumentation du recourant n'est dès lors pas pertinente.
3.2 En ce qui concerne le revenu avec invalidité, le recourant fait valoir qu'il devrait être fixé à 3773 fr., soit le montant correspondant au revenu obtenu par un homme exerçant une activité simple et répétitive dans le secteur des services personnels (Enquête suisse sur la structure des salaires 2002, TA1, niveau de qualification 4, ch. 93). Il ne pourrait en effet exercer aucune activité dans le domaine industriel.
En affirmant simplement que la liste des nombreux produits à éviter énumérés dans l'expertise du docteur R._ implique qu'aucune activité industrielle ne peut être exigée de sa part, le recourant substitue sa propre appréciation à celle des premiers juges. Ceux-ci ont constaté, en se fondant sur le rapport de la division administrative de l'intimé, qu'il existait des activités industrielles non qualifiées qui ne comportaient pas de risques allergiques (comme des travaux d'alimentation de machines industrielles, de contrôles de qualité visuels, de montages industriels ou de surveillance de chaînes de production), de sorte qu'ils pouvaient se référer au salaire correspondant aux secteurs de la production, des services et de l'horticulture. On ne voit pas en quoi cette constatation serait manifestement inexacte, puisque les allergies du recourant portent sur des substances bien définies par le docteur R._ qui l'empêchent de travailler dans les secteurs impliquant le contact notamment avec du ciment frais, des peaux tannées au chrome, des colorants et des agents de fixation, ainsi qu'avec des produits cosmétiques, d'entretien, de nettoyage et des adhésifs, colles, latex et pâtes à papier. Ces limitations ne touchent en revanche pas les activités mentionnées par la juridiction cantonale.
Quoi qu'il en soit, même si l'on suivait l'argument du recourant selon lequel il ne serait pas en mesure de travailler dans le domaine industriel, il y aurait alors lieu de se fonder sur le salaire statistique correspondant à l'ensemble des activités du secteur des services (ch. 50-93) et non pas uniquement sur le revenu correspondant aux services personnels (ch. 93), afin de prendre en considération l'éventail de postes existant dans ce secteur. En fonction d'un revenu d'invalide qui serait ainsi fixé à 4206 fr. par mois, soit 37'884 fr. par an (après adaptation à l'horaire moyen en 2002 et compte tenu d'une capacité de travail de 80% et d'un abattement de 10%), le taux d'invalidité serait inférieur à 40% ([60'970 fr. - 37'884 fr.] x 100./. 60'970 = 38%) et n'ouvrirait pas le droit à une rente.
3.3 En conséquence de ce qui précède, le recours est mal fondé, dans la mesure où il est recevable.
4. Compte tenu de l'issue du litige, les frais judiciaires doivent être mis à la charge du recourant qui, succombant et non représenté par un avocat, ne saurait prétendre une indemnité à titre de dépens (art. 66 al. 1 et 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal cantonal du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 16 février 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
La Greffière: Moser-Szeless