Faits:
A. B._ (né en 1963) s'est vu allouer une rente entière de l'assurance-invalidité, fondée sur un taux d'invalidité de 100%, à partir du 1er août 1997 (décision du 16 novembre 1999).
Au cours d'une procédure de révision initiée en 2001, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) a chargé le docteur H._, spécialiste FMH en neurologie, d'une expertise. Celui-ci a conclu que l'assuré était capable de travailler à 50% dans une activité adaptée (rapports des 30 janvier 2003 et 21 décembre 2005). Le 23 juin 2008, le docteur K._, médecin traitant, a indiqué à l'office AI qu'il avait dû prescrire des antidépresseurs à son patient depuis juin 2007 et que celui-ci ne pourrait pas retravailler. Par décision du 29 décembre 2008, l'office AI a réduit la rente entière de l'assuré à une demi-rente d'invalidité dès le 1er février 2009, au motif que sa décision initiale du 16 novembre 1999 devait être reconsidérée.
B. Saisi d'un recours formé par l'assuré contre cette décision, la Cour des assurances sociales du Tribunal cantonal vaudois a confié une expertise pluridisciplinaire (neurologique et rhumatologique) au Centre X._. S'étant adjoints l'aide des docteurs V._, psychiatre et psychothérapeute, et L._, neurologue, les docteurs A._, médecin-chef du Centre X._, et D._, rhumatologue, ont rendu leur rapport le 29 juin 2010. Ils ont diagnostiqué (avec répercussion sur la capacité de travail) des lombosciatalgies gauches chroniques sans déficit neurologie (fibrose postopératoire modérée de la racine L5 gauche, status après deux cures de hernie discale L4-L5 médio-latérale gauche en octobre 1996 et mars 1998 et après mise en place d'un stimulateur médullaire en 2007), ainsi qu'un probable syndrome douloureux somatoforme persistant sans répercussion sur la capacité de travail. Ils ont conclu que B._ était incapable de travailler comme ouvrier de chantier (activité qu'il avait exercée avant la survenance de ses atteintes à la santé), mais qu'on pouvait exiger de lui qu'il mette en oeuvre une capacité de travail de 50% dans une activité adaptée à ses limitations fonctionnelles. Par jugement du 28 janvier 2011, la Cour des assurances sociales du Tribunal cantonal vaudois a débouté l'assuré.
C. B._ interjette un recours en matière de droit public et un recours constitutionnel subsidiaire contre ce jugement, dont il demande principalement la réforme en ce sens que soit maintenu son droit à une rente entière d'invalidité. Subsidiairement, il requiert l'annulation du jugement cantonal et le renvoi de la cause à l'office AI pour nouvelle instruction et/ou décision dans le sens des considérants.
L'office AI conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se prononcer.
Considérant en droit:
1. 1.1 La décision attaquée ayant été rendue dans une cause de droit public (art. 82 let. a LTF) et dans une matière - le droit fédéral des assurances sociales - où aucune des clauses d'exception de l'art. 83 LTF ne s'applique, la voie du recours en matière de droit public est ouverte. Partant, il n'y a pas lieu d'entrer en matière sur le recours constitutionnel subsidiaire interjeté par le recourant.
1.2 Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), sans être limité par les arguments du recourant ou par la motivation de l'autorité précédente. Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'art. 42 al. 2 LTF, et ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (art. 105 al. 1 LTF) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). Le recourant qui entend s'écarter des faits constatés doit expliquer de manière circonstanciée en quoi les conditions de l'art. 105 al. 2 LTF sont réalisées sinon un état de fait divergent ne peut être pris en considération (cf. art. 97 al. 2 LTF).
2. Le litige porte sur la réduction, par la voie de la reconsidération, de la rente entière d'invalidité allouée à l'assuré à une demi-rente à partir du 1er février 2009. A cet égard, le jugement entrepris expose de manière complète les règles légales et les principes jurisprudentiels sur la reconsidération, ainsi que ceux sur la valeur probante des rapports médicaux. Il suffit d'y renvoyer.
3. 3.1 L'autorité cantonale de recours a retenu que les conditions d'une reconsidération de la décision initiale du 16 novembre 1999 étaient réalisées. A l'époque, l'office AI avait en effet fixé à 100% le degré d'invalidité en se limitant à reprendre le taux d'incapacité fonctionnelle de l'assuré dans l'exercice de sa dernière profession (ouvrier de chantier). Il avait dès lors manqué de comparer le revenu sans invalidité avec le revenu que l'assuré aurait pu obtenir en exerçant une activité adaptée à ses limitations fonctionnelles, comme le lui imposait l'art. 28 al. 2 aLAI (en vigueur jusqu'au 31 décembre 2002; aujourd'hui, art. 16 LPGA). Se fondant sur les conclusions du docteur H._, ainsi que sur celles des experts du Centre X._, les premiers juges ont constaté que le recourant avait conservé une capacité de travail exigible de 50% dans une activité adaptée. Ils ont dès lors confirmé (implicitement) le calcul du taux d'invalidité de l'administration et retenu que la diminution de la rente entière d'invalidité précédemment allouée à l'assuré à une demi-rente était justifiée.
3.2 Le recourant conteste que les conditions de la reconsidération de la décision initiale d'octroi d'une rente entière d'invalidité (du 16 novembre 1999) soient réalisées. Il fait valoir qu'aucune pièce de son dossier, en particulier la décision initiale, ne permet de considérer que son droit à la rente aurait été fixé sur la base du taux d'incapacité fonctionnelle dans la dernière profession qu'il a exercée. Il résulterait bien plus de son dossier que l'incapacité totale de travail se rapportait également à une activité adaptée. Selon lui, la reconsidération procédait bien plus d'un réexamen des conditions à la base de l'octroi des prestations qui lui avaient été allouées sur la base d'appréciations médicales ultérieures. Le recourant critique également le taux de capacité de travail résiduelle de 50% retenu par les premiers juges sur la base de l'expertise du Centre X._. En ce qui concerne le volet économique, il reproche par ailleurs à l'intimé d'avoir fixé le salaire de valide (recte avec invalidité), de 26'012 fr. 80, sans motiver le montant retenu. Il soutient encore qu'il y aurait lieu en tout état de cause de tenir compte des limitations fonctionnelles "de l'ordre de 20% au moins dans le calcul du revenu de valide exigible".
4. 4.1 A l'époque déterminante de la décision initiale du 16 novembre 1999 - et il convient ici de compléter la constatation des faits de la juridiction cantonale (art. 105 al. 2 LTF) -, l'office AI avait recueilli notamment l'avis du docteur K._, médecin traitant. Dans un rapport (du 24 décembre 1997), postérieur à la première opération chirurgicale (hémilaminectomie L4-L5 gauche pour cure de hernie discale, le 8 octobre 1996), le médecin traitant a attesté d'une incapacité de travail de 100% et répondu "non" à la question de savoir si des mesures professionnelles étaient indiquées. Après la seconde intervention (reprise d'hémilaminectomie L4-L5 gauche pour récidive de hernie discale, le 17 mars 1998), le docteur K._ a répondu aux questions posées par l'administration dans un rapport très succinct du 9 juillet 1999, lesquelles ne portaient pas sur l'indication de mesures professionnelles ou la description d'une activité adaptée, de sorte qu'il ne s'est pas prononcé à ce sujet. Le médecin traitant a fait état d'une incapacité de travail de 100%, ensuite de quoi l'office AI a retenu que l'assuré présentait "une incapacité de travail continue pour raison de santé depuis le 17.8.1996" et, partant, un taux d'invalidité de 100% (motivation de la décision du 16 novembre 1999).
Ce faisant, l'office AI a fixé le taux d'invalidité de l'assuré en fonction de l'incapacité de travail dans l'activité exercée jusqu'à la survenance de l'atteinte à la santé, sans examiner, ni, partant, tenir compte d'une éventuelle capacité de travail dans une autre activité que celle d'ouvrier. Or, une année auparavant, à la suite de la seconde intervention chirurgicale, le docteur P._ du Service de neurochirurgie de l'Hôpital Y._ avait envisagé un reclassement professionnel de l'assuré et préconisé une reprise progressive du travail (cf. rapport du 25 juin 1998). Au vu de cette évaluation médicale, il existait donc un indice suffisant au dossier qu'une activité adaptée pouvait (et devait) être envisagée. C'est donc de manière contraire au droit que l'office AI a renoncé à examiner la question de l'exigibilité et s'est contenté de reprendre le taux d'incapacité de travail relatif à l'activité exercée antérieurement, telle qu'attestée par le docteur K._ le 9 juillet 1999. A ce stade de l'instruction, il ne se justifiait pas de fixer à 100% le degré d'invalidité du recourant, sans avoir vérifié si l'on pouvait exiger de lui qu'il exerçât, en tout ou partie, une activité adaptée à son atteinte à la santé. L'argumentation avancée à ce sujet par le recourant ne lui est d'aucun secours, puisqu'il se limite à alléguer que l'incapacité totale de travail dans une activité adaptée résulterait "des nombreux rapports médicaux figurant au dossier de l'AI" sans citer précisément une pièce médicale recueillie à l'époque déterminante de la décision du 19 juillet 1999.
4.2 Pour déterminer si le recourant était susceptible de travailler dans une activité adaptée à ses troubles de santé, la juridiction cantonale s'est référée aux conclusions du docteur H._ et à l'expertise du Centre X._. Elle a constaté que l'assuré avait conservé une capacité de travail de 50% dans une activité adaptée aux limitations fonctionnelles, telles que mises en évidence par les médecins. Il s'agit de constatations de fait (ATF 132 V 393 consid. 3.2 p. 398) dont le Tribunal fédéral ne peut s'écarter que si elles apparaissent manifestement inexactes ou contraires au droit (consid. 1.2 supra).
Tel n'est pas le cas au regard des griefs du recourant. On précisera, tout d'abord, que la juridiction cantonale était en droit de se référer à des évaluations médicales postérieures à la décision initiale du 16 novembre 1999, dans la mesure où l'état de santé de l'assuré ne s'est pas modifié de manière significative aux dires des médecins. Ainsi, dans son second rapport du 21 décembre 2005, le docteur H._ a indiqué qu'il ne retenait pas d'aggravation significative par rapport à la situation préalable, la capacité de travail résiduelle de 50% dans une activité adaptée étant toujours valable. Par la suite, les médecins du Centre X._ ont également nié l'existence d'une péjoration, en précisant qu'il leur était difficile d'un point de vue objectif et sur le plan somatique de retenir une aggravation objective de la symptomatologie depuis 2004 telle que déclarée par l'assuré.
Ensuite, les arguments avancés par le recourant à l'encontre de l'expertise judiciaire ne sont pas fondés. On ne voit pas en quoi l'évaluation du Centre X._ n'emporterait pas la conviction, parce que l'avis d'un neurorchirurgien "s'avérait indispensable d'un strict point de vue scientifique". Le recourant se limite à affirmer que sa problématique assécurologique relèverait principalement de considérations neurochirurgicales, sans démontrer que le spécialiste en neurologie dont les docteurs A._ et D._ se sont assuré les services n'avait pas été à même d'évaluer son état de santé selon les règles de l'art. A cet égard, la critique selon laquelle le docteur L._ n'a à tort pas effectué une imagerie dorso-lombaire par IRM n'est pas pertinente. Le neurologue a en effet expliqué de façon convaincante les raisons pour lesquelles une telle investigation n'était pas nécessaire, son avis rejoignant celui de ses confrères H._ (neurologue qu'avait consulté l'assuré en septembre 2004) et H._. Quoi qu'en dise, par ailleurs, le recourant, les observations du docteur L._ sur sa capacité à se maintenir dans une même position pendant un certain laps de temps constituent un élément parmi bien d'autres pour décrire le comportement de l'assuré et ses impressions à son égard; elles n'ont du reste pas le caractère négatif dont le recourant entend en vain tirer un motif de prévention. De plus, dès lors que l'expertise judiciaire apparaissait pleinement convaincante pour se prononcer sur la situation de l'assuré, la juridiction cantonale n'avait pas à ordonner l'instruction complémentaire qu'il requérait. Le grief tiré d'une violation du droit d'être entendu ne peut, par conséquent, être admis.
4.3 En ce qui concerne la comparaison des revenus nécessaire pour déterminer le taux d'invalidité du recourant, celui-ci relève l'absence de motivation du revenu avec invalidité (dont les données de référence sont indiquées dans un document "Détail de calcul du salaire exigible" de l'intimé du 16 janvier 2007). Il n'en tire cependant pas un grief concret, ni ne conteste le chiffre retenu par l'intimé et, à sa suite, la juridiction cantonale. Il ne se justifie dès lors pas, au regard des exigences relatives aux motifs du recours (supra consid. 1.2) d'examiner plus précisément ce point.
Quant aux critiques du recourant relatives à l'abattement effectué par l'intimé (de 10%) sur le salaire avec invalidité (et non sur le revenu de valide comme il l'indique de manière erronée), elles ne démontrent pas en quoi l'administration et la juridiction cantonale auraient commis un excès positif ou négatif de leur pouvoir d'appréciation ou auraient abusé de celui-ci (voir ATF 132 V 393 consid. 3.3 p. 399 et 126 V 75). On ne voit notamment pas, à la lumière de l'argumentation du recourant, que l'une ou l'autre circonstance pertinente aurait été mésestimée ou, à tout le moins, appréciée de manière manifestement insoutenable, l'âge de 48 ans qu'il mentionne ne pouvant être qualifié de "relativement avancé" et ses limitations fonctionnelles ayant été prises en compte dans l'abattement litigieux.
En conséquence, il n'y a pas lieu de s'écarter du taux d'invalidité de 58% retenu par l'office AI et confirmé implicitement par la juridiction cantonale, lequel justifiait la reconsidération, dans le sens d'une diminution de la rente entière à une demi-rente d'invalidité, de la décision initiale.
Le recours se révèle, partant, mal fondé en tous points.
5. Vu l'issue du litige, les frais judiciaires doivent être supportés par le recourant, qui succombe (art. 66 al. 1 première phrase LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Le recours est rejeté.
3. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal cantonal du canton de Vaud, à l'Office fédéral des assurances sociales.
Lucerne, le 19 juillet 2011
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Moser-Szeless