Faits :
A.
A.a. A la suite d'un accident subi le 23 août 2006, au cours duquel un objet lourd est tombé sur sa main et son poignet gauches, A._, né en 1964 et maçon de profession, a présenté une demande de prestations de l'assurance-invalidité le 6 décembre 2007. Par décision du 20 juillet 2009, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) a rejeté la demande. Ce prononcé a été confirmé sur recours de l'assuré par le Tribunal cantonal du canton de Vaud, Cour des assurances sociales, le 26 septembre 2011.
A.b. Entre-temps, A._ s'est à nouveau adressé à l'assurance-invalidité, en vue d'obtenir une allocation pour impotent (demande du 18 mai 2011) ainsi que des moyens auxiliaires et une rente d'invalidité (demande du 28 mars 2012, précisée le 11 avril suivant). Le docteur B._, spécialiste en psychiatrie et psychothérapie, du Département de psychiatrie de l'Hôpital C._, a mentionné plusieurs hospitalisations en milieu psychiatrique ainsi qu'une péjoration de l'état psychique de l'assuré (rapport du 21 mai 2012). L'office AI a recueilli des renseignements médicaux complémentaires, puis nié le droit de l'assuré à une rente (décision du 14 janvier 2013) et à une allocation pour impotent (décision du 16 janvier 2013).
Après que le Tribunal cantonal vaudois, Cour des assurances sociales, a annulé la décision du 14 janvier 2013 et renvoyé la cause à l'administration pour instruction complémentaire (jugement du 11 novembre 2013), l'office AI a notamment soumis l'assuré à une expertise pluridisciplinaire auprès du Centre d'Expertise médicale (CEMed) de Nyon. Dans leur rapport du 12 juin 2016, les docteurs D._, spécialiste en médecine interne générale, E._, spécialiste en médecine physique et réadaptation et en rhumatologie, et F._, spécialiste en psychiatrie et psychothérapie, ont conclu à une capacité de travail nulle dans l'activité de maçon mais complète dans une activité adaptée, avec une diminution de rendement de 20 %. Fort de ces conclusions, l'office AI a derechef nié le droit de l'assuré à une rente de l'assurance-invalidité, le 23 février 2017.
B.
Saisi d'un recours de A._ contre cette décision, qui a produit notamment un rapport du Département de psychiatrie de l'Hôpital C._ du 20 mars 2017 concernant une nouvelle hospitalisation (du 29 décembre 2016 au 31 janvier 2017), le Tribunal cantonal vaudois, Cour des assurances sociales, a confié une expertise au docteur G._, spécialiste en psychiatrie et psychothérapie, qui s'est adjoint l'aide de la doctoresse H._, également spécialiste en psychiatrie et psychothérapie au service du Département de psychiatrie de l'Hôpital C._. Dans leur rapport du 23 décembre 2019, les experts ont diagnostiqué un trouble dépressif récurrent, épisode actuel moyen avec syndrome somatique, et un trouble douloureux somatoforme persistant, qui entraînaient une incapacité de travail entière dans toute activité. Par jugement du 26 mai 2020, la juridiction cantonale a réformé la décision de l'office AI du 23 février 2017 en ce sens que l'assuré a droit à une rente entière de l'assurance-invalidité dès le 1er septembre 2012.
C.
L'office AI interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation, en concluant principalement à la confirmation de sa décision du 23 février 2017. A titre subsidiaire, il conclut à ce que la cause soit renvoyée à la juridiction cantonale pour instruction complémentaire sous la forme d'une nouvelle expertise puis nouveau jugement. Il requiert préalablement l'octroi de l'effet suspensif à son recours.
Considérant en droit :
1.
Le recours en matière de droit public peut être formé notamment pour violation du droit fédéral (art. 95 let. a LTF), que le Tribunal fédéral applique d'office (art. 106 al. 1 LTF). Il statue par ailleurs sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). Le recourant qui entend s'en écarter doit expliquer de manière circonstanciée en quoi les conditions de l'art. 105 al. 2 LTF sont réalisées sinon un état de fait divergent ne peut pas être pris en considération.
2.
En instance fédérale, le litige porte sur le droit de l'intimé à une rente entière d'invalidité à partir du 1er septembre 2012, reconnu par la juridiction cantonale et remis en cause par l'office recourant. Compte tenu des motifs et conclusions du recours, il s'agit en particulier d'examiner si la juridiction cantonale était en droit de se fonder sur l'expertise des docteurs G._ et H._ pour retenir une aggravation de l'état de santé de l'intimé depuis la décision administrative du 20 juillet 2009 (en relation avec la constatation d'une incapacité totale de travail de l'assuré dès fin 2011 [date correspondant aux premières hospitalisations pour crises sévères]).
A cet égard, le jugement entrepris expose de manière complète les dispositions légales et les principes jurisprudentiels relatifs à la notion d'invalidité (art. 8 LPGA et art. 4 LAI) et à son évaluation (art. 16 LPGA et art. 28a LAI), en particulier s'agissant du caractère invalidant de troubles psychiques (ATF 143 V 409 consid. 4.5 p. 415; 143 V 418 consid. 6 et 7 p. 426; 141 V 281), ainsi que ceux sur la valeur probante des rapports médicaux (ATF 134 V 231 consid. 5.1 p. 232; 125 V 351 consid. 3 p. 352). Il suffit d'y renvoyer.
3.
Invoquant une appréciation arbitraire des preuves et une violation du droit fédéral en découlant, l'office AI reproche à la juridiction cantonale d'avoir reconnu valeur probante à l'expertise judiciaire, en exposant plusieurs incohérences et défauts des conclusions médicales qui auraient justifié de s'en écarter. En particulier selon lui, l'expertise judiciaire ne permettait pas de retenir l'existence d'une aggravation sensible de l'état de santé depuis juillet 2009.
3.1. Dans la mesure où le recourant indique tout d'abord se rallier à l'avis du SMR du 14 janvier 2020, produit en instance cantonale, sur les arguments duquel il regrette que les premiers juges ne se soient pas déterminés, on rappellera que le simple renvoi à des documents du dossier ne constitue pas une motivation du recours topique ou suffisante au sens de l'art. 42 LTF (ATF 123 V 335 consid. 1a p. 336 et les références; cf. aussi arrêt 9C_31/2009 du 27 février 2009 consid. 4). Par ailleurs, le recourant ne tire aucun motif concret du fait que les premiers juges ne se seraient pas déterminés sur le rapport du SMR, voire sur les griefs invoqués sur cette base en première instance. Dès lors que les griefs de violation des droits fondamentaux - dont la garantie du droit d'être entendu prévue par l'art. 29 al. 2 Cst. - sont soumis à des exigences de motivation accrues (art. 106 al. 2 LTF), que le recours ne remplit pas, il n'y a pas lieu de l'examiner sous cet angle.
3.2. En ce qui concerne l'expertise critiquée, quoi qu'en dise le recourant, elle comprend suffisamment d'éléments observés par les docteurs G._ et H._ pour motiver leurs diagnostics, puisqu'ils ont fait état notamment d'une agitation psychomotrice, d'une labilité émotionnelle importante, d'une thymie triste et des affects concordants aux propos de l'assuré, d'une irritabilité majeure avec la présence de troubles du comportement. Par ailleurs, il ne suffit pas de relever de façon isolée l'une ou l'autre description du comportement de l'assuré donnée par les experts ("discours joyeux", fréquentation régulière d'un café, activité de regarder la télévision) ou une prétendue incohérence en relation avec des gestes auto- et hétéro-agressifs et d'en tirer une conclusion différente de celle des experts pour remettre en cause leur évaluation (cf. sur les motifs pour s'écarter d'une expertise judiciaire, ATF 135 V 465 consid. 4.4 p. 469 et les références). De plus, s'agissant du caractère "démesuré", selon le recourant, des douleurs dont s'est plaint l'assuré par rapport aux lésions organiques, les experts y ont précisément vu un des critères diagnostiques du syndrome douloureux somatoforme persistant ("symptomatologie douloureuse non explicable entièrement par les lésions organiques objectivées", F 45.4 CIM-10). La critique de l'office AI n'apparaît dès lors pas pertinente.
A l'inverse de ce qu'affirme ensuite le recourant, les experts ont indiqué quelles limitations fonctionnelles présentait le recourant et justifiaient une incapacité totale de travail à leurs yeux. Ils ont retenu une capacité de concentration, d'attention, d'organisation, de mobilité et de gestion émotionnelle considérablement réduite, et mis en évidence que l'absence de quelque capacité adaptative que ce soit dans tout cadre de travail était due à la problématique psychique ("vulnérabilités psychiques décrites"). En outre, ils ont pris position sur le "traitement en cours", sans que le recourant n'expose en quoi l'absence de davantage de précisions sur ce point mettrait en cause les conclusions des experts.
3.3. En tant que le recourant reproche ensuite à la juridiction cantonale d'avoir statué sur le droit à la rente comme s'il s'agissait d'une première demande, sa critique est mal fondée. En rappelant les règles applicables en matière de nouvelle demande de rente après un refus de la part de l'organe d'exécution de l'assurance-invalidité, les premiers juges ont en effet considéré qu'il leur appartenait d'examiner l'éventuelle évolution négative de l'état de santé de l'assuré. On peut ensuite déduire du fait qu'ils ont repris les conclusions de l'expertise quant à une accentuation de la péjoration de l'état de santé psychique depuis 2008, puis une aggravation majeure en 2011, que les juges cantonaux ont admis l'évolution négative constatée par les médecins, qu'ils ont associée à la perte de toute capacité de travail à partir de fin 2011. En se limitant à cet égard à affirmer ne pas disposer "d'éléments médicaux nouveaux en faveur d'une aggravation à un moment donné", le recourant n'établit pas que la juridiction cantonale aurait admis de manière arbitraire l'aggravation en cause. Contrairement à ce qu'il prétend, les conclusions de l'expertise judiciaire sur ce point mettent en évidence une telle péjoration progressive et ne relèvent pas d'une nouvelle appréciation d'un état de fait qui serait resté inchangé. Les experts ont en particulier indiqué que le degré de gravité de la symptomatologie dépressive avait évolué de façon négative en mentionnant les éléments sur lesquels s'appuyait leur évaluation, alors qu'un syndrome somatoforme douloureux s'y était ajouté et que la situation était figée depuis plus d'une dizaine d'années, l'assuré ne disposant plus des "moyens psychiques" pour faire face à cette fixation. L'argumentation du recourant apparaît au demeurant contradictoire, dans la mesure où il indique que le SMR avait constaté une péjoration de la situation.
3.4. C'est en vain que le recourant se réfère ensuite à l'absence de commentaire des experts à l'égard des "examens psychiatriques ayant pris place en 2014 et 2016". Dans la mesure où sont visées les évaluations du docteur I._, spécialiste en psychiatrie et psychothérapie, du 17 novembre 2014 et du docteur D._ du CEMed du 12 juin 2016, on constate que leurs confrères G._ et H._ en avaient connaissance. Ils s'y réfèrent quant aux circonstances de leur intervention en qualité d'experts, en mentionnant que la décision de refus de prestation de l'office AI était fondée sur les expertises précédentes. Il ressort par ailleurs du rapport du 23 décembre 2019, qu'en fonction de leur examen de l'assuré et de leur appréciation de l'ensemble des pièces médicales, les experts sont arrivés à la conclusion que l'intimé présentait des atteintes psychiques entraînant des limitations fonctionnelles, départageant ainsi les avis opposés du psychiatre du CEMed, d'un côté, et des autres psychiatres consultés par l'assuré, de l'autre. Le recourant ne s'en prend du reste pas sérieusement aux considérations des premiers juges sur la nécessité d'ordonner une expertise judiciaire, selon lesquelles le rapport du docteur I._ était dépourvu de valeur probante, alors que les conclusions du CEMed sur le plan psychiatrique apparaissaient douteuses au regard des crises subies par l'assuré et des avis médicaux y relatifs. L'office AI n'expose pas à cet égard, avec une argumentation précise et motivée, en quoi le choix de ne pas suivre les conclusions des "experts du CEMED" relèverait de l'arbitraire.
3.5. En conséquence, au regard des griefs du recourant, il n'y a pas lieu de s'écarter de l'appréciation de la juridiction cantonale selon laquelle, compte tenu de l'ensemble des éléments mis en évidence par les experts judiciaires, la capacité de travail de l'intimé était nulle depuis fin 2011 en raison des répercussions fonctionnelles des atteintes à la santé psychique diagnostiquées.
Le recours est mal fondé et la demande d'effet suspensif qui l'assortit est sans objet.
4.
Vu l'issue de la procédure, l'office recourant, qui succombe, doit supporter les frais judiciaires (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 11 septembre 2020
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Juge présidant : Meyer
La Greffière : Perrenoud