Faits :
A.
Par décision du 25 janvier 2019, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) a fixé à 2120 fr. le montant mensuel de la rente ordinaire d'invalidité de A._ allouée dès le 1 er février 2019.
B.
Le 1 er mars 2019, A._ a déféré cette décision devant le Tribunal cantonal du canton de Vaud, Cour des assurances sociales. Il a en substance allégué une violation de son droit d'être entendu, en ce que dite décision ne lui permettait pas de se déterminer sur le calcul du montant de la rente d'invalidité. Il a conclu à être autorisé à se déterminer sur le montant de cette rente une fois que les pièces permettant de le vérifier lui auront été remises, et à ce que le montant de la rente soit arrêté à un montant supérieur à 2120 fr. Après que l'administration a fourni des explications concernant le calcul du montant de la rente (réponse et duplique de l'office AI des 30 avril et 24 juin 2019 et prises de position de la Caisse cantonale vaudoise de compensation AVS [ci-après: la caisse de compensation] des 23 avril et 18 juin 2019, notamment), A._ a indiqué que la cause était devenue sans objet; il en a requis la radiation du rôle, sans frais (correspondance du 13 septembre 2019). Par jugement du 20 septembre 2019, la juridiction cantonale a rayé la cause du rôle par suite de retrait du recours, mis à la charge de A._ les frais judiciaires, qu'elle a arrêtés à 400 fr., et nié son droit à des dépens.
C.
A._ interjette un recours en matière de droit public contre ce jugement, en concluant principalement à sa réforme en ce sens que l'office AI est tenu de lui allouer une indemnité de dépens. Subsidiairement, il requiert l'annulation du jugement entrepris et le renvoi de la cause à l'instance cantonale pour nouvelle décision au sens des considérants.

Considérant en droit :
1.
Le recours contre une décision portant sur l'allocation des dépens en instance cantonale est soumis à la même voie de droit que celle qui est ouverte contre la décision sur le fond du litige (<ref-ruling> consid. 3 p. 143), dans la mesure où aucune procédure spéciale n'est prévue (<ref-ruling> consid. 1.1 p. 160; cf. aussi arrêts 8C_761/2018 du 27 juin 2019 consid. 1; 9C_670/2015 du 7 janvier 2016 consid. 1). En l'espèce, la décision de radiation attaquée constitue une décision finale (<ref-law>), rendue dans une cause de droit public (<ref-law>) par une autorité cantonale de dernière instance (art. 86 al. 1 let. d LTF) et qui ne tombe pas sous le coup d'une exception de l'<ref-law>. Elle peut donc faire l'objet d'un recours en matière de droit public.
2.
Est seul litigieux le point de savoir si le recourant a droit à des dépens pour la procédure cantonale.
3.
3.1. La juridiction cantonale a considéré qu'en admettant le bien-fondé de la décision attaquée sur le fond, le recourant avait succombé. Partant, elle ne lui a pas alloué de dépens (art. 61 let. g LPGA).
3.2. Le recourant reproche en substance à la juridiction cantonale d'avoir établi les faits de manière manifestement inexacte et violé son droit d'être entendu (art. 29 al. 2 Cst. et <ref-law>), en ce qu'elle a nié que la décision du 25 janvier 2019 fût entachée d'un défaut de motivation, avec pour conséquence qu'elle n'a pas condamné l'office intimé à lui verser une indemnité de dépens.
4.
4.1. Le droit aux dépens dans la procédure devant le tribunal cantonal des assurances est réglé par l'art. 61 let. g LPGA. En vertu de cette disposition légale, le recourant qui obtient gain de cause a droit au remboursement de ses frais et dépens dans la mesure fixée par le tribunal; leur montant est déterminé sans égard à la valeur litigieuse d'après l'importance et la complexité du litige. Le point de savoir si et à quelles conditions une partie a droit à des dépens en instance cantonale de recours lorsqu'elle obtient gain de cause relève du droit fédéral et dépend, d'une part, de l'issue du litige et, d'autre part, de la personne de l'ayant droit (cf. <ref-ruling> consid. 3.2 p. 478; <ref-ruling> consid. 2.2 p. 115 et les arrêts cités).
Si la cause devient sans objet et doit être radiée du rôle, le tribunal doit statuer sur les frais de la procédure et les dépens en prenant essentiellement en considération, sur la base d'un examen sommaire, l'issue probable si un jugement avait dû être prononcé (<ref-ruling> consid. 8.2 p. 568; arrêt 8C_761/2018 précité consid. 2.2).
4.2. En l'espèce, on constate que la décision du 25 janvier 2019 contenait les éléments ayant servi de fondement à la caisse de compensation pour calculer le montant de la rente d'invalidité du recourant. Il y était mentionné: le revenu annuel moyen déterminant basé sur 24 années de cotisations, le nombre d'années prises en compte pour les tâches éducatives, la durée de cotisations de la classe d'âge, l'échelle de rente applicable et le nombre d'années de cotisations prises en compte pour déterminer celle-ci, ainsi que le taux d'invalidité du recourant. L'office intimé précisait que le recourant avait une lacune de cotisations pour l'année 1995 et l'invitait, pour le cas où il eût exercé une activité lucrative durant cette année, à lui transmettre les justificatifs y relatifs. Dès lors que la décision administrative contenait les motifs retenus par l'autorité et permettait au recourant de l'attaquer en toute connaissance de cause, la juridiction cantonale n'a pas violé l'art. 61 let. g LPGA ni violé le droit d'être entendu de l'assuré en considérant que la décision du 25 janvier 2019 n'était pas entachée d'un défaut de motivation (sur la motivation des décisions, cf., p. ex., <ref-ruling> consid. 3.2.1 p. 564).
4.3. Le recourant se réfère en outre à l'<ref-ruling> consid. 5.4.2 p. 404, selon lequel lorsqu'une demande - et par analogie aussi un recours - est la conséquence de la violation des règles en matière de droit d'être entendu, le recourant doit avoir la possibilité de la (le) retirer moyennant une indemnité de dépens. Or cette référence n'apparaît pas pertinente au motif déjà que l'office intimé n'a en l'espèce pas violé les obligations fixées par la jurisprudence en matière de droit d'être entendu (consid. 4.2 supra). Compte tenu de l'issue probable de la cause (rejet du recours) si un jugement avait dû être prononcé (consid. 4.1 supra), les considérations de la juridiction cantonale sur l'absence de droit du recourant à des dépens doivent être confirmées. Le recours est mal fondé.
5.
Le recourant, qui succombe, supportera les frais de la procédure (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 13 janvier 2020
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président : Parrino
La Greffière : Perrenoud