Faits : A. Par décision du 25 janvier 2019, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) a fixé à 2120 fr. le montant mensuel de la rente ordinaire d'invalidité de A._ allouée dès le 1 er février 2019. B. Le 1 er mars 2019, A._ a déféré cette décision devant le Tribunal cantonal du canton de Vaud, Cour des assurances sociales. Il a en substance allégué une violation de son droit d'être entendu, en ce que dite décision ne lui permettait pas de se déterminer sur le calcul du montant de la rente d'invalidité. Il a conclu à être autorisé à se déterminer sur le montant de cette rente une fois que les pièces permettant de le vérifier lui auront été remises, et à ce que le montant de la rente soit arrêté à un montant supérieur à 2120 fr. Après que l'administration a fourni des explications concernant le calcul du montant de la rente (réponse et duplique de l'office AI des 30 avril et 24 juin 2019 et prises de position de la Caisse cantonale vaudoise de compensation AVS [ci-après: la caisse de compensation] des 23 avril et 18 juin 2019, notamment), A._ a indiqué que la cause était devenue sans objet; il en a requis la radiation du rôle, sans frais (correspondance du 13 septembre 2019). Par jugement du 20 septembre 2019, la juridiction cantonale a rayé la cause du rôle par suite de retrait du recours, mis à la charge de A._ les frais judiciaires, qu'elle a arrêtés à 400 fr., et nié son droit à des dépens. C. A._ interjette un recours en matière de droit public contre ce jugement, en concluant principalement à sa réforme en ce sens que l'office AI est tenu de lui allouer une indemnité de dépens. Subsidiairement, il requiert l'annulation du jugement entrepris et le renvoi de la cause à l'instance cantonale pour nouvelle décision au sens des considérants.