Faits :
A.
Par décision sur opposition du 17 juin 2014, la Caisse suisse de compensation (ci-après: la caisse de compensation) a alloué à A._ une rente ordinaire de vieillesse de 784 fr. par mois à partir du 1 er mai 2014.
L'assuré a contesté cette décision par courriel adressé à la caisse de compensation le 21 juillet 2014. Celle-ci a transmis ledit courriel au Tribunal administratif fédéral, Cour III, comme objet de sa compétence.
B.
Par ordonnance du 7 août 2014, la juridiction de première instance a constaté que l'écriture de l'intéressé ne contenait pas de signature manuscrite et lui a imparti un délai jusqu'au 15 septembre 2014 pour corriger ce vice sous peine d'irrecevabilité.
Par jugement du 20 octobre 2014, le Tribunal administratif fédéral a déclaré irrecevable le recours formé par A._ au motif que l'écriture n'avait pas été régularisée dans le délai imparti.
C.
L'assuré interjette un recours en matière de droit public contre ce jugement dont il requiert implicitement l'annulation. Il soutient avoir corrigé son recours le 14 août 2014. Il en dépose une copie accompagnée d'un justificatif postal.
L'administration conclut à l'admission du recours. Elle explique avoir reçu le courrier du 14 août 2014, signé, mais avoir omis de le transmettre à l'autorité compétente. L'Office fédéral des assurances sociales a renoncé à se déterminer.

Considérant en droit :
1.
Dirigé contre une décision finale d'irrecevabilité émanant du Tribunal administratif fédéral (cf. art. 90 et 86 al. 1 let. a LTF), le présent recours est recevable.
2.
Est litigieux le point de savoir si la juridiction de première instance était en droit de déclarer irrecevable le recours déposé par l'assuré auprès de la caisse de compensation le 21 juillet 2014 et corrigé le 14 août suivant.
3.
3.1. Aux termes de l'<ref-law>, les organes de mise en oeuvre des assurances sociales - dont la caisse de compensation - ont en principe l'obligation d'accepter les demandes, requêtes ou autres documents qui leur parviennent par erreur et de les transmettre à l'organe compétent (cf. également KIESER, ATSG-Kommentar, 2009, n° 13 ad <ref-law>). Selon l'<ref-law> en corrélation avec l'<ref-law>, lorsqu'une partie s'adresse en temps utile à un assureur incompétent, le délai est réputé observé. Ces dispositions sont l'expression d'un principe général du droit reconnu par la doctrine, consacré à maintes reprises par la jurisprudence, selon lequel une autorité administrative est tenue de transmettre au tribunal compétent un recours qui lui est transmis par erreur (cf. <ref-ruling> consid. 1 p. 74; arrêt H 73/95 du 27 avril 1995 consid. 3b et les références, in VSI 1995 p. 197; arrêt H 363/99 du 25 janvier 2000 consid. 3 et les références; arrêt 2C_603/2008 du 11 février 2009 consid. 3; 9C_867/2008 du 6 avril 2009 consid. 7); ce principe a été confirmé récemment (arrêt 4A_476/2014 du 9 décembre 2014 consid. 3.2 et 3.5, destiné à la publication).
3.2. En l'occurrence, l'assuré a produit à l'appui de son recours un justificatif postal qui attestait le dépôt dans le délai imparti par la juridiction de première instance d'un document adressé par erreur à la caisse de compensation intimée. Ce document - qui est un moyen de preuve nouveau pouvant cependant être invoqué devant le Tribunal fédéral selon l'<ref-law> (cf. BERNARD CORBOZ, in Commentaire de la LTF, 2 ème éd., n° 20 ad <ref-law> et les références jurisprudentielles citées) - correspondait au recours corrigé selon la demande du Tribunal administratif fédéral. Invitée à se déterminer, l'administration a admis avoir reçu ledit document mais ne pas l'avoir transmis à l'autorité compétente. En l'absence de réponse à sa requête, la juridiction de première instance a déclaré le recours irrecevable, solution à laquelle elle n'aurait pas pu parvenir si la pièce lui avait été correctement communiquée. En raison de la violation de l'obligation de transmission par la caisse de compensation, il convient donc d'annuler le jugement entrepris et de renvoyer la cause à l'instance inférieure pour qu'elle rende une nouvelle décision en tenant compte du recours du 21 juillet 2014 corrigé le 14 août suivant.
Le recours en matière de droit public se révèle ainsi bien fondé.
4.
Vu l'issue du litige, les frais judiciaires sont mis à la charge de la caisse de compensation intimée (cf. <ref-law>). Dans la mesure où il n'est pas représenté par un mandataire professionnel, l'assuré qui obtient gain de cause n'a pas droit à des dépens (cf. art. 68 al. 1 et 2 LTF; voir également <ref-ruling> consid. 4 p. 446).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis. La décision du Tribunal administratif fédéral du 20 octobre 2014 est annulée. La cause est renvoyée à la juridiction de première instance pour nouvelle décision dans le sens des considérants.
2.
Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de l'intimée.
3.
Le présent arrêt est communiqué aux parties, au Tribunal administratif fédéral, Cour III, et à l'Office fédéral des assurances sociales.
Lucerne, le 13 mars 2015
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
La Présidente : Glanzmann
La Greffière : Flury