Faits:
A.
A._, ressortissant dpéruvien, est entré en Suisse en novembre 1981. Il a cotisé au régime suisse de sécurité sociale. Il a épousé en décembre 1994 B._, ressortissante britannique, établie et travaillant en Suisse depuis novembre 1973. S'il apparaît qu'il a exercé différentes activités lucratives en Suisse, tel n'est plus le cas depuis 1997, au moins.
Sollicitée, la Caisse cantonale vaudoise de compensation a alloué des rentes de vieillesse aux époux, à partir du 1er juillet 2009 pour l'épouse (décision du 5 juin 2009) et du 1er avril 2006 pour l'époux (décision du 12 juin 2009).
Compétente depuis l'installation du couple en Grande-Bretagne en juillet 2010, la Caisse suisse de compensation (ci-après: la caisse) a supprimé la rente de l'époux (décision du 13 juillet 2010 confirmée sur opposition le 5 octobre 2010). Elle soutenait qu'il n'en remplissait plus les conditions d'octroi dès lors qu'il était de nationalité péruvienne, qu'il ne résidait plus en Suisse et qu'il n'existait aucune Convention de sécurité sociale entre le Pérou et la Suisse.
B.
Saisi d'un recours de A._ qui invoquait une violation de dispositions procédant du droit de la sécurité sociale de l'Union européenne et concluait au maintien de sa rente malgré le transfert de son domicile dans un autre pays, le Tribunal administratif fédéral, Cour III, l'a admis (jugement du 8 octobre 2012).
C.
L'Office fédéral des assurances sociales (OFAS) interjette un recours en matière de droit public contre ce jugement. Il en demande l'annulation et conclut à la confirmation de la décision sur opposition.
A._ conclut au rejet sous suite de frais et dépens tandis que la caisse en propose l'admission.

Considérant en droit:
1.
Saisi d'un recours en matière de droit public (<ref-law>), le Tribunal fédéral exerce un pouvoir d'examen limité. Il applique le droit d'office (<ref-law>), y compris les traités internationaux conclus par la Suisse (<ref-law>), et statue sur la base des faits retenus par l'autorité précédente (<ref-law>). Il peut néanmoins rectifier ou compléter d'office l'état de fait du jugement entrepris si des lacunes ou des erreurs manifestes lui apparaissent d'emblée (<ref-law>).
2.
Le litige porte sur le droit à une rente de l'assurance-vieillesse et survivants suisse (AVS), en particulier sur le point de savoir si un rentier de l'AVS suisse de nationalité péruvienne, marié à une ressortissante britannique, peut continuer de percevoir sa rente lorsque le couple transfert son domicile en Grande-Bretagne.
3.
Le recourant reproche substantiellement à l'autorité précédente d'avoir considéré que, dans la mesure où il était marié à une citoyenne britannique ayant exercé une activité salariée en Suisse, l'assuré pouvait invoquer le Règlement (CEE) n° 1408/71 du Conseil du 14 juin 1971 relatif à l'application des régimes de sécurité sociale aux travailleurs salariés, aux travailleurs non salariés et aux membres de leur famille qui se déplacent à l'intérieur de la Communauté (RO 2004 121) conformément à ses art. 2 par. 1 et 1 let. f ainsi qu'à la jurisprudence européenne et, en particulier, se prévaloir des principes de non-discrimination et d'exportation des prestations prévus aux art. 3 par. 1 et 10 par. 1 dudit règlement.
4.
Compte tenu des griefs du recourant (cf. consid. 3) et de l'exigence de motivation prévue à l'<ref-law> (à ce propos, cf. <ref-ruling> consid. 2.2 p. 550; FLORENCE AUBRY GIRARDIN, in: Commentaire de la LTF 2009, n° 25 ad <ref-law>), il conviendra de déterminer si l'intimé entre dans le champ d'application personnel du règlement n° 1408/71.
4.1. Conformément à ce que les premiers juges ont correctement mentionné, le règlement n° 1408/71 vise - notamment - les travailleurs salariés qui sont ou ont été soumis à la législation d'un ou de plusieurs États membres et qui sont des ressortissants d'un de ces Etats, ainsi que les membres de leur famille (cf. art. 2 par. 1 du règlement). Il précise ce qu'il faut entendre par travailleur salarié (cf. art. 1 let. a du règlement) et par membre de la famille (cf. art. 1 let. f point i du règlement). On relèvera à cet égard que le ressortissant de l'Union européenne qui, ayant exercé une activité salariée en Suisse avant de rentrer dans son pays d'origine, perçoit une rente de l'AVS suisse est compris dans la catégorie des travailleurs salariés selon la jurisprudence fédérale (cf. <ref-ruling> consid. 4.2 p. 201; <ref-ruling> consid. 5.2.3 p. 245 s.) et que, si le travailleur salarié doit être ressortissant d'un Etat membre, apatride ou réfugié résidant sur le territoire d'un Etat membre pour relever du règlement n° 1408/71, aucune condition de nationalité n'est requise pour le membre de la famille d'un travailleur ressortissant communautaire pour que ce règlement lui soit applicable (à ce propos, cf. arrêt 9C_277/2007 du 12 février 2008 consid. 4.1 correctement cité par l'autorité précédente; voir aussi Bernard Teyssié, Code de droit social européen 2006, 6e éd. 2005, n° 1 ad art. 2 par. 1 du règlement n° 1408/71, p. 997).
4.2. Il est ainsi patent que, en tant que conjoint d'une citoyenne britannique ayant travaillé en Suisse, l'assuré doit être considéré comme un membre de la famille d'un travailleur issu d'un Etat membre de l'Union européenne ayant exercé une activité salariée en Suisse et pouvoir en principe se prévaloir des droits et systèmes de protection mis en place par le règlement n° 1408/71.
5.
5.1. Au titre de la protection dont peut bénéficier la personne à laquelle le règlement n° 1408/71 s'applique figurent les principes de non-discrimination et d'exportation des prestations (cf. par. 1 des art. 3 et 10 du règlement correctement cité par l'autorité précédente).
5.2. La jurisprudence européenne (sur l'étendue de la reprise de la jurisprudence européenne, cf. <ref-ruling> consid. 2 p. 55 s. et la référence) a cependant apporté des restrictions à la protection que le règlement n° 1408/71 confère aux membres de la famille selon la nature des droits invoqués.
5.2.1. La Cour de justice des Communautés européennes (ci-après: la CJCE; devenue entre-temps la Cour de justice de l'Union européenne) faisait une nette distinction entre les droits propres et les droits dérivés. Les droits propres du membre de la famille sont ceux que la législation du pays qui sert les prestations lui alloue indépendamment de tout lien de parenté avec le travailleur migrant alors que les droits dérivés sont ceux dont il bénéficie en qualité de membre de la famille du travailleur migrant (cf. <ref-ruling> consid. 5.2.2 p. 324 s.; arrêt 9C_348/2007 du 10 décembre 2007 consid. 4.3.1 in SVR 2008 IV n° 37 p. 125; voir également Silvia Bucher, Soziale Sicherheit, beitragsunabhängige Sonderleistungen und soziale Vergünstigungen: Eine europarechtliche Untersuchung mit Blick auf schweizerische Ergänzungsleistungen und Arbeitslosenhilfen, thèse Fribourg 2000, no 238, p. 102); peu importe que le risque se soit produit en la personne du travailleur migrant ou en celle du membre de sa famille (cf. Silvia Bucher, op. cit., no 259, p. 110). La distinction entre droits propres et droits dérivés a dans un premier temps eu pour effet d'exclure les membres de la famille d'un travailleur du principe de l'égalité de traitement prévue à l'art. 3 par. 1 du règlement n° 1408/71 dans la mesure où les membres de la famille et les survivants ne pouvaient prétendre qu'aux droits dérivés mais pas aux droits propres (cf. arrêt de la CJCE du 23 novembre 1976, C-40/76 Kermaschek, Rec. 1976 1669; <ref-ruling> consid. 5.2.2 p. 192).
5.2.2. Par la suite, la CJCE a limité la portée de la jurisprudence Kermaschek dans son arrêt du 30 avril 1996 C-308/93 Cabanis-Issarte, Rec. 1996 I-2097. Sur la base du constat que la distinction entre droits propres et droits dérivés risquait d'avoir pour conséquence de porter atteinte à l'exigence fondamentale de l'ordre juridique communautaire que constitue l'uniformité d'application des règles en faisant dépendre leur applicabilité aux particuliers de la qualification de droit propre ou de droit dérivé donnée par la législation nationale applicable aux prestations en cause au regard des particularités du régime interne de sécurité sociale (cf. point 31), elle a admis que les membres de la famille d'un travailleur migrant pouvaient invoquer directement le principe de l'égalité de traitement prévu à l'art. 3 par. 1 du règlement n° 1408/71 (cf. point 44), même en relation avec leurs droits propres (cf. points 33 et 34). Contrairement à ce que soutient le recourant, si le contexte de l'arrêt Cabanis-Issarte (périodes d'assurance et fixation des cotisations) est certes différent de celui du cas particulier (exportation des prestations), il n'en demeure pas moins que la CJCE en a déduit un principe général (cf. point 34) applicable notamment au cas particulier. Il apparaît concrètement que les membres de la famille d'un travailleur migrant possèdent le droit originaire à un traitement égal en ce qui concerne toutes les prestations qui, par leur nature, ne sont pas exclusivement dues aux travailleurs, comme les prestations de chômage par exemple (dans ce sens, cf. notamment ROSE LANGER, in: Kommentar zum Europäischen Sozialrecht, Maximilian Fuchs [Hrsg.], 4e éd., Baden-Baden 2005, n° 17 ad art. 42 du Traité instituant la Communauté européenne, p. 62). La CJCE a en outre considéré que l'impossibilité pour le conjoint d'un travailleur - qui après avoir accompagné celui-ci dans une autre État membre déciderait de retourner dans son Etat d'origine avec ce travailleur - de se prévaloir de la règle de l'égalité de traitement pour l'octroi de certaines prestations prévues par la législation du dernier Etat d'emploi aurait des répercussions négatives sur la libre circulation des travailleurs dans le cadre de laquelle s'inscrit la réglementation communautaire relative à la coordination des législations nationales de sécurité sociale. Selon elle, il serait en effet contraire au but et à l'esprit de cette réglementation de priver le conjoint d'un travailleur migrant du bénéfice du principe de non-discrimination pour la liquidation de prestations de vieillesse auxquelles il aurait pu prétendre dans des conditions d'égalité de traitement avec les nationaux s'il était resté dans l'Etat d'accueil (cf. point 30; dans ce sens, voir également TEYSSIÉ, op. cit., n° 4 ad art. 3 par. 1 du règlement n° 1408/71, p. 1000).
5.3. En résumé, compte tenu du but et de l'esprit de la réglementation communautaire en matière de sécurité sociale et de la nécessité d'appliquer cette dernière de manière uniforme, il y a lieu de considérer que, hormis les cas où il ressort du règlement n° 1408/71 qu'on est en présence d'une prestation dont seul le travailleur peut revendiquer le bénéfice sur une base non discriminatoire, les membres de la famille doivent se voir appliquer la législation de sécurité sociale de l'Etat d'emploi du travailleur dans les mêmes conditions que les nationaux de celui-ci.
6.
Compte tenu de ce qui précède et dans la mesure où la Suisse ne fait pas obstacle au versement à l'étranger d'une rente AVS pour ses ressortissants (cf. art. 18 al. 1 et 2 LAVS), l'intimé peut demander à être traité de façon non discriminatoire et à percevoir sa rente en Grande-Bretagne. Peu importe que, comme le mentionne le recourant, le droit à une rente AVS suisse soit un droit propre. Par ailleurs, l'assuré est légitimé à requérir directement le bénéfice de l'art. 10 par. 1 du règlement n° 1408/71. Le recours doit donc être rejeté.
7.
Le recourant qui n'obtient pas gain de cause ne peut toutefois se voir imposer de frais judiciaires de sorte qu'il n'y a pas lieu d'en percevoir (art. 66 al. 1 et 4 LTF). L'intimé peut prétendre une indemnité de dépens à la charge du recourant (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est rejeté.
2.
Il n'est pas perçu de frais judiciaires.
3.
Le recourant versera à l'intimé la somme de 2'500 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
4.
Le présent arrêt est communiqué aux parties, à la Caisse suisse de compensation et au Tribunal administratif fédéral, Cour III.
Lucerne, le 12 juillet 2013
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Kernen
Le Greffier: Cretton