Faits : A. A.a. A._ percevait des prestations complémentaires à une demi-rente de l'assurance-invalidité. Toutes les prestations ont été supprimées à compter du 1er mai 2001. Saisi d'un recours interjeté par l'assuré, le Tribunal des assurances du canton de Vaud (actuellement le Tribunal cantonal du canton de Vaud, Cour des assurances sociales) a confirmé la décision supprimant la demi-rente (jugement du 29 avril 2004). Saisi à son tour, le Tribunal fédéral des assurances a annulé ce jugement et a renvoyé la cause au tribunal cantonal pour complément d'instruction et nouveau jugement (arrêt I 574/04 du 6 avril 2006). La juridiction cantonale a procédé aux investigations commandées et, sur cette base, a reconnu le droit de l'intéressé à une rente entière à partir du 1er avril 2000 (jugement du 6 février 2007). Le tribunal cantonal a encore simultanément admis le recours interjeté par A._ contre la suppression des prestations complémentaires, annulé la décision attaquée et retourné la cause à la Caisse cantonale vaudoise de compensation AVS (ci-après: la Caisse de compensation) pour qu'elle en complète l'instruction et statue à nouveau (jugement du 6 février 2007). A.b. La Caisse de compensation a repris l'instruction. Elle a demandé à l'intéressé des renseignements indispensables au traitement du dossier. Les éléments requis ne lui ont été communiqués qu'après plusieurs sollicitations et imparfaitement. L'administration a aussi procédé à une enquête au domicile de l'assuré. Sur la base des informations réunies, la Caisse de compensation a nié le droit de l'intéressé à des prestations complémentaires. Elle a justifié son refus de prester par l'attitude de A._ (défaut de collaboration; émission de déclarations sciemment fausses) et le fait que la condition du domicile en Suisse n'était pas remplie (décision du 8 juillet 2008). L'administration a confirmé sa décision le 15 septembre 2008, malgré l'opposition de l'assuré. Saisie derechef, la juridiction cantonale a rejeté le recours de l'intéressé et confirmé la décision entreprise. Elle a constaté que celui-ci avait failli à son devoir de collaborer en dépit des avertissements qui l'enjoignaient de s'y conformer (jugement du 11 mai 2010). En dernière instance, le Tribunal fédéral a annulé l'acte attaqué ainsi que la décision de la Caisse de compensation. Il a considéré que le grave manquement au devoir de collaborer ne légitimait pas le refus pur et simple de prester et que l'administration devait statuer en l'état du dossier, au besoin après avoir opéré des compléments d'instruction n'occasionnant pas de complication particulière (arrêt 9C_505/2010 du 2 mai 2011). A.c. La Caisse de compensation a repris l'instruction à nouveau. Elle a requis et reçu de nombreux documents de la part de A._. Elle a aussi résumé les résultats et conclusions tirés de ses investigations dans des rapports de situation. Se basant sur les éléments rassemblés, l'administration a statué sur le droit de l'assuré à des prestations complémentaires pour la période du 1er mai 2001 au 31 décembre 2011 et pour celle postérieure (décisions du 31 août 2012). L'intéressé a formé opposition contre ces décisions. En cours de procédure, la Caisse de compensation a communiqué à A._ son intention de procéder à une reformatio in peius dès lors qu'un faisceau d'indices établissait à satisfaction qu'il n'était plus domicilié et ne résidait plus en Suisse. Elle lui a octroyé la possibilité de retirer son opposition. L'assuré n'y a pas donné suite, considérant que le faisceau d'indices n'était nullement convaincant. L'administration a finalement confirmé ses décisions relatives à l'octroi de prestations complémentaires pour la période courant de mai 2001 à décembre 2007. En revanche, elle a nié le droit de l'intéressé auxdites prestations à partir du 1er janvier 2008, en raison du défaut de domicile effectif et de résidence habituelle en Suisse, et a exigé la restitution de 55'277 fr. 85, versés indûment depuis la date à laquelle la suppression des prestations a pris effet (décision du 27 août 2013). B. A._ a recouru contre cette décision. Il en a requis la réforme, en ce sens qu'il devait bénéficier à compter du 1er mai 2001 sans limite de temps de prestations complémentaires - dont le montant dépendait du nombre différent selon les périodes de membres de la famille présents en Suisse à prendre en compte dans le calcul. Il en a en outre sollicité l'annulation en tant qu'elle exigeait le remboursement des 55'277 fr. 85. La juridiction cantonale a débouté l'assuré (jugement du 21 août 2014). C. A._ recourt contre ce jugement. Il en demande la réforme, en ce sens qu'il soit accédé à ses conclusions prises en première instance. Il en requiert subsidiairement l'annulation et conclut au renvoi du dossier à l'administration pour instruction complémentaire et nouvelle décision. Il produit aussi de nouveaux moyens de preuve.