Faits :
A.
A._, né en 1936 et marié, est au bénéfice d'une rente de l'assurance-vieillesse et survivants. Il séjourne depuis le mois de février 2016 à la Résidence B._ SA, établissement médico-social (EMS) sis à C._ et reconnu d'utilité publique. A partir du mois d'octobre 2016, la Caisse cantonale neuchâteloise de compensation (ci-après: la caisse) lui a alloué des prestations complémentaires d'un montant de 2'067 fr. par mois (décision du 12 septembre 2016). Le 12 décembre suivant, elle a lui a reconnu le droit à une allocation pour impotent de degré moyen dès le 1er janvier 2017.
Par décision du 24 novembre 2017, la caisse a demandé à A._ la restitution d'un montant de 6'468 fr. correspondant aux prestations complémentaires versées en trop du 1er janvier au 30 novembre 2017. En bref, elle a considéré que l'intéressé ne lui avait pas annoncé toucher une allocation pour impotent depuis janvier 2017, de sorte que cette prestation n'avait à tort pas été prise en considération dans le calcul des prestations complémentaires; aussi devait-elle reconsidérer "ses précédentes décisions" et fixer à nouveau les prestations en cause à 1'479 fr. par mois depuis le 1er janvier 2017, la différence d'avec les prestations versées devant être restituée par l'ayant droit. A la suite de l'opposition d'A._, la caisse a maintenu son point de vue par décision sur opposition du 29 mai 2018.
B.
Statuant le 4 janvier 2019 sur le recours formé par A._ contre la décision sur opposition, la Cour de droit public du Tribunal cantonal de la République et canton de Neuchâtel l'a admis et annulé les décisions des 29 mai 2018 et du 24 novembre 2017.
C.
Agissant par la voie du recours en matière de droit public, la caisse demande au Tribunal fédéral d'annuler le jugement cantonal et de confirmer la décision sur opposition du 29 mai 2018.
A._ conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales (OFAS) a renoncé à se déterminer.

Considérant en droit :
1.
Le recourant n'a pas qualité pour former un recours en matière de droit public contre le jugement entrepris dans la mesure où il concernerait des prestations complémentaires de droit cantonal (<ref-ruling>). Ces conclusions ne sont dès lors recevables qu'en tant qu'elles portent sur les prestations complémentaires fondées sur le droit fédéral.
2.
Le litige a trait à la restitution des prestations complémentaires que l'intimé aurait perçues à tort entre le 1er janvier et le 30 novembre 2017. Il porte singulièrement sur la prise en considération de l'allocation pour impotent octroyée à l'ayant droit dans le calcul des prestations complémentaires à partir du 1er janvier 2017.
2.1. Selon l'<ref-law>, les prestations indûment touchées doivent être restituées. La restitution ne peut être exigée lorsque l'intéressé était de bonne foi et qu'elle le mettrait dans une situation difficile. L'obligation de restituer les prestations accordées implique que soient réunies les conditions d'une reconsidération (cf. <ref-law>) ou d'une révision procédurale (cf. <ref-law>) de la décision par laquelle les prestations ont été accordées (<ref-ruling> consid. 5.2 p. 319 sv.). Conformément à l'<ref-law>, l'assureur peut revenir sur les décisions ou les décisions sur opposition entrées en force lorsqu'elles sont manifestement erronées et que leur rectification revêt une importance notable.
2.2.
2.2.1. La prestation complémentaire annuelle (<ref-law>) correspond à la part des dépenses reconnues qui excède les revenus déterminants (<ref-law>). Les allocations pour impotent des assurances sociales ne sont pas prises en compte (art. 11 al. 3 let. d LPC). Si la taxe journalière d'un home ou d'un hôpital comprend les frais de soins en faveur d'une personne impotente, l'allocation pour impotent de l'AVS, de l'AI, de l'assurance militaire ou de l'assurance-accidents sera prise en compte comme revenus (<ref-law> [RS 831.301]).
2.2.2. Selon l'art. 10 al. 2 let. a, première et deuxième phrases, LPC, pour les personnes qui vivent en permanence ou pour une longue période dans un home ou dans un hôpital (personnes vivant dans un home ou un hôpital), les dépenses reconnues comprennent la taxe journalière; les cantons peuvent fixer la limite maximale des frais à prendre en considération en raison du séjour dans un home ou dans un hôpital.
Selon l'art. 4 al. 1 let. a de la loi neuchâteloise d'introduction de la loi fédérale sur les prestations complémentaires à l'AVS et à l'AI du 6 novembre 2007 (RSN 820.30; LCPC), le Conseil d'Etat fixe pour les personnes qui vivent en permanence ou pour une longue période dans un home ou dans un hôpital les taxes journalières, soit les limites maximales des frais à prendre en considération en raison du séjour dans un home ou dans un hôpital. Il reconnaît les institutions qui seront considérées comme homes au sens de la LPC (art. 4 al. 4 LCPC).
Pour l'année 2017, le Conseil d'Etat de la République et canton de Neuchâtel a fixé à 122 fr. 80 la taxe d'hébergement dans les EMS, soit la limite maximale à prendre en considération en raison du séjour dans un tel établissement (art. 1 al. 1 de l'arrêté du 30 novembre 2016 fixant pour 2017 la taxe d'hébergement applicable aux personnes bénéficiant de PC/AVS/AI et séjournant dans un EMS ou une pension [publiée dans la Feuille officielle 48 du 2 décembre 2016]). Cette taxe est augmentée, en cas de séjour dans un EMS reconnu LAMal, de la participation au coût des soins à charge des résidents fixé dans l'arrêté y relatif (art. 1 al. 2).
2.2.3. L'art. 7 al. 2 de la loi de la République et canton de Neuchâtel sur le financement des établissements médico-sociaux du 28 septembre 2010 (RSN 832.20; LFinEMS), prévoit que l'autorisation d'exploiter permet de tenir compte, dans le cadre des dépenses reconnues pour les résidents au bénéfice des prestations complémentaires au sens de la LPC, de la taxe pour l'hébergement fixée par le Conseil d'Etat. Cette autorisation n'ouvre pas le droit pour un EMS de conclure un contrat de prestations (al. 2). Selon l'art. 14 al. 1 LFinEMS, la conclusion d'un contrat de prestations entraîne la reconnaissance d'utilité publique.
Selon l'art. 17 LFinEMS, les prestations individuelles sont celles dont bénéficie personnellement chaque résident (al. 1). Elles se composent des prestations socio-hôtelières, des prestations journalières LAMal et des prestations spécifiques. Les prestations socio-hôtelières comprennent toutes les prestations découlant de l'hébergement dans l'EMS, selon la liste dressée par le Conseil d'Etat (art. 18 al. 1 LFinEMS). Elles sont rémunérées sur la base d'un tarif cantonal unique établi sur la base de la dotation requise en personnel socio-hôtelier, sous réserve de la prestation journalière loyer (art. 18 al. 2 LFinEMS). Les prestations journalières LAMal représentent les soins dispensés au sens de l'<ref-law> (art. 20 al. 1 LFinEMS), tandis que les prestations spécifiques sont celles dont bénéficie le résident en supplément des prestations socio-hôtelières et des prestations journalières LAMal au sens des art. 18 à 20 (art. 21 al. 1 LFinEMS).
Le Règlement neuchâtelois provisoire d'exécution de la loi sur le financement des établissements médico-sociaux du 19 décembre 2012 (RSN 832.300; ci-après: le règlement d'exécution) a pour but de régler et de préciser les modalités de financement des établissements médico-sociaux (EMS) au bénéfice d'un contrat de prestations au sens de la LFinEMS (art. 1). Selon son art. 9 al. 1, les prestations socio-hôtelières comprennent: la prestation socio-hôtelière de base (let. a), le supplément pour chambre individuelle (let. b), la prestation journalière loyer (let. c), ainsi que le supplément majoration CCT Santé 21 ou le supplément majoration CGT (let. d). Pour autant qu'elles figurent dans le contrat de prestations, elles constituent le prix de pension journalier facturable aux résidents (art. 9 al. 2). Conformément à l'art. 10 du règlement, la prestation socio-hôtelière de base comprend toutes les prestations fournies aux résidents par les EMS, hormis celles spécifiquement réglées dans le présent règlement (al. 1). Elle est facturée au résident selon un montant forfaitaire journalier fixé de manière uniforme pour tous les EMS au bénéfice d'un contrat de prestations (al. 2). Le Conseil d'Etat fixe chaque année, par voie d'arrêté, le montant de la prestation socio-hôtelière journalière de base (al. 3).
Pour l'année 2017, le Conseil d'Etat de la République et canton de Neuchâtel a fixé le "prix de pension" pour l'EMS B._ à 157 fr. 60 pour une chambre à deux lits et à 172 fr. 60 pour une chambre à un lit (art. 1 let. a de l'arrêté fixant pour 2017 la liste et les tarifs des prestations pour les EMS et pensions au bénéfice d'un contrat de prestations au sens de la loi sur le financement des EMS [LFinEMS] du 30 novembre 2016, publié dans la Feuille officielle de la République et canton de Neuchâtel 48 du 2 décembre 2016, en relation avec la Liste des tarifs des Etablissements médico-sociaux du canton de Neuchâtel valables en 2017).
Toujours pour l'année 2017, la part à charge des résidents des tarifs journaliers des soins de longue durée au sens de l'<ref-law> dispensés en EMS a été fixée à 21 fr. 60 par jour pour les "autres degrés de soins" (supérieurs au degré de soins 3) par le Conseil d'Etat neuchâtelois (Annexe à l'arrêté fixant pour 2017 les tarifs des soins de longue durée au sens de l'article 25a LAMal dispensés en établissement médico-social [EMS] du 30 novembre 2016 [publiée dans la Feuille officielle 48 du 2 décembre 2016]).
3.
3.1. La juridiction cantonale a constaté que la taxe journalière de la Résidence B._ SA comprenait le prix de pension pour une chambre à un lit (de 172 fr. 60) par jour, augmenté de la participation de l'intimé au coût des soins (de 21 fr. 60 par jour) qui lui étaient dispensés à l'EMS et qui n'étaient pas couverts par l'assureur-maladie (cf. p. ex. facture de la Résidence B._ SA du 4 décembre 2017). Elle a retenu que la participation au coût des soins à charge du résident, qui était ajoutée à la taxe d'hébergement, était liée exclusivement à la reconnaissance LAMal de l'EMS dans lequel séjournait l'intéressé. Comprise, pour ce motif, dans la taxe journalière de tous les résidents de l'établissement en cause, cette participation aux frais de soins non couverts était donc totalement indépendante de l'impotence de l'ayant droit. Or pour qu'une allocation pour impotent fût prise en compte comme revenu dans le calcul de la prestation complémentaire, il fallait que les frais de soins dont il était question à l'<ref-law> fussent en relation avec l'impotence du bénéficiaire de l'allocation pour impotent. Dès lors que tel n'était pas le cas de la participation au coût des soins à charge du résident incluse dans la taxe journalière de la Résidence B._ SA, la caisse avait à tort compté dans le calcul de la prestation complémentaire valable dès le 1er janvier 2017 l'allocation pour impotent de l'intimé au titre de revenu déterminant et fixé nouvellement le montant de la prestation complémentaire à 1'479 fr. au lieu de 2'067 francs.
En conséquence, selon les premiers juges, il n'y avait pas non plus lieu de considérer que l'assuré avait violé son obligation de renseigner en n'informant pas la caisse de l'octroi en sa faveur d'une allocation pour impotent; l'administration lui avait à tort réclamé la restitution de prestations qu'il aurait indûment touchées de janvier à novembre 2017.
3.2. Invoquant une violation de l'<ref-law>, la recourante reproche à la Cour cantonale de n'avoir pas examiné si la taxe journalière du home, sans la participation aux coûts des soins, tenait compte des frais liés à l'impotence de l'intimé. Tel était le cas selon elle, puisque l'allocation pour impotent n'était pas mentionnée comme prestation spécifique pouvant être facturée en sus du montant forfaitaire journalier relatif à la prestation socio-hôtelière et de la participation aux coûts des soins prévues par le règlement d'exécution. Comme l'EMS dans lequel résidait l'intimé lui prodiguait les soins et l'aide nécessaires, notamment en lien avec son impotence, le prix de pension facturé comprenait les prestations fournies en raison de l'impotence, sans toutefois que le home ne les lui facturât séparément. Pour éviter une inégalité de traitement entre les résidents au bénéfice d'une allocation pour impotent et ceux n'en bénéficiant pas, cette allocation devait être prise en considération comme revenu pour le calcul de la prestation complémentaire, à défaut de quoi il en résulterait un enrichissement des premiers.
3.3. L'intimé fait valoir qu'il paie 21 fr. 60 en plus de la taxe journalière de l'EMS, en raison des minutes de soins (degré OPAS D à L) que requiert son impotence "de degré modéré". La taxe journalière de l'EMS ne comprend donc pas les soins en lien avec l'impotence puisqu'ils sont facturés séparément. Par conséquent, l'allocation pour impotent ne devrait pas être prise en compte comme revenu au sens de l'<ref-law>. Il ne saurait par ailleurs y avoir une inégalité de traitement entre les résidents puisqu'ils paient un montant en sus de la taxe journalière selon leur degré d'impotence ou, plus précisément, selon leur degré "OPAS". L'intimé soutient encore que le règlement d'exécution auquel se réfère la recourante n'est pas applicable aux EMS reconnu LAMal comme la Résidence B._ SA, de sorte qu'il ne saurait être question d'une violation du droit cantonal.
4.
4.1. L'introduction de l'exception au principe selon lequel l'allocation pour impotent n'est pas prise en compte dans le calcul des revenus déterminants pour fixer le montant de la prestation complémentaire remonte à l'entrée en vigueur, le 1er janvier 1987, de la deuxième révision de la loi du 19 mars 1965 sur les prestations complémentaires à l'assurance-vieillesse, survivants et invalidité du 19 mars 1965 (aLPC). Cette révision a entrainé des modifications de l'ordonnance du 15 janvier 1971 sur les prestations complémentaires à l'AVS/AI (OPC, puis OPC-AVS/AI; RS 831.301). En particulier, l'<ref-law> a été adapté pour régler le calcul des prestations complémentaires lorsqu'il s'agit de personnes demeurant dans des homes ou des établissements hospitaliers. Cette modification faisait suite à celle de l'art. 3 al. 4 let. e aLPC quant à la déduction des "frais de home" du revenu déterminant et de l'art. 3 al. 4bis, 2ème phrase, aLPC, selon lequel le Conseil fédéral précise notamment "les frais de home" qui peuvent être déduits (Modification de la LPC du 4 octobre 1985 [2e révision de la LPC], RO 1986 699).
Aux termes de l'<ref-law>, "si la taxe journalière du home ou de l'établissement hospitalier comprend également les frais de soins en faveur d'une personne impotente, l'allocation pour impotent de l'AVS, de l'AI ou de l'assurance-accidents ainsi que la contribution aux soins spéciaux au sens de l'art. 20, 1er alinéa, LAI seront ajoutées au revenu" (Modification de l'OPC du 16 juin 1986, entrée en vigueur le 1er janvier 1987; RO 1986 1204 s.). Selon les explications de l'OFAS, l'allocation pour impotent de l'assurance sociale est ajoutée au revenu si la taxe journalière du home comprend également les frais de soins. Lorsqu'un home facture séparément le montant de cette allocation, ces frais ne sont pas pris en compte, de même que l'allocation (Commentaires sur les modifications de l'OPC, in RCC 1986 p. 391 s.).
Ce n'est que lors de la troisième révision de la LPC, entrée en vigueur le 1er janvier 1998 (RO 1997 2952, 2960), que la compétence du Conseil fédéral de déterminer à quelles conditions les allocations pour impotent (alors de l'AVS ou de l'AI) doivent être prises en compte comme revenu a été expressément inscrite dans la loi (art. 3c al. 3 aLPC; Modification de la LPC du 20 juin 1997, RO 1997 2952, 2955 s.). Il s'agissait de maintenir l'exception au principe d'une non-prise en compte de l'allocation pour impotent à titre de revenu, qui reposait sur la compétence accordée par l'art. 3 al. 4bis aLPC au Conseil fédéral de préciser les frais de home qui pouvaient être déduits (Message du Conseil fédéral concernant la troisième révision de la LPC [3 e révision PC] du 20 novembre 1996; FF 1997 I 1137, ch. 221, p. 1154 et ch. 62, p. 1162). Cette compétence est désormais prévue à l'<ref-law>, tandis que les conditions de la prise en considération des allocations pour impotent des assurances sociales sont définies par l'<ref-law> (qui a repris la règle de l'<ref-law>-AVS/AI à la suite de la 3ème révision de la LPC [Modification de l'OPC-AVS/AI du 26 novembre 1997, entrée en vigueur le 1er janvier 1998; RO 1997 2952, 2964]).
4.2. L'allocation pour impotent est allouée aux personnes qui sont impotentes au sens de l'<ref-law>, soit celles qui, en raison d'une atteinte à la santé, ont besoin de façon permanente de l'aide d'autrui ou d'une surveillance personnelle pour accomplir des actes élémentaires de la vie quotidienne. Il s'agit d'une prestation en espèces dont le montant est déterminé en fonction des besoins personnels concrets d'aide et de surveillance déterminant le degré de gravité de l'impotence (léger, moyen ou grave; cf. <ref-law> et <ref-law>), indépendamment des coûts effectifs des prestations de tiers et de l'étendue réelle de ces prestations. L'allocation pour impotent a pour fonction de couvrir les coûts supplémentaires des prestations d'assistance nécessitées par l'impotence et ne sert pas à la couverture des besoins vitaux. Elle ne doit donc en principe pas être prise en considération à titre de revenu déterminant dans le calcul des prestations complémentaires. L'<ref-law> (en relation avec l'<ref-law>) prévoit cependant une exception à ce principe lorsque l'application de celui-ci conduirait en quelque sorte à une double couverture des coûts de l'impotence. Il s'agit des situations dans lesquelles les frais de l'assistance due à l'impotence entrent dans le calcul des prestations complémentaires en tant que dépenses reconnues au sens de l'<ref-law>. Tel est le cas pour une personne qui séjourne dans un home (au sens de la LPC) et bénéficie d'une allocation pour impotent, lorsque les coûts des prestations du home en raison de l'impotence surviennent de manière régulière et lui sont facturées - en tant que composante de la taxe journalière - de manière forfaitaire.
Pour la "taxe journalière" mentionnée à l'<ref-law>, aucune distinction n'est faite entre la part de la taxe journalière qui couvre les coûts des besoins vitaux et du logement et la part qui repose sur les prestations d'assistance liées à l'impotence. Si, dans une telle situation, l'allocation pour impotent n'était pas prise en compte comme revenu, les coûts de l'impotence seraient doublement couverts, premièrement par le biais de cette allocation et deuxièmement par le biais des prestations complémentaires, sur la base de la taxe journalière. Le but de l'<ref-law> est donc d'éviter un cumul indésirable de prestations: les prestations complémentaires sont "réduites" dans la mesure où l'allocation pour impotent de la personne résidant dans un home est comptée comme revenu, lorsque la taxe journalière doit également couvrir les coûts des prestations d'assistance nécessaires liées à l'impotence (sur l'ensemble de la question, RALPH JÖHL/PATRICIA USINGER-EGGER, Ergänzungsleistungen zur AHV/IV, in Soziale Sicherheit, SBVR vol. XIV, 3 ème éd. 2016, p. 1917 n° 230). Du moment que les coûts pour les soins de la personne impotente sont compris dans la taxe journalière du home, l'allocation pour impotent doit être prise en considération en tant que revenu (STEFAN WERLEN, Der Anspruch auf Ergänzungsleistungen und deren Berechnung, 1995, p. 238 s.).
5.
5.1. Selon les constatations de la juridiction cantonale, les coûts facturés par la Résidence B._ SA à l'intimé se composent du prix de pension pour une chambre à un lit à hauteur de 172 fr. 60 par jour et de la participation au coût des soins non couverts par l'assurance-maladie (de 21 fr. 60 par jour). Sur la facture du 4 décembre 2017, ces deux postes sont inclus dans la rubrique "Journées", tandis que s'y ajoutent - pour le mois de décembre 2017 - des "Frais facturables" (pour les services de coiffure à hauteur de 20 fr.), alors que la rubrique "Déductions" comprend les "Aides individuelles Résidant chambre simple" (pour 49 fr. 80).
Pour le calcul des prestations complémentaires de l'intimé à partir du 1er janvier 2017, la recourante a tenu compte au titre de dépenses reconnues, d'une part, de la taxe du home à hauteur de 122 fr. 80 par jour, ainsi que de la participation aux soins de 21 fr. 60 par jour, et, d'autre part, des dépenses personnelles à hauteur de 3'300 fr. pour une année. La taxe journalière au sens de l'<ref-law> correspondait ainsi au montant maximal prévu par la législation cantonale (de 144 fr. 40; supra consid. 2.2.2 in fine et 2.2.3).
C'est le lieu de préciser d'emblée que l'argumentation de l'intimé selon laquelle le règlement d'exécution (supra consid. 2.2.3) ne s'appliquerait pas au home B._ SA, parce qu'il s'agit d'un "EMS reconnu LAMal" n'est pas fondée. Selon les constatations de la juridiction cantonale, l'EMS a été reconnu d'utilité publique, ce qui suppose la conclusion d'un contrat de prestations avec l'Etat neuchâtelois (art. 14 LFinEMS), précisément lié à la condition que l'EMS bénéficie de la reconnaissance LAMal (art. 12 al. 1 let. b LFinEMS).
5.2. En ce qui concerne tout d'abord le montant journalier de 21 fr. 60, on ne saurait entièrement suivre la juridiction cantonale et la recourante, lorsqu'elles affirment de manière péremptoire que la participation aux coûts des soins à charge de la personne assurée au sens de l'<ref-law> est "indépendante de l'impotence du recourant".
5.2.1. Depuis l'introduction du nouveau régime de financement des soins, le 1er janvier 2011 (Loi fédérale du 13 juin 2008 sur le nouveau régime de financement des soins [RO 2009 3517]), les assureurs-maladie prennent en charge une partie des coûts des prestations de soins fournis par les EMS à hauteur d'un forfait déterminé en fonction du besoin en soins du résident (art. 25a al. 1 et 3 LAMal en relation avec les <ref-law>, art. 7 al. 1 let. c et al. 2 et <ref-law>). Les assureurs-maladie doivent verser 9 fr. par jour pour 20 minutes de soins, soit 108 fr. au maximum (niveau 12 de soins "plus de 220 minutes de soins requis"). Conformément à l'<ref-law> (dans sa version en vigueur jusqu'au 31 décembre 2018), seul au maximum 20 % de ce montant, soit 21 fr. 60 par jour (20 % de 108 fr.), peuvent être facturés aux résidents au titre des soins définis à l'<ref-law>; il incombe aux cantons de régler le financement résiduel des soins (sur ce point, <ref-ruling>).
Les soins prévus par l'<ref-law> comprennent aussi les "soins de base généraux pour les patients dépendants, tels que (...) aider aux soins d'hygiène corporelle et de la bouche, aider le patient à s'habiller et à se dévêtir, ainsi qu'à s'alimenter." (art. 7 al. 2 let. c OPAS). Or ce type de soins, à l'inverse des prestations selon l'art. 7 al. 2 let. a et b OPAS, comprend des mesures qui sont en relation directe avec l'impotence du patient, dès lors qu'elles servent à aider ou à surveiller la personne impotente pour accomplir des actes élémentaires de la vie quotidienne. Selon la jurisprudence, même si l'allocation pour impotent de l'AVS/AI et les prestations de soins de l'assurance-maladie obligatoire prévues à l'<ref-law> sont de nature foncièrement différente - la première étant une prestation en espèces calculée indépendamment du coût effectif des services fournis par des tiers mais en fonction du degré d'impotence, tandis que les secondes sont des prestations en nature sous la forme d'un remboursement tarifaire des frais effectifs occasionnés par les soins administrés -, les prestations comprenant les soins de base de l'art. 7 al. 2 let. c OPAS se recoupent avec celles qui sont couvertes par l'allocation pour impotent. Les soins de base comprennent cependant aussi des mesures liées à la (seule) maladie, tandis que l'allocation pour impotent sert également à couvrir les coûts de prestations de tiers qui ne font pas partie des prestations de soins de l'assurance-maladie, comme l'établissement ou l'entretien de contacts avec l'entourage. Un cumul des prestations de soins de base au sens de l'art. 7 al. 2 let. c OPAS et de l'allocation pour impotent est donc admissible, sous réserve d'une surindemnisation; celle-ci n'entre pas en considération du moment que le montant de l'allocation pour impotent est moins élevé que l'ensemble des coûts dus à l'impotence et supportés par la personne assurée (arrêts 9C_886/2010 du 10 juin 2011 consid. 4 et 9C_43/2012 du 12 juillet 2012 consid. 2; <ref-ruling> consid. 5 p. 304 ss; <ref-ruling> consid. 3 et 4 p. 96 ss; cf. aussi GEBHARD EUGSTER, Krankenversicherung, in Soziale Sicherheit, SBVR vol. XIV, 3ème éd. 2016, p. 522 n° 380).
5.2.2. Cela étant, sous l'angle des prestations complémentaires, il y a lieu de constater que l'assistance couverte par l'allocation pour impotent ne se recoupe que partiellement avec les prestations de soins au sens de l'<ref-law>, de sorte qu'on ne saurait admettre, de manière générale, que la participation au coût des soins à charge de la personne assurée au sens de l'<ref-law> correspond aux prestations fournies par le personnel de l'EMS en raison de l'impotence.
En d'autres termes, une partie de l'assistance apportée en l'espèce à l'intimé par le personnel de l'EMS correspond à des prestations de soins qui ne sont pas prises en charge par l'assurance-maladie (ni par l'assuré, à raison de 20 % au maximum). On peut parler, à cet égard, de prestations d'assistance, qui comprennent les prestations de soins en EMS qui ne sont pas couvertes par l'assurance-maladie et ne ressortissent pas non plus aux prestations d'hôtellerie, lesquelles recouvrent toutes les prestations de l'EMS liées à l'hébergement (sur l'ensemble des prestations fournies et facturées aux résidents des EMS en Suisse, voir le Rapport de la Surveillance des prix [SPR], décembre 2018 [consulté sous https://www.preisueberwacher.admin.ch, sous Thèmes, Homes médicalisés], ci-après Rapport SPR, p. 2 ss).
5.3. Du point de vue des tarifs des EMS fixés par le canton de Neuchâtel, on constate que la réglementation cantonale ne fait pas de distinction entre la taxe liée aux prestations d'hôtellerie et la taxe relative à l'assistance, mais fixe un tarif de séjour global (cf. aussi, Rapport SPR, p. 6 ch. 4). En effet, la prestation socio-hôtelière de base comprend toutes les prestations fournies aux résidents par les EMS, hormis les prestations journalières LAMal et les prestations spécifiques, conformément aux art. 18, 20 et 21 LFinEMS (consid. 2.2.3 supra). Le "prix de pension" de 172 fr. 60 par jour pour la Résidence B._ SA, en chambre individuelle, couvre donc également certaines prestations d'assistance liées à l'impotence de l'intimé qui sont fournies par le personnel de l'EMS (et ne relèvent pas de l'assurance-maladie obligatoire). Par conséquent, les frais de l'assistance due à l'impotence sont comprises de manière forfaitaire dans la taxe journalière et sont, de ce fait, prises en compte dans le calcul des prestations complémentaires en tant que dépenses reconnues, tout comme, du reste, les prestations journalières LAMal au sens de l'<ref-law> (consid. 5.1 supra). Aussi, l'allocation pour impotent allouée à l'intimé depuis le 1er janvier 2017 doit-elle être, en contre-partie (consid. 4.2 supra) considérée exceptionnellement comme un revenu, en application de l'<ref-law>.
6.
Ensuite de ce qui précède, l'allocation pour impotent devait être prise en considération dans le calcul des prestations complémentaires de l'intimé pour la période courant depuis le 1er janvier 2017, de sorte que celui-ci a perçu des prestations en trop entre cette date et le 30 novembre 2017, à hauteur d'un montant qui n'est pas contesté en tant que tel (cf. <ref-law>). La recourante était donc en droit d'en demander la restitution, conformément à l'art. 25 al. 1, 1ère phrase, LPGA.
C'est le lieu de préciser que le point de savoir si l'intimé a violé son obligation de renseigner quant au versement de l'allocation pour impotent n'a aucune influence sur l'issue du présent litige, l'obligation de restituer des prestations complémentaires en cas de versement ultérieur d'une prestation considérée comme un revenu n'étant pas liée à une violation de l'obligation de renseigner (<ref-ruling> consid. 2 p. 139; arrêt 8C_689/2016 du 5 juillet 2017 consid. 3.1). Cette question joue en revanche un rôle pour la remise de l'obligation de restituer au sens de l'art. 25 al. 1, 2ème phrase, LPGA, qui doit faire l'objet d'une procédure séparée (arrêt 8C_804/2017 du 9 octobre 2018 consid. 2 in fine et les arrêts cités). Il appartiendra à la caisse de la trancher en premier lieu, pour autant que l'intimé lui demande en temps voulu la remise de son obligation de restituer à la suite du présent arrêt (cf. <ref-law>).
En conclusion, le recours est bien fondé et le jugement entrepris doit être annulé.
7.
Vu les circonstances, il y a lieu de renoncer aux frais de justice (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis, dans la mesure où il est recevable. La décision du Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, du 4 janvier 2019 est annulée et la décision sur opposition de la Caisse cantonale neuchâteloise de compensation du 29 mai 2018 confirmée.
2.
Il n'est pas perçu de frais de justice.
3.
La cause est renvoyée au Tribunal cantonal neuchâtelois, Cour de droit public, pour nouvelle décision sur les dépens de la procédure antérieure.
4.
Le présent arrêt est communiqué aux parties, au Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, et à l'Office fédéral des assurances sociales.
Lucerne, le 22 juillet 2019
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
La Présidente : Pfiffner
Le Greffier : Cretton