Faits :
A.
A._, née en 1939, est au bénéfice d'une rente de l'assurance-vieillesse et survivants depuis le 1er janvier 2003. Sollicitée à plusieurs reprises, la Caisse cantonale neuchâteloise de compensation (ci-après : la caisse de compensation) a nié le droit de l'assurée à des prestations complémentaires au motif que ses revenus déterminants couvraient ses dépenses reconnues (décisions des 24 février 2003, 22 février 2006 et 13 janvier 2015).
Après avoir découvert que A._ percevait une pension versée par l'Istituto Nazionale Previdenza Sociale de Rome (INPS), la caisse de compensation a procédé le 18 janvier 2018 à un nouveau calcul du droit de l'assurée à des prestations complémentaires à compter du 1er novembre 2014; elle a nié toute prétention. Le 5 décembre 2018, elle a reconsidéré la décision du 18 janvier précédant, constaté que l'assurée présentait un excédent de revenus et derechef nié son droit. Par décision sur opposition du 28 juin 2019, la caisse de compensation a maintenu sa position, considérant que la pension versée par l'INPS devait être prise en compte dans les revenus de l'intéressée même si les pensions de décembre 2014 à septembre 2018 avaient été versées rétroactivement le 10 décembre 2018.
B.
Statuant le 28 mai 2020, le Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, a admis le recours formé par l'assurée, annulé la décision sur opposition du 28 juin 2019 et renvoyé la cause à la caisse de compensation pour procéder selon les considérants.
C.
La caisse de compensation forme un recours en matière de droit public contre ce jugement. Elle conclut principalement à la confirmation de la décision sur opposition du 28 juin 2019. Subsidiairement, elle demande le renvoi de la cause à l'autorité précédente pour qu'elle rende un nouveau jugement conformément au sens des considérants. A l'appui du recours, la caisse de compensation dépose des correspondances échangées avec C._ et le Département fédéral des finances, Centrale de compensation, ainsi qu'une communication de l'INPS du 14 août 2018.
A._ conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales (OFAS) renonce à se déterminer.

Considérant en droit :
1.
1.1. En tant qu'il renvoie la cause à l'administration pour procéder à un nouveau calcul du droit de l'intimée à des prestations complémentaires à l'AVS conformément aux considérants, le jugement entrepris constitue en principe une décision incidente au sens de l'<ref-law> (<ref-ruling> consid. 1.2 p. 283; <ref-ruling> consid. 1.3 p. 101 et la référence). Le recours contre une telle décision n'est recevable que si elle peut causer un préjudice irréparable (<ref-law>) ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (<ref-law>). Si le recours n'est pas recevable au regard de ces conditions ou s'il n'a pas été utilisé, la décision incidente peut être attaquée par un recours contre la décision finale dans la mesure où elle influe sur le contenu de celle-ci (<ref-law>).
1.2. Le renvoi de la cause à l'administration pour instruction complémentaire et nouvelle décision ne cause un dommage irréparable que dans la mesure où la décision de renvoi comporte des instructions sur la manière dont elle devra trancher certains aspects du rapport litigieux, restreignant ainsi de manière importante sa latitude de jugement, et qu'elle ne peut plus, en conséquence, s'en écarter (<ref-ruling> consid. 1.3 p. 269; <ref-ruling> consid. 3.3 p. 242; <ref-ruling> consid. 1.2 p. 283). Tel est le cas en l'espèce, dans la mesure où la décision qui doit être rendue par la caisse de compensation consiste à chiffrer selon des instructions précises le montant de la pension étrangère à prendre en considération. Le recours est donc recevable au regard de l'<ref-law>.
2.
2.1. Le recours en matière de droit public peut être formé notamment pour violation du droit fédéral (<ref-law>), que le Tribunal fédéral applique d'office (<ref-law>), n'étant limité ni par les arguments de la partie recourante, ni par la motivation de l'autorité précédente. Le Tribunal fédéral fonde son raisonnement sur les faits retenus par la juridiction de première instance (<ref-law>) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>).
2.2. Selon l'<ref-law>, aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente. Les correspondances des 10 et 15 juin 2020 que la caisse de compensation produit à l'appui de son recours sont postérieures au jugement attaqué du 28 mai 2020. Elles sont donc irrecevables. Quant à la communication de l'INPS du 14 août 2018, la caisse de compensation recourante ne prétend pas qu'elle aurait été empêchée de la produire en instance cantonale. Par conséquent, ces pièces et les allégués qui s'y réfèrent ne peuvent pas être pris en considération.
3.
Le litige porte sur le droit de l'intimée à des prestations complémentaires à l'AVS à partir du 1er décembre 2014. Compte tenu des conclusions et motifs du recours, il s'agit singulièrement d'examiner la manière de calculer le taux de conversion à appliquer à la rente versée en euros par l'INPS à l'intimée, ainsi que le nombre de mensualités y relative à prendre en considération. A cet égard, le jugement entrepris expose de manière complète les dispositions de droit interne applicables au litige. Il suffit d'y renvoyer.
4.
4.1. La juridiction cantonale a retenu que la pension de la prévoyance sociale italienne dont bénéficie l'assurée devait être intégrée à ses revenus. Elle a considéré que la caisse de compensation avait cependant artificiellement augmenté les revenus de l'assurée. D'une part, la caisse de compensation avait retenu que la rente mensuelle étrangère était versée treize fois l'an, alors même que la décision de l'INPS du 21 novembre 2018 se référait à "12 mensilità". D'autre part, la caisse de compensation avait utilisé un taux de change de 1.16 (1.1695) pour convertir en francs suisses les rentes perçues en euros au motif qu'elles avaient été versées en 2018. Outre que, selon le tableau édité par l'Administration fédérale des contributions, le "cours annuel moyen pour convertir en francs suisses les revenus acquis en monnaie étrangère", était, en 2018, de 1.1548 s'agissant de l'euro, le versement opéré par l'INPS au mois de décembre 2018 (11'577 euros 37) avait été converti en francs suisses au cours du jour (12'872 fr. 90; avis de crédit du 10 décembre 2018 de la Banque cantonale neuchâteloise), soit à un taux de 1.1119 bien inférieur à celui retenu par la caisse de compensation (1.1695). La cause devait dès lors être renvoyée à la caisse de compensation pour qu'elle procède à un nouveau calcul.
4.2. Invoquant un établissement manifestement inexact des faits et une violation du droit fédéral, la caisse de compensation reproche à la juridiction cantonale d'avoir retenu de manière arbitraire que la rente étrangère était versée par l'INPS en douze mensualités et non pas en treize. Quant au taux de conversion, elle fait valoir que le chiffre marginal 3452.01 des Directives de l'OFAS concernant les prestations complémentaires à l'AVS et à l'AI (DPC) précise que pour les rentes et pensions qui sont versées en devises d'Etats de l'Union européenne, le cours de conversion applicable est le cours du jour publié par la Banque centrale européenne. Elle demande dès lors la prise en compte d'un taux de conversion de 1.1295, étant donné que le rétroactif de prestations est parvenu sur le compte de l'intimée le 10 décembre 2018.
4.3. Dans sa réponse, l'intimée se réfère à l'arrêt 9C_232/2014 du 29 août 2014 et demande à ce que seuls les revenus effectivement perçus soient pris en compte dans le calcul de son droit à des prestations complémentaires. Elle fait valoir que les montants pris en compte par la caisse de compensation (4'214 fr. pour 2014, 4'223 fr. pour 2015, 2016 et 2017 et 4'269 fr. pour 2018) ne correspondent en particulier manifestement pas au montant annuel moyen de 3'749 fr. 25 qu'elle a effectivement perçu de l'INPS.
5.
5.1. La décision litigieuse a été rendue après l'entrée en vigueur de l'Accord du 21 juin 1999 entre la Confédération suisse, d'une part, et la Communauté européenne et ses Etats membres, d'autre part, sur la libre circulation des personnes (ALCP; RS 0.142.112.681), le 1er juin 2002, et concerne une prétention postérieure à cette date.
Le litige doit ainsi être examiné, ratione temporis, à la lumière de l'ALCP, en particulier de son annexe II. Selon l'art. 1 al. 1 de l'annexe II à l'ALCP - intitulée "Coordination des systèmes de sécurité sociale", fondée sur l'art. 8 de l'accord et faisant partie intégrante de celui-ci (<ref-law>) - en relation avec la section A de cette annexe ("Actes juridiques auxquels il est fait référence"), les parties contractantes appliquent entre elles en particulier le règlement (CE) n° 883/2004 du 29 avril 2004 du Parlement européen et du Conseil du 29 avril 2004 portant sur la coordination des systèmes de sécurité sociale (ci-après: le règlement n° 883/2004; RS 0.831.109.268.1), ainsi que le règlement (CE) n° 987/2009 du Parlement européen et du Conseil du 16 septembre 2009 modifiant le règlement (CE) n° 883/2004 portant sur la coordination des systèmes de sécurité sociale, tous deux en vigueur pour la Suisse depuis le 1er avril 2012, et déterminant le contenu de ses annexes (ci-après: le règlement n° 987/2009).
En l'occurrence, en vertu de l'art. 2 par. 2 du règlement n° 883/2004, l'intimée, en sa qualité de veuve d'un ressortissant italien, entre dans le champ d'application personnel dudit règlement. Par ailleurs, les prestations complémentaires dont il est question en l'espèce relèvent du champ d'application matériel du règlement n° 883/2004 (<ref-ruling> consid. 7.1 p. 87 et les références).
5.2. En ce qui concerne la conversion des monnaies, l'art. 90 du règlement no 987/2009 prévoit qu'aux fins de l'application des dispositions du règlement de base et du règlement d'application, le taux de change entre deux monnaies est le taux de change de référence publié par la Banque centrale européenne; la date à prendre en compte pour établir les taux de change est fixée par la commission administrative.
A cet égard, selon l'annexe II ALCP, section B, point 8, les parties contractantes prennent en considération la décision H3 de la commission administrative pour la coordination des systèmes de sécurité sociale du 15 octobre 2009 relative à la date à prendre en compte pour établir les taux de change visée à l'art. 90 du règlement précité. En vertu des points 1 à 3 de cette décision, dans sa version en vigueur dès le 1er avril 2012, la commission administrative a décidé:
1. Aux fins de la présente décision, on entend par "taux de change" le cours du jour publié par la Banque centrale européenne.
2. Sauf disposition contraire dans la présente décision, le taux de change est le taux publié le jour où l'institution exécute l'opération en question.
3. L'institution d'un État membre qui, aux fins de l'établissement d'un droit et du premier calcul d'une prestation, doit convertir un montant dans la monnaie d'un autre État membre, utilise:
a) lorsque, en application de la législation nationale concernée, l'institution doit tenir compte de montants, tels que des revenus ou des prestations, durant une certaine période précédant la date pour laquelle la prestation est calculée: le taux de change publié pour le dernier jour de la période concernée;
b) lorsque, en application de la législation nationale concernée, pour le calcul de la prestation, l'institution doit tenir compte d'un montant: le taux de change publié pour le premier jour du mois précédant immédiatement le mois au cours duquel la disposition doit s'appliquer.
5.3. Selon la jurisprudence, lorsque les droits sont calculés sur le seul fondement des législations nationales, ni l'art. 90 du règlement n° 987/2009 ni la décision H3 ne peuvent recevoir application et les taux de conversion des monnaies demeurent déterminés par la législation interne (<ref-ruling> consid. 5.2.1 p. 251 et les références). Le Tribunal fédéral a ainsi jugé que la conversion en euros d'une rente AVS calculée uniquement selon le droit suisse en francs suisses doit s'effectuer en vertu du droit interne, soit (à l'époque) de l'ancien ch. marg. 5033 des directives de l'OFAS concernant l'assurance-vieillesse, survivants et invalidité facultative (<ref-ruling> consid. 5.3 p. 252 et 6.2 p. 253).
En revanche, les dispositions sur la conversion des monnaies du règlement n° 987/2009 et de la décision H3 trouvent application lorsqu'il s'agit d'examiner des situations qui nécessitent une coordination (<ref-ruling> consid. 5.2.1 p. 251). Il s'agit en particulier des situations dans lesquelles une rente ou une pension versée par une institution de sécurité sociale d'un Etat membre de l'Union européenne doit être prise en compte dans le cadre de l'examen du droit à des prestations complémentaires à l'AVS ou à l'AI (arrêt 9C_377/2011 du 12 octobre 2011 consid. 3.3; <ref-ruling> consid. 5.2.1 p. 251).
5.4. En l'espèce, la juridiction cantonale a méconnu le fait que la situation de l'intimée, qui perçoit une rente de veuve de l'INPS, relève du champ d'application des règlements nos 883/2004 et 987/2009 ainsi que de la décision H3. A cet égard, conformément à l'art. 90 du règlement n° 987/2009, en lien avec le point 2 de la décision H3, la caisse de compensation était tenue d'utiliser le taux de change publié par la Banque centrale européenne le jour où l'institution de la sécurité sociale italienne a exécuté l'opération bancaire en question (cf. ch. marg. 3452.01, 1ère phrase, DPC).
Aussi, selon le site http://www.ecb.europa.eu, qui donne les taux officiels diffusés par la Banque centrale européenne, le cours de l'euro par rapport au franc suisse était, au 10 décembre 2018, de 1.1295. Dans son recours, la caisse de compensation se réfère d'ailleurs expressément à ce taux (et non plus à celui de 1.1695). En prenant en compte un taux de conversion des monnaies de 1.1119, la juridiction cantonale a par conséquent violé le droit fédéral. Le grief de la recourante doit être admis sur ce point.
On précisera que ce taux devra être appliqué au montant de 11'577 euros 37 versé par l'INPS à l'intimée en date du 10 décembre 2018, constaté par la juridiction cantonale (<ref-ruling> consid. 3 p. 21; arrêt 9C_831/2016 du 11 juillet 2017 consid. 5.1 et les références), et que la recourante ne discute pas (supra consid. 2.1).
6.
Comme le fait valoir ensuite la recourante, la juridiction cantonale s'est finalement écartée à tort du texte de la décision de l'INPS du 14 août 2018. L'INPS fait référence dans ce document au fait que l'intimée perçoit une rente AVS mensuelle suisse, versée douze fois l'an ("importi mensili delle quote estere in valuta per 12 mensilità"), mais ne se prononce pas sur le nombre de mensualités de la pension italienne. Dans sa réponse, l'intimée indique qu'elle perçoit effectivement "13 versements par année". Le grief de la recourante doit partant être admis sur ce point également.
7.
Ensuite des considérations qui précèdent, il convient de renvoyer la cause à la caisse de compensation pour qu'elle procède à un nouveau calcul des prestations complémentaires pour la période concernée.
8.
Compte tenu des circonstances, le Tribunal fédéral renonce en l'espèce à percevoir des frais judiciaires (art. 66 al. 1, 2e phrase, LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est partiellement admis. La décision du Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, du 28 mai 2020 et la décision sur opposition de la Caisse cantonale neuchâteloise de compensation du 28 juin 2019 sont annulées. La cause est renvoyée à la Caisse cantonale neuchâteloise de compensation pour qu'elle rende une nouvelle décision au sens des considérants. Le recours est rejeté pour le surplus.
2.
Il n'est pas perçu de frais judiciaires.
3.
Le présent arrêt est communiqué aux parties, au Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, et à l'Office fédéral des assurances sociales.
Lucerne, le 1er février 2021
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président : Parrino
Le Greffier : Bleicker