Faits:
A. J._ était au bénéfice de prestations complémentaires à une rente de l'assurance-vieillesse et survivants versées par la Caisse cantonale valaisanne de compensation. A la suite d'une hospitalisation subie du 29 février au 10 mars 2008 au Centre hospitalier X._ et d'un séjour à la clinique Y._, il a emménagé avec l'aide de sa fille au home Z._ à V._ (canton de Neuchâtel) où il séjourne depuis lors. Par décision du 23 juin 2009, rendue par l'Autorité tutélaire du district W._, il a été mis sous curatelle volontaire puis - par ordonnance du 10 mars 2010 de la même autorité - sous tutelle. La Caisse cantonale neuchâteloise de compensation (ci-après: la CCNC) lui a refusé l'octroi de prestations complémentaires par décision du 8 juillet 2010, au motif qu'il ne s'était pas constitué un nouveau domicile dans le canton de Neuchâtel en séjournant dans le home Z._; le canton du Valais demeurait compétent pour fixer et verser lesdites prestations. L'administration a confirmé sa position par décision sur opposition du 4 août 2010.
B. Par jugement du 4 mai 2012, le Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, a admis le recours dont l'avait saisi J._, considérant que celui-ci s'était constitué un domicile dans le canton de Neuchâtel dans le courant du mois de mai 2008 et que la CCNC devait dès lors lui octroyer des prestations complémentaires à compter du 1er mai 2008. Il a modifié en ce sens la décision sur opposition du 4 août 2010 et la décision du 8 juillet 2010.
C. La CCNC interjette un recours en matière de droit public contre ce jugement dont elle demande l'annulation. Elle conclut à la confirmation de sa décision du 8 juillet 2010, respectivement de sa décision sur opposition du 4 août 2010.
J._, représenté par Me Ivan Zender, conclut au rejet du recours et l'Office fédéral des assurances sociales à son admission.

Considérant en droit:
1. Le litige porte uniquement sur la question de savoir si - et le cas échéant, depuis quand - l'intimé s'est constitué un domicile dans le canton de Neuchâtel après avoir emménagé dans le home Z._ à V._, ce qui - dans l'affirmative - justifierait la compétence territoriale de la recourante pour fixer et verser les prestations complémentaires. Il s'agit d'une question de droit (<ref-law>) que le Tribunal fédéral examine librement (<ref-law>).
2. 2.1 Le Tribunal fédéral a procédé dans l'arrêt publié aux <ref-ruling> à une analyse détaillée de l'<ref-law> dans sa teneur en vigueur à partir du 1er janvier 2008, applicable en l'espèce en vertu des règles du droit intertemporel. Il est arrivé à la conclusion que le texte de l'art. 21 al. 1 seconde phrase LPC restituait le sens véritable de cette disposition légale. Il s'ensuit que s'agissant des personnes habitant dans un home ou un établissement, le séjour dans l'institution en question ne peut fonder à lui seul une nouvelle compétence territoriale en matière de prestations complémentaires. En revanche, d'autres circonstances déterminant le domicile au sens du droit civil comme point d'attache fondamental restent décisives dans le cadre de l'art. 21 al. 1 première phrase LPC, en particulier le domicile dérivé de l'art. 25 al. 1 ou 2 CC (<ref-ruling> consid. 3.4.6 p. 32).
2.2 La jurisprudence initiée dans cet arrêt, sur laquelle il n'y a pas lieu de revenir, a forcément une influence sur l'issue de la procédure: le jugement entrepris ne peut pas être confirmé en tant qu'il admet - par un renversement de la présomption de l'<ref-law> - que l'intimé s'était constitué un domicile dans le canton de Neuchâtel dans le courant du mois de mai 2008 en s'installant à V._. En revanche - contrairement à ce qu'affirme la recourante et en dépit de la position défendue par l'OFAS, lequel mentionne l'arrêt publié aux <ref-ruling> sans toutefois en tirer les conséquences pour le cas d'espèce -, le jugement entrepris ne peut pas être purement et simplement annulé. Il ressort en effet des pièces figurant au dossier que l'intimé a été placé sous tutelle au sens de l'<ref-law> par ordonnance de l'Autorité tutélaire du district W._ du 10 mars 2010. L'intéressé s'est dès lors constitué à partir du 10 mars 2010 un domicile, déterminant du point de vue du droit aux prestations complémentaires, dans le canton de Neuchâtel ce qui fonde la compétence, à compter de cette date, de la caisse recourante pour fixer et verser des prestations complémentaires. Une telle compétence doit en revanche être niée pour la période antérieure parce que, comme on l'a dit plus haut, l'emménagement dans le home à Z._ ne peut en aucun cas être à lui seul constitutif d'un nouveau domicile et parce que l'instauration, par décision du 23 juin 2009, d'une curatelle volontaire au sens de l'<ref-law> n'a pas eu d'influence sur le domicile de l'intimé (<ref-ruling> consid. 2c p. 419; <ref-ruling> consid. 5 p. 227 s.; arrêt 9C_214/2012 du 22 octobre 2012 consid. 2.2; DANIEL STAEHLIN, in Basler Kommentar, Zivilgesetzbuch I, 4ème éd. 2010, n° 11 ad <ref-law>).
3. Il suit de ce qui précède que le recours est partiellement bien fondé. Les frais judiciaires sont mis par moitié à charge de chacune des parties. La recourante versera à l'intimé des dépens réduits, d'un montant de 1'400 fr.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis. Le jugement du Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, du 4 mai 2012 est modifié en ce sens que la recourante est compétente à partir de mars 2010 pour se prononcer sur le droit de l'intimé à des prestations complémentaires. Le recours est rejeté pour le surplus.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis pour 250 fr. à la charge de la recourante et pour 250 fr. à la charge de l'intimé.
3. La recourante versera à l'intimé la somme de 1'400 fr. à titre de dépens pour la dernière instance.
4. La cause est renvoyée au Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, pour nouvelle décision sur les dépens de la procédure antérieure.
5. Le présent arrêt est communiqué aux parties, au Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, et à l'Office fédéral des assurances sociales.
Lucerne, le 23 octobre 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
Le Greffier: Bouverat