Faits:
A. A.a P._, né en 2000, est atteint d'un retard de développement global par difficultés instrumentales aboutissant à un déficit intellectuel secondaire. Il présente également des troubles du développement du langage et des troubles ophtalmologiques. Il a été mis au bénéfice notamment de mesures médicales de l'assurance-invalidité, sous la forme d'une ergothérapie ambulatoire du 3 juillet 2006 au 31 juillet 2008 (décision de l'Office de l'assurance-invalidité du canton de Neuchâtel [ci-après: office AI] du 26 mars 2007).
Saisi d'une demande de prolongation du traitement sous forme d'ergothérapie, l'office AI a rejeté la requête, par décision du 1er décembre 2008, au motif que les objectifs de l'ergothérapie ne correspondaient pas à la réadaptation exigée par la loi.
A.b Sur recours de l'assuré, le Tribunal administratif de la République et canton de Neuchâtel (aujourd'hui, Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public) a annulé cette décision et renvoyé la cause à l'office AI pour instruction complémentaire et nouvelle décision (jugement du 23 juillet 2010). L'administration a alors recueilli l'appréciation de H._, psychologue spécialisée en neuropsychologie (du 5 février 2010), ainsi que l'avis (du 25 novembre 2010) du docteur C._ du Service médical régional (SMR), selon lequel l'ergothérapie n'avait pas rempli ses objectifs chez l'assuré, les troubles moteurs et liés à la vision spatiale ne s'étant pas améliorés après plus de cinq ans de suivi thérapeutique. Se fondant sur ces conclusions, l'office AI a, le 3 mars 2011, derechef rejeté la demande de prolongation de la prise en charge des frais d'ergothérapie.
B. P._ a déféré cette décision à la Cour de droit public du Tribunal cantonal neuchâtelois, en produisant les avis de la doctoresse G._, spécialiste FMH en neuropédiatrie (du 8 avril 2009), et de I._, ergothérapeute (du 28 septembre 2008). Il a été débouté par jugement du 5 juin 2012.
C. Agissant par la voie du recours en matière de droit public, P._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler le jugement cantonal et de lui reconnaître le droit à la prolongation de la prise en charge du traitement d'ergothérapie litigieux. A titre subsidiaire, il conclut au renvoi de la cause à la juridiction cantonale pour qu'elle complète l'instruction et statue à nouveau.
L'office AI conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.
Considérant en droit:
1. Le recours en matière de droit public (art. 82 ss LTF) peut être formé pour violation du droit selon l'art. 95 sv. LTF. Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), sous réserve des cas prévus à l'art. 105 al. 2 LTF. Cette disposition lui donne la faculté de rectifier ou compléter d'office l'état de fait de l'arrêt attaqué dans la mesure où des lacunes ou erreurs dans celui-ci lui apparaîtraient d'emblée comme manifestes. Quant au recourant, il ne peut critiquer la constatation de faits importants pour le jugement de la cause que si ceux-ci ont été constatés en violation du droit au sens de l'art. 95 LTF ou de manière manifestement inexacte (art. 97 al. 1 LTF).
2. Le jugement entrepris expose de manière complète les règles légales et la jurisprudence applicables au litige, qui porte sur le droit du recourant à la prolongation de la prise en charge par l'assurance-invalidité d'une ergothérapie. Il suffit d'y renvoyer.
3. 3.1 Se fondant sur les rapports de la psychologue H._, de la doctoresse G._, et de l'ergothérapeute I._, la juridiction cantonale a constaté que le recourant présentait toujours d'importants déficits au niveau du contrôle postural, de la motricité fine du "visuo-spatial", ainsi que de la compréhension, planification et structuration du travail. Elle a retenu que l'amélioration des capacités, en particulier cognitives de l'assuré, étaient au demeurant liées, selon la neuropsychologue et l'ergothérapeute, au médicament X._. Par ailleurs, les spécialistes n'avaient donné, selon les premiers juges, aucune estimation de la durée du traitement d'ergothérapie, ni ne s'étaient prononcés sur l'amélioration durable qui pouvait en être attendue. L'autorité cantonale de recours en a déduit que les conditions de l'octroi à la mesure médicale requise au sens de l'art. 12 LAI n'étaient pas réalisées.
3.2 Comme le fait valoir à juste titre le recourant, l'appréciation des preuves à laquelle a procédé la juridiction cantonale contrevient au droit fédéral, dès lors qu'elle repose sur une instruction incomplète des faits pertinents, en violation du principe inquisitoire (art. 61 let. c LPGA).
3.2.1 Lorsqu'elle a été saisie une première fois du litige, l'autorité cantonale de recours a considéré qu'elle était insuffisamment renseignée sur l'effet du traitement d'ergothérapie prodigué jusqu'alors, sur la durée de ce traitement et sur le pronostic concret pour pouvoir se prononcer en connaissance de cause. Selon elle, le bilan de la psychologue H._ du 6 novembre 2006 devait être réactualisé et, le cas échéant, un pronostic plus précis être établi pour l'avenir (consid. 4 du jugement du 23 juillet 2010). Aussi, a-t-elle annulé la décision administrative et renvoyé la cause à l'administration pour qu'elle complète l'instruction sur ces points.
3.2.2 Au regard de l'instruction alors menée par l'intimé, on constate que les pièces au dossier ne permettent toujours pas de statuer en connaissance de cause. Au lieu de se conformer aux indications de la juridiction cantonale en ce qui concerne les points précis sur lesquels des renseignements complémentaires devaient être recueillis, l'administration s'est en effet contentée d'envoyer à la psychologue H._ un questionnaire-type totalement inadapté à la demande de prestation du recourant. Sans avoir été interrogée sur les aspects pertinents relatifs à l'ergothérapie, la psychologue a fait parvenir à l'intimé le rapport qu'elle avait établi le 5 février 2010 à la demande de la doctoresse G._. Si elle y fait état d'une amélioration globale des capacités cognitives de l'assuré "grâce aux thérapies dont P._ a pu bénéficier jusqu'ici", la spécialiste ne donne cependant aucune indication quant à l'ergothérapie suivie par le recourant et ses effets.
A la suite de ce rapport, qui ne permettait donc pas de répondre aux questions mises en évidence par le premier jugement cantonal, l'office AI a requis l'avis du docteur C._. Sans interroger plus avant la psychologue H._ ou les médecins traitants, le médecin du SMR s'est limité à nier une amélioration des troubles visio-spatiaux de l'enfant et l'utilité de l'ergothérapie.
3.2.3 On constate dès lors qu'au moment de rendre la décision litigieuse du 3 mars 2011, l'intimé ne disposait pas d'une évaluation spécialisée sur les aspects mis en lumière par le Tribunal administratif neuchâtelois, de sorte que l'instruction était lacunaire.
Celle-ci n'a par ailleurs pas été complétée par la juridiction cantonale, alors que les avis produits par le recourant en instance cantonale ne répondaient pas non plus aux interrogations des premiers juges. A cet égard, ceux-ci ne pouvaient, sans faire preuve d'arbitraire, tirer argument du fait que la psychologue H._ et l'ergothérapeute I._ n'avaient pas fait état d'une limitation relative à la durée du traitement d'ergothérapie, ni donné d'indication quant à une éventuelle amélioration durable et en conclure que la durée de la mesure médicale envisagée ne pouvait être fixée, alors que ces spécialistes n'avaient précisément jamais été interpellés à ce sujet. De même, comme le relève à juste titre le recourant, la constatation selon laquelle l'assuré présentait encore d'importants déficits, malgré des progrès, ne suffit pas, faute de précision de la part des spécialistes sur les effets du traitement d'ergothérapie, à nier l'existence d'une amélioration due à celui-ci.
Il appartiendra donc à la juridiction cantonale de compléter l'instruction, afin qu'elle dispose de tous les renseignements utiles pour se prononcer en connaissance de cause sur le droit du recourant à la prise en charge de l'ergothérapie aux conditions de l'art. 12 LAI.
3.3 Il résulte de ce qui précède que le jugement entrepris doit être annulé et la cause renvoyée à la juridiction cantonale pour qu'elle en complète l'instruction, puis statue à nouveau.
4. Vu l'issue de la procédure, l'intimé supportera les frais de procédure y afférents (art. 66 al. 1, 1ère phrase, LTF). Le recourant a droit, par ailleurs, à une indemnité de dépens pour l'instance fédérale (art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis et le jugement rendu le 5 juin 2012 par le Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, est annulé. La cause est renvoyée à l'autorité judiciaire de première instance pour nouvelle décision dans le sens des considérants. Le recours est rejeté pour le surplus.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de l'intimé.
3. L'intimé versera au recourant la somme de 2800 fr. à titre de dépens pour la dernière instance.
4. Le présent arrêt est communiqué aux parties, au Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, et à l'Office fédéral des assurances sociales.
Lucerne, le 17 décembre 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
La Greffière: Moser-Szeless