Faits:
A. A.a A._, née en 1970, est arrivée en Suisse le 1er décembre 2008 et a déposé une demande d'asile. Le 7 mars 2009, elle a donné naissance à un fils, D._. Par décision du 31 mai 2010, l'Office fédéral des migrations ODM (ci-après : ODM) a reconnu à A._ et à ses enfants N._ et D._ le statut de réfugiés. Il a refusé leur demande d'asile et a décidé de leur renvoi. L'exécution de celui-ci ayant été considérée comme illicite, l'ODM l'a remplacée par une admission provisoire.
A.b Le 5 juillet 2010, D._ a sollicité l'octroi de mesures médicales pour mineurs en raison d'infirmités congénitales (OIC 494 et 313). Dans un projet de décision du 23 février 2011, l'Office cantonal AI du Valais (ci-après : l'office AI) a informé A._ qu'il envisageait de refuser les mesures requises, les conditions d'assurance n'étant pas remplies. Par décision du 4 avril 2011, il a confirmé son projet et refusé les prestations.
Le 31 mars 2011, D._ a déposé une seconde demande de prestations de l'assurance-invalidité pour assurés de moins de 20 ans révolus (OIC 463). Dans un projet de décision du 27 mai 2011, l'office AI a informé A._ qu'il allait également rendre une décision de refus des mesures médicales, pour le même motif. L'office AI a signifié son refus par décision du 6 juillet 2011.
B. D._ a déféré ces deux décisions au Tribunal cantonal valaisan, Cour des assurances sociales, en concluant à la prise en charge des prestations.
La juridiction cantonale l'a débouté par jugement du 18 novembre 2011, après avoir joint les deux causes.
C. D._ interjette un recours en matière de droit public contre ce jugement dont il requiert l'annulation. Il demande, sous suite de frais et dépens, que son droit aux mesures médicales de l'AI soit reconnu et, subsidiairement, que l'office AI ait l'obligation de prendre en charge les mesures médicales demandées en rapport avec les infirmités congénitales OIC 313, 494 et 463. Il sollicite le bénéfice de l'assistance judiciaire.
L'office AI a conclu au rejet du recours, ce que l'Office fédéral des assurances sociales (OFAS) a également proposé dans son préavis.

Considérant en droit:
1. Le recours en matière de droit public (<ref-law>) peut être formé pour violation du droit selon les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Il n'est donc limité ni par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (cf. <ref-ruling> consid. 1.4 p. 140).
2. Le litige porte sur le droit du recourant à des mesures médicales de l'AI en raison d'infirmités congénitales (ch. 313, 494 et 463 OIC).
3. 3.1 Dans ses décisions des 4 avril et 6 juillet 2011, l'office intimé a nié le droit du recourant aux prestations sollicitées, au motif que les conditions d'assurance prévues par les art. 6 al. 2 et 9 al. 3 LAI n'étaient pas remplies.
3.2 La juridiction cantonale a rejeté le recours pour le même motif que l'intimé. Préalablement, elle a toutefois examiné la question de savoir si l'admission provisoire du recourant en qualité de réfugié, par l'ODM, avait une incidence sur le sort de la demande de prestations. Se fondant sur l'arrêt du Tribunal fédéral des assurances du 13 mars 1989 (<ref-ruling> consid. 2a p. 6) ainsi que sur le ch. 4 des " Instructions administratives de l'Office fédéral des assurances sociales à propos du statut des réfugiés et des apatrides dans l'AVS/AI ", entrées en vigueur le 1er septembre 1985, les premiers juges ont considéré que l'admission provisoire du recourant ne permettait pas pour autant, en matière d'AVS et d'AI, de l'assimiler à un réfugié ayant obtenu l'asile et que l'Arrêté fédéral du 4 octobre 1962 concernant le statut des réfugiés et des apatrides dans l'assurance-vieillesse et survivants et dans l'assurance-invalidité, entré en vigueur le 1er janvier 1963 (ARéf; RS 831.131.11), ne lui était dès lors pas applicable.
3.3 Le recourant rappelle que la loi du 5 octobre 1979 sur l'asile (RO 1980 p. 1718) a été abrogée et remplacée par la loi sur l'asile du 26 juin 1998, entrée en vigueur au 1er octobre 1999 (LAsi; RS 142.31). Désormais, le statut de réfugié en Suisse est clairement défini à l'<ref-law>, si bien qu'il n'y a plus matière à l'interpréter comme le Tribunal fédéral des assurances l'avait fait en 1989 (<ref-ruling>). Le recourant reproche ainsi au tribunal cantonal d'avoir jugé sa cause à la lumière de règles de droit dépassées, ce qui l'a amené à nier à tort sa qualité de réfugié et par conséquent son droit aux prestations, sans avoir préalablement examiné l'incidence du changement de législation sur le sort du litige. A son avis, la jurisprudence rendue en application de la loi du 5 octobre 1979 (sous-entendu: l'art. 25, dans sa teneur originelle) est caduque.
Compte tenu de son statut de réfugié au sens de la LAsi et de la Convention du 28 juillet 1951 relative au statut des réfugiés (la Convention; RS 0.142.30), le recourant soutient que la législation suisse doit lui accorder le même traitement qu'aux nationaux en matière d'assurance sociale, conformément à l'art. 24 par. 1 let. b de la Convention. Il estime que la distinction opérée en 1989 dans l'arrêt <ref-ruling> entre les réfugiés qui ont obtenu l'asile et ceux qui ont été déboutés, ne résiste plus à l'examen.
4. 4.1 Selon l'art. 24 ch. 1 let. b de la Convention, les Etats Contractants accorderont aux réfugiés résidant régulièrement sur leur territoire le même traitement qu'aux nationaux en ce qui concerne la sécurité sociale (les dispositions légales relatives aux accidents du travail, aux maladies professionnelles, à la maternité, à la maladie, à l'invalidité, à la vieillesse et au décès, au chômage, aux charges de famille, ainsi qu'à tout autre risque qui, conformément à la législation nationale, est couvert par le système de sécurité sociale) sous certaines réserves prévues aux lettres i et ii. L'art. 24 ch. 1 let. b/ii de la Convention concerne des dispositions particulières prescrites par la législation nationale du pays de résidence et vise deux cas particuliers: d'une part, les prestations ou fractions de prestations payables exclusivement sur les fonds publics et d'autre part, les allocations versées aux personnes qui ne réunissent pas les conditions de cotisation exigées pour l'attribution d'une pension normale. Ces dispositions de la Convention sont directement applicables en droit interne (self-executing) et les demandeurs de prestations peuvent s'en prévaloir à partir de la date à laquelle le statut de réfugié leur a été reconnu, sans effet rétroactif au jour de l'entrée en Suisse (<ref-ruling> consid. 4 p. 97).
En application de la Convention et de l'art. 34quater aCst. (aujourd'hui: art. 112 Cst.), le législateur a édicté l'ARéf. D'après l'art. 2 al. 2 ARéf, en tant qu'ils ont leur domicile et leur résidence habituelle en Suisse en qualité de réfugiés, les personnes sans activité lucrative et les mineurs ont droit aux mesures de réadaptation de l'assurance-invalidité aux mêmes conditions que les ressortissants suisses si, immédiatement avant la survenance de l'invalidité, ils ont résidé en Suisse pendant une année entière au moins (1ère phrase). Les mineurs qui ont leur domicile et leur résidence habituelle en Suisse ont en outre droit à de telles mesures s'ils sont nés invalides en Suisse ou y résident sans interruption depuis leur naissance (2ème phrase).
Le Tribunal fédéral des assurances avait été appelé à préciser la notion de réfugié dans l'arrêt du 13 mars 1989 (<ref-ruling>, consid. 2a p. 6) qu'il avait rendu en application de l'art. 25 de la loi du 5 octobre 1979 sur l'asile, dans sa teneur originelle. Selon cette disposition légale, l'étranger auquel la Suisse avait accordé l'asile était considéré, à l'égard de toutes les autorités fédérales et cantonales, comme réfugié au sens de la présente loi et de la Convention du 28 juillet 1951. La loi, dans la version appliquée par le Tribunal fédéral des assurances, ne connaissait pas encore la notion d'étranger « admis provisoirement comme réfugié ». Ce nouveau statut, introduit le 22 juin 1990 (RO 1990 p. 949) et repris ultérieurement par la LAsi (permis F), ne permet plus de limiter le statut de réfugié aux seuls étrangers ayant obtenu l'asile, car en vertu de l'<ref-law>, quiconque a obtenu l'asile en Suisse ou y a été admis provisoirement au titre de réfugié est considéré, à l'égard de toutes les autorités fédérales et cantonales, comme un réfugié au sens de la LAsi et de la Convention.
4.2 Invité à s'exprimer sur la portée de l'art. 2 al. 2, 2e phrase ARéf, ainsi que son application dans le cas d'espèce, singulièrement au regard de l'art. 24 de la Convention, l'OFAS a relevé dans son préavis que l'ARéf s'applique aux ressortissants étrangers ayant la qualité de réfugiés et que la signification de cette notion est donc déterminante.
Selon l'OFAS, plusieurs catégories de personnes peuvent se voir accorder l'admission à titre provisoire. Il y a d'une part les étrangers, en dehors de toute procédure d'asile, dont le renvoi ne peut être exécuté en vertu de l'art. 83 LEtr, d'autre part les requérants d'asile dont la demande d'asile a été rejetée du fait qu'ils n'ont pas apporté la preuve de leur qualité de réfugié (<ref-law>) et finalement les requérants d'asile qui ont la qualité de réfugié au sens de l'<ref-law> mais qui ont vu leur demande d'asile rejetée pour les motifs énoncés aux art. 52 à 54 LAsi. L'OFAS a rappelé que seule cette dernière catégorie de personnes admises provisoirement en Suisse est concernée par l'<ref-law> (cf. <ref-ruling>). Par conséquent, tant les personnes au bénéfice d'une admission provisoire comme réfugié que celles qui ont obtenu une décision d'octroi d'asile en Suisse par l'ODM sont considérées, au sens de l'<ref-law>, comme des réfugiés à l'égard de toutes les autorités fédérales et cantonales. Celles-ci sont liées et ne peuvent réexaminer la qualité de réfugié de la personne (<ref-ruling> consid. 4a p. 119). Dès lors que l'ARéf s'applique, selon l'OFAS, à toutes les personnes qui sont considérées comme réfugiées d'après la législation et la pratique suisse (cf. Message du Conseil fédéral du 19 janvier 1962 concernant l'Arrêté sur les réfugiés, in FF 1962 I 246-247), l'autorité fédérale de surveillance est d'avis que toutes les personnes visées par l'<ref-law> - c'est-à-dire celles qui ont obtenu l'asile en Suisse et celles qui y sont admises provisoirement au titre de réfugié - tombent dans le champ d'application de l'ARéf. Ainsi, un réfugié mineur qui a son domicile et sa résidence habituelle en Suisse a droit aux mesures de réadaptation de l'AI aux mêmes conditions que les ressortissants suisses, s'il est né invalide en Suisse ou s'il y réside sans interruption depuis sa naissance.
En l'espèce, l'OFAS estime que le recourant bénéficie de l'application de l'ARéf à partir du 31 mai 2010, dès lors que le statut de réfugié lui a été reconnu depuis ce jour-là. En revanche, pour la période antérieure à cette date, la qualité de réfugié fait défaut car la décision de l'ODM ne déploie pas d'effet rétroactif pour l'application de l'ARéf; comme les conditions de l'<ref-law> n'étaient pas remplies au 31 mai 2010, l'OFAS propose de rejeter le recours.
4.3 Le point de vue défendu tant par le recourant que par l'OFAS est pertinent. Comme le législateur a désormais défini clairement la notion de réfugié (art. 25 de la loi sur l'asile du 5 octobre 1979, dans sa teneur du 22 juin 1990, repris avec une modification d'ordre rédactionnel à l'<ref-law>) et que les autorités fédérales et cantonales sont liées par le statut accordé (<ref-ruling> consid. 4a p. 119), la jurisprudence rendue en 1989 (<ref-ruling>), de même que les interprétations données ultérieurement (arrêt I 501/88 du 9 mai 1990, consid. 2b), sont obsolètes. La pratique administrative qui s'y rapporte (ch. 4 des instructions de l'OFAS, édictées en 1985, consid. 3.2 supra), laquelle ne permet pas d'assimiler aux réfugiés les requérants d'asile et les personnes auxquelles il n'a pas été fait droit à une demande d'asile mais qui sont admises provisoirement ou internées en Suisse en raison du fait que le renvoi n'est pas possible, n'est ainsi plus compatible avec l'<ref-law>. En définitive, sous l'empire de l'<ref-law>, un réfugié admis provisoirement peut se prévaloir de l'art. 2 al. 2 ARéf.
4.4 Compte tenu du caractère non-rétroactif de la décision de l'ODM pour l'application de l'ARéf (<ref-ruling> consid. 4 p. 97), le recourant n'a pas droit aux prestations qu'il sollicite pour la période antérieure au 31 mai 2010, quels que soient son domicile et sa résidence habituelle, dès lors que les conditions fixées aux art. 6 al. 2 et 9 al. 3 LAI ne sont pas réalisées.
En revanche, le droit aux prestations litigieuses pourrait exister à partir du jour où le statut de réfugié a été reconnu (le 31 mai 2010), pour autant que le recourant ait son domicile et sa résidence habituelle en Suisse (cf. art. 2 al. 2 ARéf, 2e phrase), ce qu'on ignore en l'état. Sur cette dernière question, les décisions administratives des 4 avril et 6 juillet 2011 et le jugement attaqué du 18 novembre 2011 sont en effet muets, ce qui justifie le renvoi de la cause à l'office intimé afin qu'il tranche ce point et statue à nouveau sur le droit éventuel du recourant aux prestations de l'AI depuis le 31 mai 2010. Dans cette mesure, le recours est bien fondé.
5. Vu l'issue du litige, il sied de répartir les frais de la procédure fédérale par moitié entre les parties (<ref-law>). L'intimé, qui succombe partiellement, versera une indemnité de dépens réduite à l'avocat du recourant (<ref-law>).
Le recourant remplit les conditions relatives à l'octroi de l'assistance judiciaire (<ref-law>). L'éventualité envisagée à l'<ref-law> est réservée.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis. Le jugement du Tribunal cantonal du canton du Valais, Cour des assurances sociales, est réformé en ce sens que la cause est renvoyée à l'Office cantonal AI du Valais afin qu'il procède conformément au consid. 4.4. Le recours est rejeté pour le surplus.
2. L'assistance judiciaire est accordée. Me Laurent Schmidt, avocat à Sion, est désigné comme avocat d'office de D._.
3. L'Office cantonal AI du Valais versera une indemnité de 1'400 fr. à l'avocat du recourant à titre de dépens pour la procédure fédérale.
4. Une indemnité de 1'400 fr., supportée par la caisse du tribunal, est allouée à Me Laurent Schmidt à titre d'honoraires.
5. Les frais de la procédure, arrêtés à 500 fr., sont répartis par moitié entre les parties. La part des frais mise à la charge du recourant (250 fr.) est supportée provisoirement par la caisse du tribunal.
6. Le Tribunal cantonal du canton du Valais, Cour des assurances sociales, statuera à nouveau sur les frais et dépens de l'instance cantonale, au regard de l'issue du présent litige.
7. Le présent arrêt est communiqué aux parties, au Tribunal cantonal valaisan, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 6 décembre 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
Le Greffier: Berthoud