Faits:
A. Dans le cadre de l'instruction de la demande de prestations de l'assurance-invalidité que S._ a déposée le 9 juillet 2010 (cf. arrêt du Tribunal fédéral de ce jour dans la cause opposant les mêmes parties, 9C_489/2012), l'Office de l'assurance-invalidité du canton de Fribourg (l'office AI) a confié un mandat d'expertise pluridisciplinaire (rhumatologique, neurologique et psychiatrique) au CEMed X._, le 21 novembre 2011. Par lettre du 17 janvier 2012, l'assuré a invité l'office AI à intégrer un volet orthopédique à l'expertise pluridisciplinaire. Le 19 janvier 2012, l'office AI a demandé au CEMed de compléter l'expertise par un examen orthopédique.
Dans une écriture du 15 février 2012, le CEMed a suggéré de confier l'expertise orthopédique à un expert privé. L'assuré s'est opposé, par lettre du 5 mars 2012, en rappelant à l'office AI qu'il avait consenti à englober un volet orthopédique dans le cadre de l'expertise pluridisciplinaire; il a invité l'office AI à faire réaliser l'expertise conformément au mandat complémentaire du 19 janvier 2012, à défaut de confier le mandat à d'autres experts. L'office AI a fait savoir à l'assuré, par lettre du 6 mars 2012, qu'il allait organiser une expertise orthopédique auprès d'un expert indépendant.
Le 9 mars 2012, l'assuré a demandé à l'office AI de rendre une décision sujette à recours concernant les modalités de l'expertise pluridisciplinaire, dans l'éventualité où le CEMed ne procéderait pas à l'expertise comportant un volet orthopédique, ou si l'office AI ne révoquerait pas le mandat donné au CEMed pour le cas où les experts persisteraient dans leur refus. Le 24 avril 2012, l'assuré a fait savoir à l'office AI que sa requête du 9 mars 2012 demeurait toujours pendante; sans nouvelles jusqu'au 21 mai suivant, il se plaindrait d'un retard injustifié. Le CEMed a rendu son rapport d'expertise le 27 avril 2012.
B. Le 8 juin 2012, S._ a saisi la Cour des assurances sociales du Tribunal cantonal du canton de Fribourg d'un recours pour retard injustifié de la part de l'office AI. Il a conclu, avec suite de frais et dépens, à ce que l'office AI fût invité à rendre sans délai une décision relative aux modalités de l'expertise pluridisciplinaire. Il a demandé l'assistance judiciaire pour la procédure cantonale.
Par jugement du 9 août 2012, la juridiction cantonale a rejeté le recours ainsi que la demande d'assistance judiciaire.
C. S._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation, avec suite de frais et dépens, en reprenant les conclusions formées en première instance. Il sollicite le bénéfice de l'assistance judiciaire pour la procédure fédérale.
L'intimé et l'Office fédéral des assurances sociales n'ont pas été invités à se déterminer.

Considérant en droit:
1. Le litige porte sur le constat de l'existence d'un retard injustifié de l'intimé pour statuer sur les modalités d'une expertise et sur le renvoi de la cause à l'intimé afin qu'il rende telle décision. Par ailleurs, le litige porte également sur l'octroi de l'assistance judiciaire pour la procédure cantonale de recours.
2. La juridiction cantonale a constaté que le complément d'expertise ordonné par l'intimé le 19 janvier 2012, à la requête du recourant, n'avait toujours pas été réalisé lors du dépôt du recours pour retard injustifié, le 8 juin 2012, date à laquelle un désaccord persistait entre les parties sur les modalités de la mise en oeuvre de l'expertise. Elle a par ailleurs constaté que les parties avaient procédé à un échange de correspondance à ce sujet les 6 et 9 mars 2012, et que le recourant s'était adressé une dernière fois à l'intimé le 24 avril 2012, avant le dépôt du recours pour retard injustifié.
De l'avis de la juridiction cantonale, la durée de l'inaction de l'intimé (trois mois ou un mois et demi, entre les interventions du recourant et la saisine du tribunal) était trop brève pour fonder le grief d'un retard injustifié à l'encontre de l'intimé. Tout au plus, ce laps de temps pouvait constituer un temps mort inévitable dans une procédure. Le tribunal cantonal a par ailleurs considéré que le comportement de l'intimé ne saurait, dans son ensemble, être qualifié de passif, car il s'était heurté aux réticences du CEMed qui ne lui étaient pas imputables et qui avaient ralenti la procédure.
3. 3.1 Dans un premier grief, le recourant allègue que le rapport d'expertise du CEMed du 27 avril 2012 et l'avis de la doctoresse L._ du SMR du 21 mai 2012 ne lui ont pas été transmis. Il y voit une violation de son droit d'être entendu.
Selon toutes apparences, ces deux documents n'avaient pas encore été communiqués au recourant au moment où il s'est plaint d'un retard injustifié, le 8 juin 2012. Il est toutefois superflu d'examiner la pertinence de ce grief, car cette question est de toute manière étrangère à l'objet du litige soumis au Tribunal fédéral (cf. consid. 1 supra).
3.2 Le recourant reproche ensuite à l'intimé de n'avoir pas donné suite à sa demande de rendre une décision sujette à recours concernant les modalités de l'expertise pluridisciplinaire mise en oeuvre. De la sorte, il estime que l'intimé a violé à la fois son obligation de rendre une décision (art. 43 al. 1 et 49 al. 1 LPGA; <ref-ruling> consid. 3.4.2.6 p. 256) et fait preuve d'un retard injustifié (art. 29 al. 1 et 30 al. 1 Cst.; art. 6 ch. 1 CEDH).
Dans son écriture du 6 mars 2012, l'intimé est revenu sur sa position du 19 janvier 2012, en décidant désormais de ne plus faire intégrer un volet orthopédique à l'expertise pluridisciplinaire confiée au CEMed, mais de confier une expertise orthopédique à un expert indépendant. Dès lors que le recourant avait manifesté son opposition à ce revirement et réclamé la prise d'une décision sujette à recours sur cette question (lettres des 9 mars et 24 avril 2012), on se trouvait dans l'éventualité prévue par la jurisprudence (cf. <ref-ruling> consid. 3.4.2.6 p. 256 in fine) et l'assureur devait s'exécuter.
Il s'agit ainsi de déterminer si le recourant était fondé à se plaindre d'un retard injustifié auprès de la juridiction cantonale, le 8 juin 2012, jour où il l'a saisie en vertu de l'<ref-law>. A cet égard, les premiers juges ont exposé les raisons pour lesquelles le délai de trois mois qui s'était écoulé entre le 9 mars et le 8 juin 2012 ne leur paraissait pas excessif (consid. 2 supra). Compte tenu des facteurs qu'il a pris en considération, le tribunal cantonal n'a pas apprécié le cas de façon insoutenable. On ajoutera qu'à réception des réticences du CEMed du 15 février 2012 et des objections du recourant du 5 mars 2012, l'intimé allait devoir réexaminer la manière dont il ferait instruire le volet orthopédique, en tenant compte dans ce contexte notamment du fait que le mandat confié au CEMed était en cours d'exécution, que le CEMed semblait peu enclin à compléter l'expertise par un volet orthopédique, et que la désignation d'un expert indépendant serait susceptible d'allonger la durée de la procédure. En d'autres termes, l'intimé n'était vraisemblablement pas en mesure de prendre la décision demandée à bref délai.
3.3 Le recourant fait aussi grief aux premiers juges d'avoir appliqué arbitrairement le droit cantonal (art. 89 al. 1 CPJA/FR), dans la mesure où ils ont omis d'impartir à l'intimé un délai pour déposer ses observations sur le recours du 8 juin 2012. Il allègue que l'intimé aurait pu prendre position sur la durée de la procédure et la nécessité de réaliser le complément d'expertise, ce qui lui aurait donné la possibilité de rendre la décision incidente requise le 9 mars 2012. Il ajoute que ce vice de procédure a eu pour conséquence d'accentuer le retard à statuer dont il se plaint.
Compte tenu de ce qui a été exposé précédemment, un échange d'écriture aurait, au contraire, eu pour seul effet d'allonger la durée de la procédure cantonale que le recourant avait initiée inutilement. En y renonçant en pareilles circonstances, de surcroît de manière motivée (consid. 2d in fine du jugement attaqué), l'autorité cantonale a contribué à faire accélérer le cours des choses, assurément dans l'intérêt du recourant. Le grief d'arbitraire est infondé.
3.4 Finalement, le recourant reproche aux juges cantonaux d'avoir rejeté sa demande d'assistance judiciaire, en violation des art. 29 al. 3 Cst. et 61 let. f LPGA.
Ses griefs sont sans objet dans la mesure où la juridiction cantonale a renoncé à la perception de frais (cf. <ref-law>). Ils sont infondés quant au refus de nommer un avocat d'office, car la requête du 8 juin 2012 était vouée à l'échec ainsi qu'on l'a exposé.
4. Devant le Tribunal fédéral, le recours était aussi dénué de chances de succès, de sorte que l'une des conditions cumulatives de l'octroi de l'assistance judiciaire pour la procédure fédérale n'est pas réalisée (<ref-law>).
Vu les circonstances, il sera renoncé à la perception de frais de procédure (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Il n'est pas perçu de frais judiciaires.
3. La requête d'assistance judiciaire est rejetée.
4. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 18 février 2013
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Kernen
Le Greffier: Berthoud