Faits: A. S._, employé de production, a subi un accident de travail (choc du membre supérieur gauche) le 9 septembre 2009. Dans son rapport d'examen final du 3 mars 2011, le docteur E._, médecin d'arrondissement de la CNA, a attesté que l'assuré disposait d'une capacité de travail totale dans une activité de type industriel, moyennant certaines restrictions. Par décision du 26 août 2011, confirmée sur opposition le 18 novembre 2011, la CNA a alloué une rente d'invalidité de 16 %. Le 9 juillet 2010, S._ a présenté une demande de prestations de l'assurance-invalidité. Dans un projet de décision du 19 mai 2011, l'Office de l'assurance-invalidité du canton de Fribourg a fait savoir à l'assuré qu'il envisageait de refuser le versement d'une rente, compte tenu d'un taux d'invalidité de 16 %. L'assuré a manifesté son opposition au refus de rente, par lettre du 14 juin 2011; plusieurs avis médicaux émanant des docteurs F._ et R._ ont été déposés à cette occasion. Sur recommandation du Service médical régional BE/FR/SO, (avis de la doctoresse L._, du 19 octobre 2011), qui estimait que les avis médicaux déposés par l'assuré étaient susceptibles d'aboutir à une modification du projet de décision, l'office AI a mis en oeuvre une expertise pluridisciplinaire qu'il a confiée au CEMed à X._ (mandat du 21 novembre 2011). Par lettre du 6 décembre 2011, Me Alain Ribordy, avocat à Fribourg, a demandé que les noms et spécialités des médecins ainsi que la liste des questions posées lui soient communiqués. Il a requis le bénéfice de l'assistance gratuite d'un conseil juridique pour l'assuré et sa désignation en qualité de défenseur d'office dans le cadre de la procédure administrative. Par décision du 12 décembre 2011, l'office AI a rejeté la requête d'assistance gratuite d'un conseil juridique, au motif que la procédure d'instruction ne présentait pas une complexité telle qu'elle nécessiterait l'intervention d'un avocat. B. S._ a déféré cette décision au Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, en concluant à l'octroi de l'assistance gratuite d'un conseil juridique pour la procédure administrative devant l'office AI. Il a soutenu que le cas présentait une grande complexité et que pour être en mesure de participer à l'expertise pluridisciplinaire qui venait d'être ordonnée, l'assistance d'un avocat était manifestement nécessaire. L'office AI a conclu au rejet du recours. Il a relevé que l'assuré avait formulé seul des objections suffisamment solides et étayées qui avaient abouti à la mise en oeuvre de l'expertise pluridisciplinaire, dans le cadre de laquelle l'avocat n'avait joué aucun rôle, à part s'enquérir de l'identité des experts et de la liste des questions posées. La juridiction cantonale a rejeté le recours par jugement du 3 mai 2012. Elle a par ailleurs accordé à l'assuré le bénéfice de l'assistance judiciaire pour la procédure de recours. C. S._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation, avec suite de frais et dépens, en concluant à ce que l'assistance juridique administrative lui soit accordée à partir du 6 décembre 2011, date de sa première intervention pour la procédure ouverte devant l'office AI. Il sollicite le bénéfice de l'assistance judiciaire pour la procédure fédérale. L'intimé et l'Office fédéral des assurances sociales n'ont pas été invités à se déterminer.