Faits:
A. Par décision du 19 mai 2008, l'Office de l'assurance-invalidité du canton de Fribourg (l'office AI) a reconnu le droit de S._ à une rente entière d'invalidité depuis le 1er mars 2003, réduit définitivement de 50 % cette prestation pour aggravation du risque assuré et suspendu son versement du 7 septembre 2006 au 15 avril 2008 en raison de l'exécution d'une peine privative de liberté.
B. B.a Représenté par Me C._, avocat à Z._, S._ a déféré cette décision à la Cour des assurances sociales du Tribunal cantonal du canton de Fribourg, en concluant au maintien de la rente, sans réduction.
Par lettre du 31 juillet 2008, Me C._ a fait savoir au tribunal cantonal que son client était décédé le 23 juillet 2008 et que son mandat avait ainsi pris fin. Il a requis formellement la suspension de la procédure.
Le 3 octobre 2008, M._ a informé le tribunal qu'elle-même et ses enfants G._ et A._ avaient répudié la succession et qu'ils avaient décidé de ne pas poursuivre la procédure. Par ordonnance du 6 octobre 2008, le Président du Tribunal civil de Y._ a pris acte de la répudiation et chargé l'Office cantonal des faillites du canton de Fribourg (l'office des faillites) de liquider les biens de la succession.
Par décision du 16 octobre 2008, rendue dans la cause opposant « feu S._, recourant, représenté par Me C._ (...) » à l'office AI, le Président de la Cour des assurances sociales a rayé la cause du rôle au motif qu'elle était devenue sans objet, renoncé à percevoir des frais de justice, et ordonné la restitution de l'avance de 800 fr. (sans en désigner le bénéficiaire). D'une mention apposée au bas de cette décision, il ressort qu'elle a été notifiée à Me C._, à M._ (pour elle et ses enfants), à l'office AI ainsi qu'à l'Office fédéral des assurances sociales.
B.b Se prétendant créancier de feu S._, Me C._ a recouru en son nom et pour son compte contre la décision du 16 octobre 2008 devant le Tribunal fédéral, en concluant au renvoi de la cause au Tribunal cantonal afin que cette autorité la maintienne pendante jusqu'à l'ouverture formelle de la procédure de liquidation auprès de l'office des faillites. Par arrêt du 5 juin 2009, le Tribunal fédéral a déclaré le recours irrecevable, faute de qualité du recourant pour agir (9C_1050/2008).
Le 20 juillet 2009, Me C._ a communiqué la décision du 16 octobre 2008 et l'arrêt du 5 juin 2009 à l'office des faillites. Un échange d'écritures est intervenu à ce sujet entre ledit office et le Président du tribunal cantonal (lettres des 12 et 20 août 2009).
C. Sous pli posté le 11 septembre 2009, la Masse en faillite consécutive à la succession répudiée de S._, agissant par l'office des faillites, interjette un recours en matière de droit public contre ce jugement dont elle demande l'annulation, avec suite de dépens, en concluant au renvoi de la cause à la Cour des assurances du Tribunal cantonal pour qu'il reprenne la procédure cantonale (cause 605 2008-264), en vue d'une suspension conformément à l'art. 207 LP.
L'office AI conclut au rejet du recours. L'Office fédéral des assurances sociales a renoncé à se déterminer.
Considérant en droit:
1. A compter du moment où M._ et ses enfants G._ et A._ avaient répudié la succession, ces derniers avaient perdu leur qualité de partie au procès (cf. art. 560 al. 1 CC). La liquidation de la succession répudiée incombait ainsi à l'office des faillites (art. 573 al. 1 CC), lequel aurait dû être informé de l'existence du procès en cours (et a fortiori de la décision de radiation du rôle du 16 octobre 2008).
Le rubrum de la décision du 16 octobre 2008 est donc erroné dans la mesure où feu S._ s'y trouve désigné comme partie recourante, en lieu et place de la masse en faillite.
2. La décision litigieuse du 16 octobre 2008, par laquelle le Président de la Cour des assurances sociales du Tribunal cantonal du canton de Fribourg a radié la cause du rôle, est une décision finale au sens de l'art. 90 LTF contre laquelle la voie du recours en matière de droit public est ouverte.
Cette décision de classement, qui met un terme au litige en confirmant la décision de l'office AI du 19 mai 2008, prive la masse recourante de la faculté de faire valoir en instance cantonale les droits litigieux de feu S._, le cas échéant en les cédant à des créanciers qui en feraient la demande. La qualité pour recourir de la masse en faillite est ainsi donnée en vertu de l'art. 89 al. 1 let. a LTF (s'agissant de sa qualité d'être partie et d'ester en justice, voir NICOLAS JEANDIN / PHILIPP ESCHER, Poursuite et faillite, Commentaire romand, n. 9 ad art. 240 LP).
L'office des faillites n'a pris connaissance de la décision du 16 octobre 2008 que le 22 juillet 2009, lorsqu'il a réceptionné l'écriture de Me C._ du 20 juillet précédent. Ce jour marque le dies a quo du délai de recours (voir par ex. l'arrêt H 143/95 du 19 octobre 1995 consid. 4), si bien que le délai de 30 jours (art. 100 al. 1 LTF) a été respecté par le dépôt du mémoire le 11 septembre 2009, compte tenu des féries d'été (art. 46 al. 1 let. b LTF).
3. 3.1 La masse en faillite se prévaut de la violation de plusieurs règles légales, singulièrement de l'art. 207 LP.
3.2 Selon l'art. 207 LP, sauf dans les cas d'urgence, les procès civils auxquels le failli est partie et qui influent sur l'état de la masse en faillite sont suspendus. Ils ne peuvent être continués, en cas de liquidation ordinaire, qu'après les dix jours qui suivent la seconde assemblée des créanciers et, en cas de liquidation sommaire, qu'après les 20 jours qui suivent le dépôt de l'état de collocation (al. 1). Les procédures administratives peuvent être suspendues aux mêmes conditions que les procès civils (al. 2).
3.3 Lors de l'ouverture de la liquidation de la faillite consécutive à la répudiation de la succession de feu S._, la décision administrative du 19 mai 2008 portant réduction et suspension de la rente de l'assurance-invalidité faisait l'objet d'un examen par le juge des assurances sociales. Conformément à l'art. 207 al. 2 LP, le tribunal cantonal aurait dû examiner la question de la suspension du procès puis motiver sa décision sous l'angle de cette disposition légale, ce qu'il n'a pas fait. Pour ce motif, la décision du 16 octobre 2008 sera annulée et la cause renvoyée à la Cour des assurances du Tribunal cantonal du canton de Fribourg.
Dans ces conditions, on peut laisser indécise la question de savoir si le procès cantonal doit ou peut être suspendu, selon l'art. 207 al. 2 LP (cf. ATF 116 V 284; arrêt 2C_69/2007 du 17 août 2007 consid. 4.1, in Revue fiscale 63/2008 p. 281; à ce sujet, voir aussi ISABELLE ROMY, Poursuite et faillite, Commentaire romand, n. 31 et 32 ad art. 207, citant PIERRE-ROBERT GILLIÉRON, Commentaire de la loi fédérale sur la poursuite pour dettes et la faillite, n. 29 à 32 ad art. 207), car cet examen n'a pas encore eu lieu.
4. L'intimé, qui a conclu au rejet du recours, supportera les frais et dépens de la procédure fédérale (art. 66 al. 1 et 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis. La décision de la Cour des assurances sociales du Tribunal cantonal du canton de Fribourg du 16 octobre 2008 est annulée, la cause lui étant renvoyée pour qu'il examine la question de la suspension du procès dont il est saisi.
2. Les frais de justice, arrêtés à 500 fr., sont mis à la charge de l'intimé.
3. L'intimé versera une indemnité de dépens de 2'800 fr. (y compris la TVA) à la masse en faillite recourante pour l'instance fédérale.
4. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 7 mai 2010
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Le Greffier:
Meyer Berthoud