A.- Par décision du 13 octobre 1998, l'Office cantonal genevois de l'assurance-invalidité (l'office AI) a alloué une demi-rente d'invalidité à P._.
B.- Représenté par l'Hospice général, Institution genevoise d'action sociale (ci-après : l'Hospice général), l'assuré a déféré cette décision à la Commission cantonale genevoise de recours en matière d'AVS/AI, en concluant au versement d'une rente entière.
Par décision du 17 février 1999, rendue pendente lite, l'administration a annulé sa décision litigieuse et alloué à l'assuré une rente entière d'invalidité. Se déclarant satisfait, ce dernier a retiré son recours, par écriture du 30 mars 1999.
Le 21 avril 1999, la commission de recours a rendu un jugement dont le dispositif tient dans les termes suivants :
1. Constate que le recours a été retiré.
2. Raye la cause du rôle.
3. Octroie au recourant la somme de 500 fr. à titre de
participation aux frais de son mandataire.
C.- L'office AI interjette recours de droit administratif contre ce jugement. Il en demande l'annulation dans la mesure où une indemnité de dépens de 500 francs est allouée à P._.
Ce dernier et la commission de recours s'en remettent à justice. Quant à l'Office fédéral des assurances sociales, il propose l'admission du recours.
Les moyens des parties seront exposés ci-après en tant que de besoin.

Considérant en droit :
1.- Il s'agit d'examiner si un assuré qui obtient gain de cause devant l'autorité cantonale de recours peut prétendre une indemnité de dépens, en vertu de l'art. 85 al. 2 let. f LAVS, lorsqu'il est représenté en justice par l'Hospice général, Institution genevoise d'action sociale (ci-après: l'Hopice général). A cet égard, il y aura lieu de prendre également en considération la pratique du Tribunal fédéral des assurances en matière de dépens (art. 159 OJ).
2.- Dans un arrêt du 12 juillet 1996 (<ref-ruling>), le Tribunal fédéral des assurances a changé sa jurisprudence en matière de droit aux dépens. Il a jugé qu'une partie représentée par l'Association suisse des invalides (ASI) et qui obtient gain de cause a droit à une indemnité de dépens, tant pour la procédure de recours fédérale (<ref-ruling> consid. 3e/aa) que pour la procédure cantonale (VSI 1997 p. 36 consid. 5). A cette occasion, la Cour de céans a laissé indécis le point de savoir si cette réglementation est applicable lorsque d'autres organismes offrent une représentation qualifiée aux assurés (<ref-ruling> consid. 3e/bb).
Selon la jurisprudence, peuvent également prétendre des dépens les assurés qui sont représentés par le Service juridique de la Fédération suisse pour l'intégration des handicapés (SVR 1997 IV n° 110 p. 341), Pro Infirmis (arrêt non publié K. du 30 avril 1998, I 501/97), l'Union Helvetia (arrêt non publié B. du 3 février 1995, C 207/94), le Syndicat industrie et bâtiment (arrêt non publié S. du 18 octobre 1982, I 177/82), un médecin (consid. 7 non publié de l'arrêt <ref-ruling>), la rédaction du Schweizerischer Beobachter (arrêt non publié H. du 15 février 1999, I 16/98), le Patronato INCA (arrêt non publié G. du 19 novembre 1998, I 336/97), CARITAS (arrêt non publié P. du 28 mai 1998, I 395/97), diverses communautés de travail de malades et d'invalides (consid. 4 non publié dans Praxis 1998 n° 59 p. 374; arrêts non publiés S. du 28 novembre 1989, I 209/89, et H. du 7 mars 1986, I 30/85), l'avocat d'une assurance de protection juridique (arrêt non publié H. du 27 janvier 1992, K 44/91), le Centro Consulenze (arrêt non publié F. du 6 avril 1990, I 246/89), et l'association Schweizerische Multiple Sklerose (arrêt non publié S. du 3 février 1999, I 14/99).
En revanche, postérieurement à l'arrêt <ref-ruling>, la Cour de céans n'a pas alloué de dépens à un assuré qui avait confié la défense de ses intérêts à l'Hospice général et qui avait obtenu gain de cause dans un litige qui l'opposait à un assureur-accidents (arrêt du 19 août 1996, publié dans la SVR 1997 UV n° 91 p. 331).
3.- La Commission cantonale genevoise de recours en matière d'AVS/AI a justifié l'allocation de dépens en se fondant sur les considérants de l'arrêt <ref-ruling>. Elle a rappelé que si un membre d'une association ne supporte pas de frais judiciaires personnellement (comme c'est le cas en l'espèce), outre les cotisations éventuelles dont il s'acquitte, l'association qui le représente doit néanmoins rémunérer ses juristes ou avocats. Aussi l'allocation d'une indemnité en faveur du mandataire, l'Hospice général, lui a-t-elle paru équitable.
Dans ses observations sur le recours, la commission a précisé que l'Hospice général emploie ses propres avocats et que les assurés ne peuvent alors pas bénéficier de l'assistance juridique.
4.- A l'appui de ses conclusions, l'office recourant allègue que selon l'art. 169 de la Constitution de la République et canton de Genève, l'Hospice général, Institution genevoise d'action sociale, est un organisme chargé de l'assistance publique. L'art. 1 al. 1 de la loi genevoise sur l'assistance publique (RS/GE J 4 05, LAP/GE) stipule que la famille pourvoit à l'entretien de ses membres; à défaut, l'Etat, soit pour lui les organismes chargés de l'assistance publique, intervient de façon appropriée. L'assistance publique s'étend à toutes les personnes séjournant dans le canton de Genève (<ref-law>/GE). L'Hospice général est placé sous la direction générale et la surveillance du département de l'action sociale et de la santé (<ref-law>/GE). Cet organisme est un établissement de droit public qui est chargé d'appliquer la politique sociale définie par la Grand Conseil et le Conseil d'Etat (<ref-law>/GE).
Compte tenu de ce qui précède, l'office recourant soutient que le but et le fonctionnement de l'Hospice général, qui est une institution publique et générale d'aide sociale, sont très différents de ceux poursuivis par l'ASI. Il estime en conséquence qu'il ne se justifie pas d'appliquer aux assurés représentés par l'Hospice général la nouvelle jurisprudence de l'arrêt <ref-ruling>.
5.- Les arguments du recourant sont pertinents. Contrairement aux représentants qualifiés énoncés au consid. 2, dont le champ d'activité ressortit au droit privé, l'Hospice général est une institution de droit public. Celle-ci ne tire pas ses ressources des cotisations ou du soutien financier de ses membres, mais essentiellement de subventions étatiques destinées à lui permettre de mener à bien sa fonction d'organisme d'assistance publique du canton de Genève.
Faute de justification économique, il n'y a donc pas lieu d'appliquer les principes exposés dans l'arrêt <ref-ruling> au cas de l'assuré représenté par une institution publique d'assistance. En l'espèce, l'intimé n'a pas engagé de frais pour la défense de ses intérêts et son mandataire l'assiste gratuitement (le contraire n'est ni allégué ni établi) en vertu de la législation genevoise sur l'assistance publique. Dans ces conditions, l'allocation d'une indemnité de dépens n'était pas justifiée.
Le recours doit en conséquence être admis dans le sens des conclusions de l'office AI.
6.- La procédure n'est pas gratuite, s'agissant d'un litige qui ne porte pas sur l'octroi ou le refus de prestations d'assurance (art. 134 OJ a contrario). Les frais de justice devraient en conséquence être mis à la charge de l'intimé qui succombe (art. 156 al. 1 OJ) et qui n'a pas sollicité l'assistance judiciaire pour la procédure fédérale (art. 152 al. 1 OJ).
Néanmoins, comme l'intimé est lui-même assisté par l'Hospice général, on peut présumer qu'il n'est pas en mesure de supporter des frais de justice et le tribunal renoncera donc à en percevoir au regard des circonstances de l'espèce.

Par ces motifs, le Tribunal fédéral des assurances
p r o n o n c e :
I. Le recours est admis et le ch. 3 du dispositif du
jugement de la Commission cantonale genevoise de re-
cours en matière d'AVS/AI du 21 avril 1999 est annulé.
II. Il n'est pas perçu de frais de justice.
III. L'avance de frais effectuée par le recourant, d'un
montant de 400 fr., lui est restituée.
IV. Le présent arrêt sera communiqué aux parties, à la
Commission cantonale genevoise de recours en matière
d'assurance-vieillesse, survivants et invalidité et à
l'Office fédéral des assurances sociales.
Lucerne, le 18 février 2000
Au nom du
Tribunal fédéral des assurances
Le Président de la Ière Chambre :
Le Greffier :