Faits:
A. A.a Z._ était au bénéfice du revenu minimum de réinsertion (ci-après: RMR) depuis le 1er mars 2004.
Par décision du 16 juin 2005, le Centre social régional de Lausanne (ci-après: CSR) a supprimé, avec effet au 1er mai 2005, le droit de l'intéressé au RMR au motif qu'il avait exercé une activité indépendante de juriste-conseil dès le 1er mars 2004 et qu'il avait caché l'existence d'un compte bancaire faisant ressortir un revenu total de 29'703 fr. 90 en rapport avec cette occupation. Par ailleurs, par décision du 23 juin 2005, le CSR lui a réclamé la restitution de 35'106 fr. 50 correspondant aux prestations financières versées à tort depuis le 1er mars 2004.
Le 17 février 2006, le Service de prévoyance et d'aide sociales (ci-après: SPAS) a rejeté le recours interjeté par Z._ contre ces deux décisions.
Par jugement du 31 mai 2007 (cause PS.2006.0055), le Tribunal administratif (devenu depuis le 1er janvier 2008, la Cour de droit administratif et public du Tribunal cantonal) a admis le recours et annulé la décision du 17 février 2006 du SPAS et renvoyé la cause à cette autorité pour instruction complémentaire sur la question de savoir si l'activité de juriste-conseil pouvait être ou non qualifiée d'accessoire et nouvelle décision.
A.b Après avoir requis de Z._ divers renseignements, le SPAS a confirmé les décisions du CSR des 16 et 23 juin 2005 (décision du 26 mars 2008).
Par jugement du 7 juillet 2009 (cause PS.2008.0024), la Cour de droit administratif et public a partiellement admis le recours interjeté par le prénommé à l'encontre de cette décision et invité le SPAS à déterminer le gain net réalisé par l'intéressé, dans la mesure où il n'était tenu de rembourser que la part du RMR dépassant ce montant.
A.c Le 7 août 2009, le SPAS a sollicité la production par Z._ de toutes pièces permettant d'établir le paiement par ses soins de frais d'acquisition du revenu pour la période de mars 2004 à mai 2005. Le prénommé a répondu le 1er septembre suivant qu'il n'avait pas conservé de quittances, fiches ou autres pièces relatives à cette période, si bien qu'il lui était difficile de fournir les documents utiles. Il a indiqué qu'il avait encouru des frais de diverse nature en relation avec son activité indépendante.
Par décision du 18 septembre 2009, le SPAS a admis partiellement le recours formé par Z._ et réformé les décisions du CSR des 16 et 23 juin 2005 en ramenant le montant dont il était redevable à 29'103 fr. 90 et en confirmant la suppression du RMR à titre de sanction pour deux mois.
B. Par écriture du 23 octobre 2009, Z._ a déféré la décision du 18 septembre 2009 à la Cour de droit administratif et public en produisant divers documents. Après avoir pris en considération les frais relatifs à l'insertion dans l'annuaire téléphonique et les factures relatives au « Business number » par 2'386 fr. 45 au total, le SPAS a ramené le montant dû par l'intéressé à 26'717 fr. 45. Le 28 janvier 2011, ce dernier a encore produit plusieurs quittances pour son véhicule pour une somme de 1'826 fr. 80. Il a sollicité la déduction de ces montants de son revenu accessoire brut.
Statuant par jugement du 11 février 2011, la Cour de droit administratif et public a partiellement admis le recours. Elle a réformé la décision du SPAS en ce sens que l'intéressé était tenu de rembourser le montant de 26'717 fr. 45 et confirmé ladite décision pour le surplus.
C. Z._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation en concluant, à titre principal, à ce que le montant réel des frais et des entrées pour l'activité allant de mars 2004 à mai 2005 soit fixé selon ce que justice dira. A titre subsidiaire, il sollicite le renvoi de la cause à la Cour de droit administratif et public pour complément d'instruction et nouvelle décision dans le sens des considérants. A titre préliminaire, il demande que le Tribunal fédéral mette en oeuvre lui-même une expertise destinée à établir les frais réels liés à son activité juridique et d'interprète occasionnelle pour la période de mars 2004 à mai 2005.

Considérant en droit:
1. La voie du recours en matière de droit public est ouverte en l'espèce. Le recours est en effet dirigé contre un jugement final (<ref-law>) rendu dans une cause de droit public (<ref-law>) par une autorité cantonale de dernière instance (art. 86 al. 1 let. d LTF), sans que l'on se trouve dans l'un des cas d'exception mentionnés par l'<ref-law>.
2. Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité aux articles 95 et 96 LTF. Le Tribunal fédéral ne peut revoir les questions de droit cantonal que sous l'angle restreint de l'arbitraire (sur cette notion: <ref-ruling> consid. 2.1 p. 9), dans le cadre d'un moyen pris de la violation d'un droit constitutionnel (cf. art. 95 et 96 LTF, a contrario), expressément soulevé et développé conformément aux exigences de motivation accrues prévues à l'<ref-law>. Celles-ci imposent au recourant d'expliquer de manière claire et précise en quoi le droit constitutionnel aurait été violé (cf. <ref-ruling> consid. 1.4 p. 287).
3. En l'espèce, le recourant ne conteste pas la sanction infligée par le CSR consistant en la suppression du RMR pendant deux mois. Le litige porte donc sur l'étendue du remboursement exigible par l'intimé.
4. 4.1 Le jugement attaqué repose sur les art. 49 al. 1 et 50 al. 2 de l'ancienne loi sur l'emploi et l'aide aux chômeurs (LEAC), sur l'art. 39 al. 2 du règlement d'application de cette loi (REAC) ainsi que sur l'art. 30 de la loi vaudoise du 28 octobre 2008 sur la procédure administrative (LPA-VD; RSV 173.36). Cette dernière disposition fait obligation aux parties de collaborer à la constatation des faits dont elles entendent déduire des droits et prévoit que si elles refusent de prêter leur concours, l'autorité peut statuer en l'état du dossier.
4.2 Selon les premiers juges, sollicité à plusieurs reprises et à différents stades des trois procédures le concernant, le recourant s'est limité à produire certaines pièces éparses, à faire des allégations non étayées et à s'en remettre à l'appréciation de l'autorité qu'il estimait être en mesure de déterminer ses frais de revenus. Le recourant n'avait pas pu établir que les frais d'acquisition du revenu dépassaient 2'386 fr. 45, si bien que le montant à rembourser s'élevait à 26'717 fr. 45 (soit 29'103 fr. 90 - 2'386 fr. 45). Les premiers juges ont précisé que l'on pouvait attendre d'un conseiller juridique, de formation universitaire, qu'il fournisse des justificatifs, le cas échéant une comptabilité permettant de déterminer concrètement l'étendue de son activité indépendante accessoire.
4.3 Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (<ref-law>), sous réserve des cas prévus à l'<ref-law>. Le recourant ne peut critiquer la constatation de faits importants pour le jugement de la cause que si ceux-ci ont été établis en violation du droit au sens de l'<ref-law> ou de manière manifestement inexacte (<ref-law>), c'est-à-dire arbitraire, et si la correction du vice est susceptible d'influer sur le sort de la cause. La violation peut consister en un état de fait incomplet, car l'autorité précédente viole le droit matériel en n'établissant pas tous les faits pertinents pour l'application de celui-ci. L'appréciation des preuves est arbitraire lorsqu'elle est manifestement insoutenable, en contradiction avec le dossier, ou contraire au sens de la justice et de l'équité ou lorsque l'autorité ne tient pas compte, sans raison sérieuse, d'un élément propre à modifier la décision, se trompe sur le sens et la portée de celui-ci ou, se fondant sur les éléments recueillis, en tire des constatations insoutenables. Il appartient au recourant de démontrer le caractère arbitraire par une argumentation répondant aux exigences de l'<ref-law>, respectivement de l'<ref-law> (<ref-ruling> consid. 4.1.2 p. 62 et les références).
4.4 En l'espèce, le recours ne contient aucune démonstration du caractère arbitraire de l'état de fait du jugement du attaqué. En effet, le recourant n'expose pas en quoi l'appréciation des preuves par la juridiction cantonale est manifestement insoutenable, mais il se contente d'alléguer qu'il a prouvé l'existence d'autres frais en relation avec l'acquisition de son revenu. Par ailleurs, à l'appui d'une lettre du 1er janvier 2010 qu'il avait adressée aux premiers juges, il réitère que son revenu net approximatif était de 13'610 fr., montant que ceux-ci n'ont pas retenu pour des motifs exposés au considérant. 3c du jugement entrepris (p. 6). Les éléments factuels dont se prévaut le recourant reviennent à critiquer les faits retenus par les premiers juges. En l'absence de grief suffisamment motivé, il y a lieu de s'en tenir aux considérants pertinents du jugement attaqué auxquels il est renvoyé (<ref-law>).
4.5 Sur le vu de ce qui précède, les premiers juges pouvaient considérer que le recourant avait violé son obligation de collaborer à la constatation des faits dont il entendait déduire des droits (cf. art. 30 al. 1 LPA-VD). Ils étaient fondés à statuer en l'état du dossier conformément à l'art. 30 al. 2 LPA-VD et à retenir que le montant dû par le recourant à l'intimé s'élève à 26'717 fr. 45. Dans ces circonstances, il y a lieu de rejeter la demande de mise en oeuvre d'une expertise, laquelle ne saurait suppléer l'obligation de collaborer à laquelle le recourant était tenu.
5. Le recourant voit ses conclusions rejetées, de sorte qu'il supportera les frais de la procédure (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Dans la mesure où il est recevable, le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lucerne, le 24 janvier 2012
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: Ursprung
La Greffière: Berset