Faits: A. A.a Z._ était au bénéfice du revenu minimum de réinsertion (ci-après: RMR) depuis le 1er mars 2004. Par décision du 16 juin 2005, le Centre social régional de Lausanne (ci-après: CSR) a supprimé, avec effet au 1er mai 2005, le droit de l'intéressé au RMR au motif qu'il avait exercé une activité indépendante de juriste-conseil dès le 1er mars 2004 et qu'il avait caché l'existence d'un compte bancaire faisant ressortir un revenu total de 29'703 fr. 90 en rapport avec cette occupation. Par ailleurs, par décision du 23 juin 2005, le CSR lui a réclamé la restitution de 35'106 fr. 50 correspondant aux prestations financières versées à tort depuis le 1er mars 2004. Le 17 février 2006, le Service de prévoyance et d'aide sociales (ci-après: SPAS) a rejeté le recours interjeté par Z._ contre ces deux décisions. Par jugement du 31 mai 2007 (cause PS.2006.0055), le Tribunal administratif (devenu depuis le 1er janvier 2008, la Cour de droit administratif et public du Tribunal cantonal) a admis le recours et annulé la décision du 17 février 2006 du SPAS et renvoyé la cause à cette autorité pour instruction complémentaire sur la question de savoir si l'activité de juriste-conseil pouvait être ou non qualifiée d'accessoire et nouvelle décision. A.b Après avoir requis de Z._ divers renseignements, le SPAS a confirmé les décisions du CSR des 16 et 23 juin 2005 (décision du 26 mars 2008). Par jugement du 7 juillet 2009 (cause PS.2008.0024), la Cour de droit administratif et public a partiellement admis le recours interjeté par le prénommé à l'encontre de cette décision et invité le SPAS à déterminer le gain net réalisé par l'intéressé, dans la mesure où il n'était tenu de rembourser que la part du RMR dépassant ce montant. A.c Le 7 août 2009, le SPAS a sollicité la production par Z._ de toutes pièces permettant d'établir le paiement par ses soins de frais d'acquisition du revenu pour la période de mars 2004 à mai 2005. Le prénommé a répondu le 1er septembre suivant qu'il n'avait pas conservé de quittances, fiches ou autres pièces relatives à cette période, si bien qu'il lui était difficile de fournir les documents utiles. Il a indiqué qu'il avait encouru des frais de diverse nature en relation avec son activité indépendante. Par décision du 18 septembre 2009, le SPAS a admis partiellement le recours formé par Z._ et réformé les décisions du CSR des 16 et 23 juin 2005 en ramenant le montant dont il était redevable à 29'103 fr. 90 et en confirmant la suppression du RMR à titre de sanction pour deux mois. B. Par écriture du 23 octobre 2009, Z._ a déféré la décision du 18 septembre 2009 à la Cour de droit administratif et public en produisant divers documents. Après avoir pris en considération les frais relatifs à l'insertion dans l'annuaire téléphonique et les factures relatives au « Business number » par 2'386 fr. 45 au total, le SPAS a ramené le montant dû par l'intéressé à 26'717 fr. 45. Le 28 janvier 2011, ce dernier a encore produit plusieurs quittances pour son véhicule pour une somme de 1'826 fr. 80. Il a sollicité la déduction de ces montants de son revenu accessoire brut. Statuant par jugement du 11 février 2011, la Cour de droit administratif et public a partiellement admis le recours. Elle a réformé la décision du SPAS en ce sens que l'intéressé était tenu de rembourser le montant de 26'717 fr. 45 et confirmé ladite décision pour le surplus. C. Z._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation en concluant, à titre principal, à ce que le montant réel des frais et des entrées pour l'activité allant de mars 2004 à mai 2005 soit fixé selon ce que justice dira. A titre subsidiaire, il sollicite le renvoi de la cause à la Cour de droit administratif et public pour complément d'instruction et nouvelle décision dans le sens des considérants. A titre préliminaire, il demande que le Tribunal fédéral mette en oeuvre lui-même une expertise destinée à établir les frais réels liés à son activité juridique et d'interprète occasionnelle pour la période de mars 2004 à mai 2005.