Faits:
A. A.a R._ est entré au corps de police de la Municipalité de Lausanne le 1er mars 2002 en qualité d'appointé. Il a été nommé définitivement avec effet au 1er mars 2003. Il a atteint le grade de brigadier le 1er juillet 2008. Il est affecté à police-secours. Depuis le 1er août 2007, il fonctionne comme répondant Alpha pour sa section, c'est-à-dire qu'il est spécialement formé pour lutter contre le trafic visible de stupéfiants en rue.
A.b La nuit du 8 février 2010, il dirigeait une patrouille motorisée avec l'appointé F._ et l'agent S._. Vers 2h15, les trois policiers ont appréhendé une personne d'origine africaine, qui leur avait paru suspecte, car elle avait pris la fuite à leur vue. Après avoir obtenu l'autorisation orale de leur chef de section, le premier lieutenant O._, les policiers ont conduit le suspect à l'Hôtel de police pour le soumettre à une fouille complète. Ces investigations n'ont rien donné. La personne interpellée, identifiée comme étant B._, a alors repris possession de ses effets personnels et aurait dû être relâchée. C'est alors que R._ s'est adressé à elle en anglais en lui demandant les raisons de sa fuite à la vue de la patrouille. Répondant au brigadier, l'intéressé a déclaré, en souriant, qu'il aimait courir. Après lui avoir demandé s'il souhaitait à nouveau pratiquer la course à pied et obtenu une réponse positive, R._ lui a proposé de l'emmener dans un endroit où il pourrait pratiquer ce sport, ce que B._ a accepté. Les trois policiers l'ont alors transporté en voiture jusqu'à la Place des fêtes de X._, l'y ont déposé et sont repartis après que R._ eut indiqué à l'intéressé, en anglais, la direction du centre-ville, ainsi que le chemin conduisant à la piste de X._.
Peu après 3h00 cette même nuit, ne parvenant pas à retrouver son chemin, B._ a composé le numéro d'urgence de la police. Son appel a été reçu par la centrale de la Police cantonale vaudoise, qui l'a transféré à la centrale d'alarme et d'engagement de la police municipale. L'auteur de l'appel a déclaré être perdu dans la neige et la forêt et ne pas parvenir à retrouver son chemin. L'opérateur a lancé un appel général sur les ondes. R._ s'est spontanément annoncé et, a entrepris de retourner avec sa patrouille sur la Place des fêtes de X._. Entre-temps, la patrouille a été avertie que, dans l'intervalle, l'intéressé avait déclaré avoir retrouvé son chemin. Ayant surpris ce message sur les ondes, le premier lieutenant O._ a téléphoné à R._ et l'a invité à réintégrer l'Hôtel de police sans tarder. A 3h45, les deux hommes se sont entretenus dans un box d'audition sur les circonstances exactes de l'intervention.
A.c Le 10 février 2010, R._, F._ et S._ ont chacun rédigé une note de service à l'intention du commandant de police, en y relatant les faits survenus dans la nuit du 8 février 2010. Le même jour, le premier lieutenant O._ a pareillement adressé sa note de service au commandant de police. Le lendemain, celui-ci a dénoncé les faits au Juge d'instruction cantonal, en indiquant qu'ils pourraient éventuellement être constitutifs d'infractions pénales poursuivies d'office et en lui demandant de le renseigner sur les éventuelles suites pénales dans la perspective de conséquences administratives possibles.
A.d Le 15 février 2010, une procédure pénale a été ouverte contre R._, F._ et S._. Les trois prévenus ont été entendus le 22 mars 2010 par le juge d'instruction. R._ a été inculpé d'abus d'autorité. Le 28 avril 2010, le juge d'instruction a rendu à l'encontre de R._ un avis de prochaine condamnation. Le même jour, il a adressé un avis de prochaine clôture à F._ et S._. Le commandant de police a reçu copie de ces avis pour information.
A.e Entre-temps, dans sa séance du 10 mars 2010, la municipalité a été informée des événements du 8 février 2010 par une note de la direction dont dépendait R._. Dans cette même séance, elle a décidé d'ouvrir une enquête à son encontre pouvant éventuellement conduire à son licenciement pour justes motifs.
A.f Le 10 mai 2010, M._, conseiller municipal et directeur de la sécurité publique et des sports de la municipalité a informé R._ de l'ouverture d'une enquête administrative à son endroit pouvant conduire à son licenciement pour justes motifs au sens des art. 70 ss du règlement pour le personnel de l'administration communal (RPAC), voire de l'art. 38 du règlement du corps de police (RCP). M._ précisait à l'intéressé que la municipalité l'avait chargé de l'entendre dès qu'il serait en possession des éléments de fait suffisants pour en tirer des conséquences sur le plan des rapports de service. Cette lettre faisait référence à l'audition par le juge d'instruction du 22 mars 2010 ainsi qu'à l'avis de prochaine condamnation du 28 avril 2010. L'audition, initialement prévue pour le 18 mai 2010, a dû être reportée au 31 mai 2010, le fonctionnaire étant en congé à l'étranger.
A.g Le 27 mai 2010, le juge d'instruction a renvoyé R._ devant le Tribunal d'arrondissement de Lausanne comme accusé d'abus d'autorité au sens de l'art. 312 CP. Au bénéfice du doute, il a prononcé un non-lieu en faveur de F._ et de S._. Le même jour, R._ a requis la suspension de la procédure administrative jusqu'à droit connu sur la procédure pénale.
A.h R._ a été entendu, comme prévu, le 31 mai 2010. A cette occasion, M._ a écarté sa demande tendant à la suspension de la procédure administrative. A l'issue de l'audition, M._ a signifié à l'intéressé que son licenciement immédiat pour justes motifs serait proposé à la municipalité. A la fin de l'entretien, il l'a invité à se déterminer sur une suspension de ses fonctions avec maintien du traitement. Par lettre du 17 juin 2010 le policier a répondu qu'il ne souhaitait pas être libéré de son obligation de travailler.
Dans sa séance du 23 juin 2010, la municipalité a pris la décision de principe de licencier R._ avec effet immédiat pour justes motifs. Elle a toutefois accepté de lui verser son traitement, à titre exceptionnel, durant trois mois après la fin des rapports de service. Indiquant que sa décision définitive n'interviendrait qu'après réception du préavis de la commission paritaire, elle a ordonné la suspension préventive de l'intéressé avec maintien du traitement.
B. Après avoir entendu plusieurs témoins, la commission paritaire a rendu son préavis le 28 septembre 2010. Elle a relevé que presque cinq mois s'étaient écoulés entre les faits incriminés et la décision de suspension, qui aurait pourtant dû intervenir immédiatement. Elle a estimé que les faits reprochés n'étaient pas constitutifs d'une faute justifiant une rupture irrémédiable du lien de confiance et qu'un licenciement était une mesure disproportionnée au regard de la faute commise.
Dans une séance du 29 septembre 2010, la municipalité a décidé de licencier R._ avec effet immédiat pour justes motifs et décidé de lui verser, à bien plaire, une indemnité correspondant à trois mois de salaire. Cette décision a été communiquée à l'intéressé le 19 octobre 2010.
C. R._ a recouru contre cette décision devant la Cour de droit administratif et public du Tribunal cantonal vaudois en concluant à l'annulation de la décision attaquée, subsidiairement à sa réforme en ce sens que le licenciement est remplacé par une mise en demeure.
Le 25 novembre 2010, le juge instructeur a restitué à titre préprovisoire l'effet suspensif au recours.
Statuant le 17 janvier 2011, la Cour a admis le recours. Elle a modifié la décision attaquée en ce sens qu'une mise en demeure formelle assortie d'une menace de licenciement au sens de l'art. 71bis RPAC est signifiée à R._.
D. La Municipalité de Lausanne a formé un recours en matière de droit public dans lequel elle a conclu, principalement, à l'annulation de l'arrêt attaqué et à la confirmation du licenciement prononcé le 19 octobre 2010. Subsidiairement, elle a conclu au renvoi de la cause à la municipalité pour nouvelle décision au sens des motifs.
R._ conclut à l'irrecevabilité du recours, subsidiairement à son rejet.
E. Par ordonnance du 22 août 2011, le juge instructeur a accordé l'effet suspensif au recours.
Considérant en droit:
1. Selon l'art. 83 let. g LTF, en matière de rapports de travail de droit public (lorsque, comme en l'espèce, la question de l'égalité des sexes n'est pas en cause), le recours en matière de droit public est irrecevable contre les décisions qui concernent une contestation non pécuniaire. Il ressort du dossier que l'intimé ne conclut pas au versement d'une somme d'argent, mais demande l'annulation de la décision résiliant ses rapports de service. Dans cette mesure, on peut considérer qu'il s'agit d'une contestation pécuniaire, et le motif d'exclusion de l'art. 83 let. g LTF n'entre pas en considération (voir les arrêts 8C_170/2009 consid. 1.1 du 25 août 2009, 1C_547/2008 du 23 février 2009 consid. 2.1 et 1C_116/ 2007 du 24 septembre 2007 consid. 2). En outre, le seuil requis de la valeur litigieuse (art. 85 al. 1 let. b LTF) est atteint (cf. p. ex arrêt 8C_541/2010 du 20 juin 2011 consid. 1.2).
2. Selon l'art. 89 al. 2 let. c LTF, les communes et autres collectivités publiques ont qualité pour recourir en invoquant la violation de garanties qui leur sont reconnues par les Constitutions cantonale ou fédérale. La municipalité invoque l'autonomie qui lui est reconnue dans le domaine de la gestion du personnel. Il y a donc lieu de lui reconnaître la qualité pour agir sur la base déjà de cette disposition. La question de savoir si elle est réellement autonome dans le domaine considéré relève du fond (ATF 135 I 43 consid. 1.2 p. 45; 129 I 313 consid. 4.2 p. 319). Au reste, la recourante peut également agir sur la base de l'art. 89 al. 1 LTF, en tant qu'elle est touchée de manière analogue à un employeur privé (cf. ATF 134 I 204 consid. 2.3 p. 207).
3. Pour le surplus, interjeté en temps utile et dans les formes requises contre une décision finale prise en dernière instance cantonale non susceptible de recours devant le Tribunal administratif fédéral, le recours respecte les exigences des art. 42, 86 al. 1 let. d, 90 et 100 al. 1 LTF.
4. Le Tribunal fédéral a déjà eu l'occasion de constater que les communes vaudoises jouissent d'une autonomie pour régler sur une base de droit public les rapports de travail de leurs fonctionnaires (arrêts 8C_541/2010, précité, consid. 2.1, 8C_170/2009 du 25 août 2009 consid. 3.1 et 1C_539/2008 du 4 mai 2009 consid. 4.2 et les références citées). Cette autonomie se déduit de l'art. 139 Cst./VD et de la loi vaudoise du 28 février 1956 sur les communes ([LC]; RS/VD 175.11). En particulier, d'après l'art. 42 ch. 3 de cette loi, entrent dans les attributions des municipalités, la nomination des fonctionnaires et employés de la commune, la fixation de leur traitement et l'exercice du pouvoir disciplinaire.
Reconnue autonome dans un domaine, une commune peut se plaindre d'un excès voire d'un abus du pouvoir d'appréciation ou d'une fausse application par la juridiction cantonale des normes cantonales ou communales régissant le domaine en cause. Le Tribunal fédéral examine librement l'interprétation du droit constitutionnel cantonal ou fédéral; en revanche il ne vérifie l'application des règles de rang inférieur à la Constitution et la constatation des faits que sous l'angle restreint de l'arbitraire (ATF 128 I 3 consid. 2b p. 9; 126 I 133 consid. 2 p. 136; 122 I 279 consid. 8c p. 291).
5. 5.1 Sous le chapitre «Cessation des fonctions» et le titre marginal «Renvoi pour justes motifs», l'art. 70 du Règlement pour le personnel de l'administration communale de la Ville de Lausanne (RPAC) du 11 octobre 1977 (état au 1er février 2007) prévoit que la municipalité peut en tout temps licencier un fonctionnaire pour de justes motifs en l'avisant trois mois à l'avance au moins si la nature des motifs ou de la fonction n'exige pas un départ immédiat (al. 1).
D'après l'al. 2, constituent de justes motifs l'incapacité ou l'insuffisance dans l'exercice de la fonction et toutes autres circonstances qui font que, selon les règles de la bonne foi, la poursuite des rapports de service ne peut être exigée.
L'art. 71bis RPAC prévoit une mise en demeure pour les cas où un licenciement avec effet immédiat ne s'impose pas. Le licenciement doit alors être précédé d'une mise en demeure formelle écrite, assortie d'une menace de licenciement si le fonctionnaire ne remédie pas à la situation. Selon les circonstances, cette mise en demeure peut être répétée à plusieurs reprises.
Enfin, si la nature des justes motifs le permet, la municipalité peut ordonner, à la place du licenciement, le déplacement du fonctionnaire dans une autre fonction (art. 72 RPAC).
Ces dispositions sont complétées par l'art. 38 du règlement du corps de police de la Ville de Lausanne du 4 septembre 2007, selon lequel, en cas de violation avérée, grave ou répétée des devoirs de service ou des devoirs légaux, la Municipalité peut en tout temps licencier un policier moyennant un préavis de trois mois pour la fin d'un mois, si la nature des motifs ou de la fonction n'exige pas un départ immédiat.
5.2 Avec raison les premiers juges admettent, en l'espèce, l'existence d'un juste motif de renvoi au sens de l'art. 70 al. 2 RPAC. L'intégrité d'un fonctionnaire de police - brigadier de surcroît - à qui des pouvoirs étendus sont conférés, dont certains sont de nature à entraver la liberté d'autrui, répond à des exigences élevées (cf. arrêt 2P.273/2000 du 11 avril 2001 consid. 3b/bb). Comme le relève la juridiction cantonale, en ayant pris l'initiative, en sa qualité de chef de patrouille, de déplacer un individu qui aurait dû être relâché et de l'abandonner à une heure avancée de la nuit, en plein hiver sur un lieu peu fréquenté, l'intimé a contrevenu gravement à ses devoirs de fonction. De tels agissements s'apparentent à une mesure de rétorsion à l'encontre d'une personne dont le comportement narquois pouvait certes provoquer l'agacement. Pour autant, on pouvait attendre d'un policier ayant le rang de brigadier, disposant des pouvoirs conférés à cette fonction, qu'il ne cède pas à une provocation, qui n'était au demeurant pas d'une extrême gravité. A cela s'ajoute, comme le souligne également la juridiction cantonale, qu'un comportement en tous points irréprochable était exigible de la part d'un policier qui est souvent amené à officier comme chef de patrouille dans ses missions: l'attitude qu'il se doit d'adopter vis-à-vis des collègues l'accompagnant et dont il est responsable doit être exemplaire en toutes circonstances.
5.3 Les premiers juges ont toutefois considéré que si le commandant de police a jugé les faits suffisamment graves pour en informer le juge d'instruction le 11 février 2010 déjà, il n'a cependant pas jugé opportun d'en avertir la municipalité avec la même célérité ni de suspendre immédiatement l'intimé. Ce n'est que lorsque le corps de police a appris l'ouverture d'une enquête pénale qu'il s'est décidé à informer la municipalité des événements du 8 février 2010. La municipalité a décidé, le 10 mars 2010, d'ouvrir une enquête administrative à l'encontre des trois policiers, soit plus d'un mois après les faits. Deux mois supplémentaires se sont encore écoulés jusqu'au 10 mai 2010, date à laquelle le directeur de la sécurité publique et des sports a informé l'intéressé de l'ouverture d'une enquête administrative. Ce ne sont ainsi pas moins de trois mois qui se sont écoulés entre les événements du 8 février 2010 et la première communication au recourant. La municipalité ne pouvait, comme elle l'a prétendu, justifier sa passivité par la présomption d'innocence dont bénéficiait le fonctionnaire, car celui-ci avait d'emblée reconnu les faits. Rien au demeurant ne s'opposait à ce que la municipalité mène sa propre enquête administrative parallèlement à l'instruction pénale et qu'elle informe clairement et sans tarder l'intimé qu'elle considérait ses agissements comme des motifs constitutifs d'une résiliation immédiate et qu'elle l'entende dans la foulée. Bien que le délai de réaction de l'employeur soit nécessairement plus lent en droit public qu'en droit privé, le laps de temps écoulé entre la survenance des faits et l'avis au recourant de l'ouverture d'une procédure administrative à son endroit et sa convocation à une audition ne répondait pas à la condition d'immédiateté requise pour prononcer un licenciement immédiat. On doit bien plutôt inférer des circonstances que la mesure extrême que constitue un licenciement immédiat n'apparaissait pas s'imposer aux yeux de l'autorité qui en définitive a laissé s'écouler près de cinq mois entre les faits et sa décision de principe du 23 juin 2010 de licencier l'intimé avec effet immédiat. Par conséquent, il se justifiait de remplacer la mesure prise par la municipalité par une mise en demeure formelle assortie d'une menace de licenciement au sens de l'art. 71bis RPAC.
5.4 La recourante reproche à la juridiction cantonale d'avoir violé son autonomie en substituant son appréciation à la sienne. Selon elle, les juges cantonaux ont fait une application arbitraire de la notion d'immédiateté. La pratique selon laquelle la partie qui résilie un contrat de travail en invoquant des justes motifs ne dispose que d'un court délai de réflexion pour signifier la rupture immédiate des relations de travail n'est pas sans plus applicable en matière de rapports de travail de droit public. La recourante soutient que les spécificités de la procédure administrative que doit respecter l'employeur de droit public pour mettre fin aux rapports de service ne permettent pas de fixer de manière rigide un délai de réaction. La situation doit être examinée au regard des circonstances du cas d'espèce. On ne saurait, dans le cas présent, inférer des circonstances que la municipalité a démontré qu'elle entendait renoncer à la mesure extrême que constituait le licenciement.
5.5 Dans un arrêt 8C_294/2011 du 29 décembre 2011 destiné à la publication, le Tribunal fédéral a résumé les critères à prendre en considération en cas de déclaration de résiliation immédiate des rapports de travail dans le droit privé et dans le droit public. Il a notamment rappelé que la jurisprudence relative à l'art. 337 CO, selon laquelle la partie qui résilie un contrat de travail en invoquant des justes motifs ne dispose que d'un court délai de réflexion pour signifier la rupture immédiate des relations de travail (ATF 130 III 28 consid. 4.4 p. 34) n'était pas sans plus transposable en matière de rapports de travail de droit public. En ce domaine, le licenciement se fait en général par voie de décision motivée; il est souvent précédé d'une enquête, en particulier quand il s'agit d'étayer ou d'infirmer des soupçons. Durant l'enquête, l'intéressé bénéficie des garanties propres à la procédure administrative (voir en l'espèce l'art. 71 RPAC). En particulier, le droit d'être entendu doit être respecté. Indépendamment de ces garanties, les contingences liées aux procédures internes d'une administration ne permettent souvent pas de prendre une décision immédiate, surtout lorsque la décision ne peut être prise par le supérieur hiérarchique direct mais qu'elle dépend d'une autorité de nomination qui se réunit périodiquement seulement et qui doit confier une instruction à l'un de ses membres ou à un enquêteur externe à l'administration (arrêt 8C_170/2009 du 25 août 2009 consid. 6.2.1, JdT 2010 I 101). Le Tribunal fédéral a néanmoins précisé que si les spécificités de la procédure administrative qui s'imposaient à l'employeur de droit public pour mettre fin aux rapports de service permettaient de lui accorder un délai de réaction plus long qu'en droit privé, il ne devait pas pour autant laisser traîner les choses, ni tarder à informer l'employé qu'une résiliation immédiate des rapports de service était envisagée (arrêt 8C_294/2011 précité, consid. 6.5).
5.6 En l'espèce, le commandant de police a laissé s'écouler quatre semaines avant d'informer la municipalité des événements survenus le 8 février 2010. Peu importe que cela soit dû au fait qu'il ne jugeait pas ces événements comme suffisamment graves pour en référer immédiatement à sa hiérarchie ou à un dysfonctionnement au sein de l'administration. Toujours est-il que la commune doit se laisser opposer ce laps de temps dans le délai de réaction normalement admissible. La municipalité a encore laissé s'écouler deux mois entre le moment où elle a eu connaissance des faits et celui où elle a informé l'intimé de l'ouverture d'une enquête administrative à son endroit pouvant conduire à son licenciement pour justes motifs (10 mai 2010). Alors que les faits étaient considérés comme suffisamment graves par la municipalité pour justifier un licenciement immédiat, celle-ci n'a pas jugé utile de suspendre l'intimé de ses fonctions (art. 67 RPAC) - attendant encore près d'un mois supplémentaire pour le faire (23 juin 2010) -, ni même de le déplacer provisoirement. Jusque-là, l'intimé a exercé normalement sa fonction. L'argument avancé par la municipalité selon lequel elle attendait l'avancement de la procédure pénale pour prononcer le licenciement et suspendre l'intimé n'est pas pertinent puisqu'elle n'a de toute façon pas attendu l'issue de la procédure pénale pour se prononcer. Au demeurant, les faits ont été d'emblée reconnus par l'intimé. Il ne subsistait aucune incertitude quant à leur nature et leur gravité que les conclusions de l'enquête pénale auraient pu infirmer. En définitive, l'administration a attendu trois mois avant d'informer l'intimé d'une procédure de licenciement ouverte à son encontre et plus de quatre mois avant de le suspendre de ses fonctions. On remarquera qu'il n'y a pas eu d'enquête administrative qui aurait pu justifier un allongement de la procédure visant à un licenciement immédiat. On notera par ailleurs que la présente cause se distingue du cas de licenciement immédiat jugé dans l'affaire 8C_170/2009 (JdT 2010 I 101), qui concernait également un fonctionnaire de la municipalité de Lausanne. Dans cette affaire, l'intéressé s'était dit victime de mobbing et avait demandé et obtenu la mise en oeuvre d'une enquête à ce sujet, ce qui avait conduit à une suspension de la procédure aux fins de faire la lumière sur ces accusations.
Dans ces circonstances, la juridiction cantonale n'a pas fait une application arbitraire du RPAC.
5.7 La recourante fait encore valoir qu'on ne saurait lui reprocher d'avoir tardé à prononcer le licenciement dès lors que celui-ci n'avait en fin de compte pas eu lieu avec effet immédiat, l'intimé ayant bénéficié, conformément à l'art. 70 al. 1 RPAC, d'un préavis de trois mois entre la décision de licenciement (23 juin 2010) et la fin des rapports de service (31 octobre 2010). Il ressort cependant de l'art. 71bis al. 1 RPAC que lorsque le licenciement n'a pas lieu avec effet immédiat, il doit être précédé d'une mise en demeure formelle écrite, assortie d'une menace de licenciement si le fonctionnaire ne remédie pas à la situation. Or, en l'espèce le licenciement ne fait pas suite à une mise en demeure préalable, de sorte que seul un licenciement immédiat pouvait entrer en considération. Le grief doit par conséquent être écarté.
5.8 C'est à tort en revanche que les premiers juges, compte tenu de la gravité des faits, se sont contentés de prononcer un avertissement. En pareil cas, il appartient à la municipalité de décider si d'autres mesures s'imposent, notamment - comme le suggère à titre subsidiaire la recourante - un déplacement dans une autre fonction de manière à priver l'intéressé des prérogatives liées à l'usage quotidien de la force publique. Un déplacement pourrait même s'imposer après sa condamnation définitive. Selon l'art. 68a de la loi sur les communes (LC), une bonne réputation et l'absence d'une condamnation pour des actes contraires à la probité ou à l'honneur sont exigés pour faire partie d'un corps de police municipal. Par ailleurs, les agents de la police municipale de Lausanne bénéficient des pouvoirs conférés par le code de procédure pénale à la police judiciaire (art. 2 et 3 de la loi sur la police judiciaire [LPJu] du 3 décembre 1940, dans sa version en vigueur depuis le 1er janvier 2011 [RS/VD 133.15]). La commune allègue à ce propos que le pouvoir de police judiciaire est retiré à un agent lorsque celui-ci est condamné pour un délit en rapport avec sa fonction, ce qui limite sensiblement son champ d'activité professionnelle. Il n'y a pas lieu d'examiner plus avant cette question. C'est à la commune qu'il appartiendra de décider de la mesure qu'elle jugera adéquate.
6. En conclusion, c'est à juste titre que les premiers juges ont annulé le licenciement immédiat prononcé par la municipalité de Lausanne à l'encontre de l'intimé nonobstant l'existence de justes motifs de licenciement, dès lors que le délai de réaction de la commune ne respectait pas la durée raisonnablement admissible. En revanche, la juridiction cantonale devait laisser à la municipalité le pouvoir de prononcer, en lieu et place du licenciement, une mesure autre qu'un simple avertissement. A cette fin, la cause sera renvoyée à la recourante. Dans ce sens, le jugement attaqué doit être réformé.
7. La recourante, qui succombe partiellement, doit supporter la moitié des frais judiciaires (art. 66 al. 1 LTF). Agissant dans l'exercice de ses attributions officielles, elle n'a pas droit à des dépens (art. 68 al. 3 LTF; ATF 134 II 117 consid. 7 p. 118 s.). L'intimé, qui obtient partiellement gain de cause a droit à des dépens partiels à la charge de la Municipalité de Lausanne (art. 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis. Le chiffre II du dispositif du jugement de la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud, du 17 janvier 2011, est modifié en ce sens que la décision de la Municipalité de Lausanne du 19 octobre 2010 est annulée et la cause renvoyée à cette dernière pour nouvelle décision au sens des motifs du présent arrêt.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis pour 1'500 fr. à la charge de la recourante et pour 1'500 fr. à la charge de l'intimé.
3. La recourante versera à l'intimé la somme de 1'400 fr. à titre de dépens partiels pour la dernière instance.
4. Le présent arrêt est communiqué aux parties et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud.
Lucerne, le 9 mars 2012
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: Ursprung
La Greffière: Fretz Perrin