Faits:
A. Par jugement du 18 janvier 2011, le Tribunal de police de l'arrondissement de Lausanne a condamné X._ pour abus d'autorité à une peine pécuniaire de 10 jours-amende, à 50 fr. le jour, avec sursis et délai d'épreuve de deux ans.
B. Par jugement du 20 juin 2011, la Cour d'appel pénale du canton de Vaud a rejeté l'appel formé par X._ contre ce jugement.
En bref, cette autorité a estimé que, le 18 mai 2009, X._, alors agent de police rattaché à la brigade Police-secours de Lausanne, s'était rendu coupable d'abus d'autorité au sens de l'art. 312 CP en poussant, voire en jetant, Y._ de façon très violente au fond de la cellule dans laquelle il devait passer la nuit.
C. X._ forme un recours en matière pénale au Tribunal fédéral. Il conclut à son acquittement. Subsidiairement, il requiert l'annulation du jugement et le renvoi de la cause pour nouveau jugement dans le sens des considérants à une autorité de première instance, subsidiairement à l'autorité inférieure. Il sollicite également l'octroi de l'effet suspensif.
Aucun échange d'écriture n'a été ordonné.
Considérant en droit:
1. Le recourant invoque une violation de l'art. 389 al. 3 CPP. Il estime que les preuves requises dans sa déclaration d'appel auraient dû être administrées afin de démontrer que les images tirées du système de vidéo-surveillance de la cellule ne reflétaient pas la réalité et ne pouvaient dès lors jouer un rôle déterminant dans sa condamnation [recours p. 15].
1.1 Aux termes de l'art. 389 al. 1 CPP, la procédure de recours se fonde sur les preuves administrées pendant la procédure préliminaire et la procédure de première instance. L'art. 389 al. 3 CPP prévoit toutefois que l'autorité de recours administre, d'office ou à la demande d'une partie, les preuves complémentaires nécessaires au traitement du recours. L'art. 389 CPP s'applique par analogie aux preuves demandées par l'appelant dans sa déclaration d'appel conformément à l'art. 399 al. 3 let. c CPP (LUZIUS EUGSTER, Basler Kommentar, Schweizerische Strafprozessordnung, 2010, n. 5 in fine ad art. 399 CPP; MARLÈNE KISTLER VIANIN, Commentaire romand, Code de procédure pénale suisse, 2011, ch. 18 ad art. 399).
1.2 En instance d'appel, le recourant a souhaité faire entendre le "spécialiste vidéo de l'Hôtel de police" et le responsable de la société gérant le système de vidéo-surveillance utilisé par cette autorité ainsi qu'obtenir le visionnement d'images. Ces mesures d'instructions devaient permettre de relever les particularités de ce système, particularités faussant la perception par le spectateur des images qui en étaient tirées, celles-ci accélérant les mouvements enregistrés et aggravant ainsi artificiellement l'impression de rapidité et partant de violence (recours, p. 15 ss).
L'autorité précédente a rejeté cette réquisition de preuve complémentaire. Elle a considéré la requête comme contraire à la bonne foi en procédure, le recourant ne l'ayant pas articulée lors des débats de première instance. En outre, elle a relevé que les images tirées de la caméra de surveillance étaient en corrélation avec les déclarations de Y._ et que celles produites par le recourant à l'audience d'appel étaient éloquentes et renforçaient la certitude de la cour quant à la disproportion du geste du recourant (jugement attaqué, p. 20).
Sous réserve de la question de la bonne foi, qui peut rester ouverte ici, on comprend de la solution de la cour cantonale qu'elle a jugé inutile de procéder à une instruction complémentaire en vertu de l'art. 389 al. 3 CPP dès lors qu'à ses yeux les éléments de preuve à disposition étaient suffisants. Autrement dit, la cour cantonale a exclu la nécessité de preuves complémentaires au vu des éléments dont elle disposait déjà. Ce faisant, elle a procédé à une appréciation anticipée des preuves (cf. ATF 136 I 229 consid. 5.3 p. 236 - 237). Une telle appréciation ne peut être contestée devant le Tribunal fédéral qu'en invoquant et en démontrant l'arbitraire (art. 9 Cst.).
1.3 Le geste du recourant envers Y._ lors la mise en cellule de ce dernier a été filmé par la caméra de vidéo-surveillance de l'Hôtel de police se trouvant dans l'angle supérieur du mur se trouvant en face de la porte d'entrée de la cellule. Le recourant se trouvait au moment de son geste à l'intérieur, devant cette porte. Or, les images prises par cette caméra, qu'elles soient au nombre de 4, 6 ou 25 par seconde, qu'elles soient prises par une caméra filmant avec un grand angle ou non, démontrent sans doute possible que le recourant, par son seul geste, a jeté Y._ à travers la cellule avec une telle force que ce dernier a été propulsé sur les plus de deux mètres restant entre le recourant et le mur opposé à l'entrée, pour s'écraser contre le sol et le bas de ce mur. La vitesse à laquelle ce mouvement est intervenu ne change rien à la nature et la force de ce geste, suffisant à lui seul pour propulser un homme sur plus de deux mètres.
Que les images prises par le système de vidéo-surveillance reflètent bien la force du geste du recourant résulte aussi de plusieurs déclarations faites en procédure. Le recourant, lorsque ces images lui ont été montrées durant la phase d'instruction, n'a pas prétendu qu'elles ne reflétaient pas correctement son geste. Au contraire, il a admis "avoir donné trop de force à [son] geste", avoir "projeté Y._ en avant mais j'admets avoir donné trop de force à mon mouvement", et "c'est en voyant Y._ tomber au sol et frapper le mur avec le dos que j'ai réalisé que j'avais donné trop de force à mon mouvement. Je ne pense pas que Y._ se soit fait mal lors de cet épisode car il était en bout de course lorsque son dos a tapé le mur de la cellule. Son dos a dû amortir le choc. J'ai vraiment compris à ce moment-là que j'avais été trop puissant en le poussant en avant" (procès-verbal d'audition de X._ du 26 novembre 2009, respectivement lignes 47, 60-61 et 70-73).
Y._, quant à lui, n'a pas, comme le soutient le recourant, infirmé la violence du geste de ce dernier. Il a au contraire attesté avoir été "jeté" dans la cellule "comme une marchandise" (pièce 5). Devant le juge d'instruction, il a également déclaré que les policiers l'avaient "carrément lancé comme un sac". "J'ai "giclé" sur le sol, au fond de la cellule. Je ne me rappelle pas des détails. Ce dont je me souviens, c'est que j'ai été jeté à terre et que j'ai ensuite glissé jusqu'à la paroi du fond de la cellule" (procès-verbal d'audition de Y._ du 16 novembre 2009, lignes 62-65). Lors de l'audience de jugement du 18 janvier 2011, Y._ a encore affirmé avoir été "jeté dans la cellule" (jugement du 18 janvier 2011, p. 3). Ces dires corroborent l'impression tirée des images de vidéo-surveillance.
En outre, le relevé photographique de la mise en cellule, produit par le recourant lors de l'audience d'appel (bordereau III du 20 juin 2011, pièce 5), ne fait qu'attester la nature et la force du geste du recourant, tel qu'il ressort des images de vidéo-surveillance.
Il résulte de ce qui précède que l'autorité précédente pouvait sans arbitraire considérer que la valeur probante des images tirées du système de vidéo-surveillance pour établir le geste du recourant et la force utilisée par celui-ci ne faisait pas de doute et que l'administration des preuves demandées par le recourant n'était pas nécessaire pour en évaluer la fiabilité. Elle n'a, ce faisant, pas violé l'art. 389 al. 3 CPP en refusant les mesures d'instruction complémentaires, pas plus que l'art. 6 CPP que le recourant invoque aussi et qui n'a pas de portée supplémentaire.
2. Le recourant se plaint d'une appréciation arbitraire des preuves.
2.1 Le Tribunal fédéral statue sur la base des faits retenus par l'arrêt attaqué (art. 105 al. 1 LTF), sous réserve des cas prévus à l'art. 105 al. 2 LTF. La partie recourante ne peut ainsi les critiquer que s'ils ont été établis en violation du droit au sens de l'art. 95 LTF ou de manière manifestement inexacte, c'est-à-dire arbitraire au sens de l'art. 9 Cst. (sur la notion d'arbitraire, cf. ATF 137 I 1 consid. 2.4 p. 5; 58 consid. 4.1.2 p. 62), et si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF).
Conformément à l'art. 106 al. 2 LTF, le Tribunal fédéral n'entre en matière sur les moyens fondés sur la violation de droits fondamentaux que s'ils ont été invoqués et motivés de manière précise. L'acte de recours doit, à peine d'irrecevabilité, contenir un exposé succinct des droits violés et préciser en quoi consiste la violation (ATF 136 II 489 consid. 2.8 p. 494; 134 II 349 consid. 3 p. 351). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (ATF 137 IV 1 consid. 4.2.3 p. 5).
2.2 Le recourant fonde ses griefs d'arbitraire sur plusieurs faits qui n'ont eux-même pas été retenus par l'autorité précédente, ce sans invoquer ni démontrer l'arbitraire de l'omission de ces faits. Il ne pourra en être tenu compte.
2.3 Dans le cadre de son grief d'appréciation arbitraire des preuves, le recourant critique que son geste ait été disproportionné. Il s'agit là d'une question de droit et non de fait, qui sera par conséquent examinée en rapport avec le grief de violation de l'art. 312 CP (cf. infra consid. 3.2).
Dans le cadre de ce moyen, le recourant tente toutefois de minimiser son geste, tel que retenu par l'autorité précédente. Selon lui, la violence constatée par celle-ci, sur la base des images prises par la caméra placée dans la cellule, ne serait par corroborée par les dires de Y._. L'argumentation du recourant ne résiste pas à l'examen dès lors que Y._ s'est plaint d'avoir été "lancé comme un sac", "jeté comme une marchandise", et de ce fait d'avoir "giclé sur le sol, au fond de la cellule". Ces déclarations ne rendent pas insoutenables les constatations de fait de l'autorité précédente quant à la nature et la violence du geste du recourant, tels qu'ils ressortent des images de vidéo-surveillance. Bien au contraire, elles les confirment. Quant aux "spécificités techniques des images de vidéo-surveillance", alléguées dans la procédure d'appel, elles ne sont pas propres à faire apparaître comme arbitraires, c'est-à-dire manifestement insoutenables, la nature et la force du geste du recourant tel que retenu par l'autorité précédente. Le grief d'arbitraire sur ces points ne peut ainsi qu'être rejeté.
2.4 Le recourant soutient qu'il n'avait pas d'autre choix que de faire le geste qu'il lui est reproché. Il invoque à l'appui de ce grief, d'une part, le témoignage de l'agent Z._ et, d'autre part, les dimensions de la cellule ainsi que des Directives de l'Institut suisse de police, produites en instance cantonale
2.4.1 L'autorité cantonale a retenu que le recourant craignait d'être contaminé par le virus du sida, Y._ ayant dit qu'il était atteint de cette maladie. Elle a toutefois considéré que le souci du recourant de se protéger, qualifié de légitime, pouvait être atteint, lors de la mise en cellule de Y._ par le recourant, avec moins de violence, notamment en lâchant Y._ et en quittant rapidement la cellule. Il ressortait des images de la vidéo-surveillance que le recourant ne semblait pas apeuré après avoir poussé, voire jeté Y._, mais l'avait au contraire regardé s'écraser contre le mur, puis lui avait tourné le dos avant de sortir calmement de la cellule. L'autorité précédente a en outre relevé que le recourant avait lui-même reconnu avoir donné trop de force à son mouvement (jugement attaqué, p. 14 et passages cités supra ad consid. 1.3).
2.4.2 Le témoin Z._, également membre de la police de la ville de Lausanne (pièce 26), a certes déclaré, lors de la reconstitution effectuée le 18 janvier 2011, que "dans une situation où la personne est dangereuse, agressive, qu'il pourrait y avoir des dangers pour soi, .... on est obligé de repousser la personne pour pouvoir se dégager" (recours, p. 5), de la "pousser en avant" (recours, p. 6). Contrairement à ce que soutient le recourant, ce témoin ne s'est toutefois pas déterminé dans le cas d'espèce, encore moins sur la force maximale du geste à adopter. En outre, le témoin a accompagné ses déclarations d'un petit mouvement de pousser avec les deux mains, jamais celui de lancer une personne comme l'a fait le recourant. Son témoignage ne rend ainsi pas insoutenable l'appréciation de l'autorité précédente selon laquelle le recourant pouvait au vu des circonstances d'espèce agir autrement, soit moins violemment.
2.4.3 Le recourant invoque les dimensions de la cellule, longue de 3 m 40. Il n'explique toutefois pas en quoi cet élément rendrait la solution retenue par l'autorité précédente insoutenable. Son grief est irrecevable.
2.4.4 Quant aux Directives de l'Institut suisse de police, celles-ci prescrivent de maintenir une zone de protection de "1 m 20 et au-delà". Elles indiquent également que "selon la situation, s'il en ressent le besoin, le policier pourra encore augmenter cette distance et ainsi étendre l'espace qui lui permettra de réagir de façon optimale" (pièce 23/3, p. 2). On ne déduit toutefois pas de ces directives que la solution que le recourant a adoptée était adéquate en l'occurrence. Leur contenu est ainsi inapte à étayer un quelconque arbitraire dans l'appréciation de l'autorité précédente.
2.5 Le recourant se plaint que l'autorité précédente n'ai pas pris en compte le fait que Y._, suite à sa mise en cellule, ait, après avoir tenté de s'étrangler avec son t-shirt, réussi, alors qu'il était couché et sonné, à frapper un des agents qui lui avait ôté ce vêtement avant que ce policier ne quitte à nouveau la cellule. Il soutient que cet événement devait conduire à la déduction que Y._ n'aurait pas manqué de s'en prendre au recourant "si celui-ci l'avait simplement lâché" (recours, p. 13).
La question n'est pas de savoir si le recourant devait "simplement lâcher" Y._, mais s'il pouvait le repousser avec moins de violence compte tenu des circonstances existant au moment de la mise en cellule, telles que retenues par l'autorité précédente. La simple conjecture déduite d'un événement postérieur n'est pas de nature à faire apparaître l'appréciation des preuves comme arbitraire.
2.6 Le recourant se plaint que l'autorité précédente n'ait cité qu'une partie du procès-verbal d'audition dans lequel il reconnaissait avoir donné trop de force à son geste. Il estime que ce faisant elle lui a prêté une intention de nuire qu'il n'avait pas.
2.6.1 Savoir ce que l'auteur voulait, savait ou ce dont il s'accommodait relève du contenu de la pensée, donc de l'établissement des faits, lesquels ne peuvent être revus devant le Tribunal fédéral que sous l'angle de l'arbitraire (ATF 135 IV 152 consid. 2.3.2 p. 156).
2.6.2 L'autorité précédente a retenu une volonté de nuire de la part du recourant sur la base des images de vidéo-surveillance qui montrent que ce dernier ne donnait pas l'impression d'avoir été surpris par la violente chute de Y._. Au contraire, il lui a tourné le dos et a refermé calmement la cellule (jugement attaqué, p. 14 et 20). Elle a également déduit cette intention du fait que même si aucune lésion corporelle n'avait été retenue juridiquement parlant, il ne pouvait échapper à personne que de projeter quelqu'un contre un mur était de nature à lui faire mal donc à lui nuire (jugement attaqué, p. 20). Le recourant ne critique pas ces éléments qui permettaient de retenir sans arbitraire une volonté de nuire de sa part, indépendamment de ses déclarations, au cours desquelles il admettait par ailleurs avoir agi "peut-être aussi quelque part parce que Y._ n'avait cessé de menacer, d'injurier ses collègues et lui-même auparavant" (jugement attaqué, p. 14). Son grief d'arbitraire est partant infondé dans la mesure où il est recevable.
3. Le recourant conteste sa condamnation pour abus d'autorité au sens de l'art. 312 CP.
3.1 Cette disposition réprime le fait pour un membre d'une autorité ou un fonctionnaire d'abuser des pouvoirs de sa charge dans le dessein de se procurer ou de procurer à un tiers un avantage illicite ou de nuire à autrui.
Cette disposition protège, d'une part, l'intérêt de l'État à disposer de fonctionnaires loyaux qui utilisent les pouvoirs qui leur ont été conférés en ayant conscience de leur devoir et, d'autre part, l'intérêt des citoyens à ne pas être exposés à un déploiement de puissance étatique incontrôlé et arbitraire. L'incrimination pénale doit être interprétée restrictivement, compte tenu de la formule très générale qui définit l'acte litigieux. L'auteur n'abuse ainsi de son autorité que lorsqu'il use de manière illicite des pouvoirs qu'il détient de sa charge, c'est-à-dire lorsqu'il décide ou contraint en vertu de sa charge officielle dans un cas où il ne lui était pas permis de le faire. L'infraction peut aussi être réalisée lorsque l'auteur poursuit un but légitime, mais recourt pour l'atteindre à des moyens disproportionnés (ATF 127 IV 209 consid. 1a/aa et b p. 211 s. et arrêts cités; arrêt 6B_76/2011 du 31 mai 2011 consid. 5.1 et auteurs cités). Une violation insoutenable des pouvoirs confiés n'est pas nécessaire.
Du point de vue subjectif, l'infraction suppose un comportement intentionnel, au moins sous la forme du dol éventuel, ainsi qu'un dessein spécial, qui peut se présenter sous deux formes alternatives, soit le dessein de se procurer ou de procurer à un tiers un avantage illicite, soit le dessein de nuire à autrui.
3.2 Il n'est pas contesté que le recourant a agi dans le cadre de l'exercice de ses fonctions, afin d'atteindre un but légitime, soit celui de se protéger. Seul reste donc objectivement à déterminer s'il a, pour ce faire, recouru à des moyens disproportionnés.
Le but poursuivi par le recourant était de mettre Y._ en cellule et de pouvoir ensuite sortir sans danger. Les moyens pour ce faire devaient toutefois être choisis afin de léser le moins gravement les droits fondamentaux de Y._, notamment sa dignité et son intégrité corporelle. Il ressort cependant des faits retenus sans arbitraire par l'autorité précédente que le recourant aurait pu, afin d'assurer sa sécurité lors de la mise en cellule de Y._, agir moins violemment qu'il ne l'a fait. Le recourant a en effet utilisé une telle force qu'il a eu le temps, après avoir poussé Y._, de regarder ce dernier s'écraser au sol, lui tourner le dos et sortir calmement de la cellule. Son geste était donc disproportionné au sens de l'art. 312 CP.
3.3 Quant à l'intention, on ne peut que considérer que cette condition est également réalisée. Selon les faits retenus sans arbitraire par l'autorité précédente, le recourant a volontairement fait un geste trop violent afin de nuire à Y._. Il a donc intentionnellement abusé des pouvoirs de sa charge, ce dans le dessein de nuire.
3.4 Il résulte de ce qui précède que la condamnation du recourant pour abus d'autorité ne viole pas le droit fédéral.
4. Le recours doit ainsi être rejeté dans la mesure où il est recevable. Le recourant supportera les frais judiciaires (art. 66 al. 1 LTF).
La cause étant tranchée, la requête d'effet suspensif formulée par le recourant devient sans objet.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 20 janvier 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Cherpillod