Faits:
A. Durant la période fiscale 2008, X._ (ci-après: l'intéressé) a réalisé des gains provenant des jeux de pari mutuel urbain (ci-après: PMU). Dans sa déclaration 2008, il a mentionné sous la rubrique "gains de loterie" un montant total de 12'484 fr. 60 francs, dont 6'337 fr. 85 soumis à l'impôt anticipé. Sous la rubrique intitulée "Mises dans les loteries en cas de gain" (code 495), il a déduit 12'485 fr. de mises perdantes et gagnantes. Il a produit en annexe une liste de ses mises et les tickets correspondants.
Le 6 juillet 2009, l'Office d'impôt du district de Morges (ci-après: l'Office d'impôt) a rendu une décision de taxation par laquelle il a fixé le gain de loterie à 12'481 fr. 75. Il n'a admis en déduction de ce gain que le montant des mises gagnantes, soit 3'055 fr. Le 22 juillet 2009, le contribuable a formé une réclamation contre cette décision.
Le 1er juillet 2010, l'Administration cantonale des impôts a rejeté la réclamation. Dans une lettre d'accompagnement, elle a précisé, qu'après avoir modifié sa pratique initiale pour n'accepter que la déduction des mises dûment prouvées, soit autrement que par la seule production des coupons, les offices avaient dû faire face, en plus de la remise des innombrables coupons, à des offres de preuves aussi nombreuses que variées, le soin étant laissé au responsable du dossier de déterminer s'il était personnellement convaincu au point de devoir admettre la déduction revendiquée. Pour cette raison, l'Administration cantonale des impôts avait décidé de modifier à nouveau sa pratique, de refuser la déduction des mises perdantes et de n'admettre que la mise ayant généré le gain pour éviter les fraudes et garantir à tous les joueurs un traitement égal, soit l'imposition de leur gain net. Etant la seule qui assure un solde imposable en présence d'un gain, cette solution était la plus conforme à la volonté "primaire" du législateur d'imposer les gains de loterie.
Le 22 juillet 2010, le contribuable a déposé un recours à la Cour de droit administratif et public du Tribunal cantonal contre cette décision. Il a conclu à la déduction de ses mises jusqu'à concurrence du gain de 12'485 fr.
B. Par arrêt du 25 novembre 2010, le Tribunal cantonal a admis le recours, annulé la décision sur réclamation du 1er juillet 2010 rendue en matière d'impôt fédéral direct ainsi qu'en matière d'impôts cantonal et communal et renvoyé le dossier à l'Administration cantonale des impôts pour qu'elle prenne une nouvelle décision dans le sens des considérants. Il a jugé que le contribuable devait prouver qu'il avait acquis les tickets de mises gagnantes et perdantes des jeux pour pouvoir en déduire le prix des gains obtenus. Le refus systématique de déduire les mises perdantes était contraire au droit fédéral.
C. Agissant par la voie du recours en matière de droit public, l'Administration fiscale du canton de Vaud demande au Tribunal fédéral de réformer l'arrêt attaqué dans ce sens qu'il y a lieu "de n'admettre en déduction que les mises effectuées dans un concours ayant généré un gain du contribuable".
Le Tribunal cantonal du canton de Vaud se réfère à l'arrêt attaqué. L'Administration fédérale des contributions renonce à prendre des conclusions tout en se ralliant à la motivation de l'Administration cantonale des impôts. X._ ne s'est pas déterminé.

Considérant en droit:
1. 1.1 D'après la loi sur le Tribunal fédéral, le recours en matière de droit public est recevable contre les décisions qui mettent fin à la procédure (<ref-law>) ou contre les décisions partielles (<ref-law>), notamment qui statuent sur un objet dont le sort est indépendant de celui qui reste en cause (let. a). En revanche, les décisions incidentes notifiées séparément qui ne portent pas sur la compétence ou sur une demande de récusation ne peuvent faire l'objet d'un recours en matière de droit public que si elles peuvent causer un préjudice irréparable, ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (<ref-law>).
1.2 Le Tribunal cantonal a renvoyé la cause à l'Administration cantonale des impôts pour qu'elle rende une nouvelle décision dans le sens des considérants. En principe, une telle décision ne cause pas de dommage irréparable au sens de l'<ref-law> (<ref-ruling> consid. 4.2 p. 481 s.; Archives 62, p. 491 consid. 1b p. 493). En revanche, tel est le cas lorsque, comme en l'espèce, dite décision invite de manière contraignante l'autorité fiscale à en rendre une nouvelle que celle-ci tient pour contraire au droit et qu'elle ne pourrait attaquer ensuite (<ref-ruling> consid. 5.2 p. 483). L'arrêt attaqué constitue donc une décision incidente causant un préjudice irréparable (<ref-law>).
1.3 Par conséquent, déposé en temps utile par l'Administration cantonale des impôts, qui a qualité pour recourir en matière d'impôt fédéral direct aussi bien qu'en droit fiscal cantonal, le présent recours en matière de droit public est en principe recevable en vertu des <ref-law>, 146 de la loi fédérale du 14 décembre 1990 sur l'impôt fédéral direct (LIFD; RS 642.11) et 73 al. 1 et 2 de la loi du 14 décembre 1990 sur l'harmonisation des impôts cantonaux et communaux (LHID; loi sur l'harmonisation fiscale; RS 642.14). Il est aussi conforme à la jurisprudence qui autorise le dépôt d'un seul acte de recours, lorsqu'il ressort clairement du mémoire (cf. mémoire de recours, p. 1 et 3) que la partie recourante s'en prend aux deux catégories d'impôts (cf. <ref-ruling> ss).
2. 2.1 L'art. 42 al. 1 et 2 LTF prévoit que les mémoires doivent être rédigés dans une langue officielle, indiquer les conclusions, les motifs et les moyens de preuve, et être signés et que les motifs doivent exposer succinctement en quoi l'acte attaqué viole le droit.
D'après l'<ref-law>, le Tribunal fédéral ne peut aller au-delà des conclusions des parties. Si les conclusions sont ambiguës, elles doivent être interprétées à la lumière de la motivation contenue dans le mémoire (<ref-ruling> consid. 1 p. 103 s. et les références citées).
2.2 Dans l'arrêt attaqué, l'instance précédente expose que "d'une manière générale, le principe de la déductibilité des mises doit être maintenu, sous réserve de conditions particulières. Conformément aux principes énoncés, la déductibilité des mises perdantes ne vaut que si elles concernent le même jeu et qu'elles sont de ce fait directement en relation avec le gain réalisé. Comme l'indique l'Administration fédérale des contributions dans sa circulaire, la déduction de mises effectuées dans d'autres jeux que celui qui a fait l'objet du gain est exclue. La déduction n'est par ailleurs possible que jusqu'à concurrence du gain réalisé, ce fait n'étant au demeurant pas contesté" ajoutant qu'"il appartient au contribuable de prouver que la mise a bien été consentie par lui-même et non d'autres personnes" (arrêt attaqué, consid. 3e) et renvoie la cause à la recourante pour nouvelle décision dans le sens des considérants.
Dans son mémoire de recours, l'Administration recourante demande au Tribunal fédéral de "réformer l'arrêt du Tribunal cantonal de sorte qu'il permette à l'Administration des impôts de n'admettre en déduction que les mises effectuées dans un concours ayant généré un gain imposable". Cette conclusion est ambiguë en ce qu'elle ne précise pas s'il s'agit des mises gagnantes et perdantes. Or cette précision est importante dans la mesure où l'Administration cantonale des impôts a défendu l'opinion devant l'instance précédente que seules les mises gagnantes ("la mise ayant généré le gain", à l'exclusion des mises perdantes, cf. arrêt attaqué, p. 2 et consid. 2 p. 3) peuvent être déduites des gains imposables. C'est à la lumière de la motivation du mémoire de recours qu'il convient de lever cette ambiguïté.
Selon l'Administration recourante, "en résumé, le droit fédéral exclut la déduction des mises effectuées dans d'autres concours que celui dans lequel le contribuable à réalisé un gain, faute de lien de connexité étroit entre ces mises et l'obtention d'un revenu imposable. Au vu de ce qui précède", ajoute-t-elle, "il y a donc lieu d'admettre que la décision attaquée de la Cour de droit public et de droit administratif a été rendue en violation du droit, si bien qu'il convient de la réformer de sorte que seules puissent être admises en déduction des gains réalisés par M. X._, les mises gagnantes et les mises perdantes qu'il peut prouver avoir jouées dans les mêmes concours" (mémoire de recours, chiffre 7, p. 7, souligné par le Tribunal fédéral). Il ressort par conséquent de la motivation - au demeurant difficile à suivre dans la partie historique qui précède le chiffre 7 - du mémoire de recours que la conclusion de la recourante doit être comprise comme visant toutes les mises, gagnantes et perdantes. Telle qu'interprétée, cette conclusion est contraignante pour le Tribunal fédéral qui ne peut aller au delà de celle-ci (cf. <ref-law>).
2.3 Il ressort de ce résumé que, hormis l'usage d'une construction syntaxique différente, la recourante et l'instance précédente ont une opinion juridique identique sur la déduction des mises gagnantes et perdantes qui sont en relation avec un gain réalisé et l'obligation de preuves à charge du contribuable en la matière. En particulier, il ne ressort pas des conclusions de la recourante qu'elle entend maintenir la position qu'elle avait défendue devant l'instance précédente, tendant à n'admettre en déduction des gains obtenus que les mises gagnantes, ce qui était d'ailleurs bien la seule question juridique tranchée dans l'arrêt attaqué. Certes, la recourante et l'instance précédente font usage, pour l'une, du terme "concours" et, pour l'autre, du terme "jeu". Toutefois, aucune des parties ne soutient que l'un ou l'autre terme n'entre pas dans le champ d'application de l'art. 23 let. e LIFD et 7 LHID. La recourante n'indique du reste pas en quoi l'un aurait une portée différente de l'autre, ce qu'elle serait d'ailleurs bien en peine de démontrer du moment que l'instance précédente n'a pas cherché à définir ce terme, dont le sens n'était pas litigieux en procédure devant elle et dont la définition et la portée ne sauraient par conséquent faire l'objet de la présente procédure.
Il s'ensuit que le recours en matière de droit public est irrecevable parce qu'il prend des conclusions qui confirment le dispositif et les considérants de l'arrêt attaqué auxquels il renvoie et que, ce faisant, en violation de l'<ref-law>, il n'expose pas en quoi l'arrêt attaqué serait contraire au droit fédéral.
3. Les considérants qui précèdent conduisent à l'irrecevabilité du recours.
Succombant, la recourante, qui s'adresse au Tribunal fédéral dans l'exercice des ses fonctions officielles et dont l'intérêt patrimonial est en cause, doit supporter les frais judiciaires (art. 66 al. 1 et 4 LTF). Il n'est pas alloué de dépens, l'intimé ne s'étant pas déterminé (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est irrecevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge de la recourante.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, et à l'Administration fédérale des contributions Division principale DAT.
Lausanne, le 24 juin 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Zünd Dubey