Faits: A. X._ s'est établi dans le canton de Genève en 1983. Il a élu domicile dans le canton de Vaud à la fin de l'année 1990. Le 12 décembre 1996, l'Administration fiscale cantonale du canton de Genève a notifié à X._ une décision de rappel d'impôt fédéral direct pour la période fiscale 1989/1990 d'un montant de 72'863 fr. 70, ainsi qu'une décision le condamnant au paiement d'une amende d'un montant de 18'216 fr. pour soustraction d'impôt fédéral direct consommée. Par décision du 9 juillet 1998, l'Administration fiscale cantonale du canton de Genève a rejeté la réclamation déposée par l'intéressé à l'encontre des décisions rendues le 12 décembre 1996. Par décision du 14 mars 2001, la Commission cantonale de recours de l'impôt fédéral direct du canton de Genève a rejeté le recours déposé par l'intéressé contre la décision sur réclamation rendue le 9 juillet 1998. B. Le 23 avril 2001, X._ a déposé un recours contre la décision rendue le 14 mars 2001 auprès du Tribunal administratif du canton de Genève. Il exposait notamment qu'il avait fait l'objet de procédures similaires en soustraction d'impôts dans le canton de Vaud à partir des périodes fiscales 1991/1992, que les décisions rendues par l'Administration cantonale vaudoise de l'impôt avaient fait l'objet de réclamations et que les décisions sur réclamation rendues le 27 février 1998 faisaient l'objet d'une procédure de recours depuis mars 1998 devant le Tribunal administratif du canton de Vaud. Il concluait à la suspension de la procédure de recours devant le Tribunal administratif du canton de Genève jusqu'à droit jugé sur la procédure de recours devant le Tribunal administratif du canton de Vaud ainsi que jusqu'à droit jugé sur la réclamation déposée contre la décision vaudoise en matière d'impôt fédéral direct. Sur le fond, il concluait à l'annulation de la décision rendue le 14 mars 2001 par la Commission de recours en matière d'impôt du canton de Genève. Par décision du 26 avril 2001, le juge délégué à l'instruction du Tribunal administratif du canton de Genève a suspendu la procédure de recours jusqu'à droit jugé sur la procédure pendante devant le Tribunal administratif du canton de Vaud ainsi que jusqu'à droit jugé sur la réclamation déposée contre la décision vaudoise en matière d'impôt fédéral direct. Le 24 mai 2002, le juge délégué à l'instruction a envoyé au mandataire de l'intéressé un courrier aux fins de savoir si la procédure ouverte devant le Tribunal administratif vaudois était toujours en cours. Le cas échéant, une copie du jugement devait lui être adressée. Le 30 mai 2002, l'intéressé a informé le Tribunal administratif genevois que le Tribunal administratif vaudois n'avait pas encore rendu de jugement. L'Administration fiscale genevoise a reçu copie de ce courrier. Le 30 octobre 2002, sur demande du juge délégué, l'intéressé a informé le Tribunal administratif genevois qu'un arrêt avait été rendu le 20 août 2002 par le Tribunal administratif vaudois et que cet arrêt avait fait l'objet d'un recours auprès du Tribunal fédéral. L'Administration fiscale genevoise a reçu copie de ce courrier. Par lettre du 22 juillet 2003, l'intéressé a transmis une copie de l'arrêt rendu le 7 avril 2003 par le Tribunal fédéral. Comme une procédure de recours en matière d'impôt fédéral direct était encore pendante devant le Tribunal administratif vaudois, l'intéressé a demandé le maintien de la suspension prononcée le 26 avril 2001. L'Administration fiscale genevoise a reçu copie de ce courrier. Entre 2004 et 2007, sur demandes réitérées du juge délégué, l'intéressé a plusieurs fois confirmé que la cause vaudoise était toujours pendante. L'Administration fiscale genevoise a également reçu copie de ces courriers. Le 30 juillet 2007 enfin, l'intéressé a informé le Tribunal administratif genevois que le Tribunal administratif vaudois avait rendu son arrêt en date du 14 juin 2007. C. Par arrêt du 17 juin 2008, le Tribunal administratif du canton de Genève a admis le recours à l'encontre de la décision du 14 mars 2001. Il a jugé en substance qu'il devait se saisir d'office de la question de la prescription des créances fiscales litigieuses. Constatant que le dernier acte interruptif de la prescription avait eu lieu le 26 avril 2001 avec la décision de suspension de la procédure, il a jugé que les créances en cause étaient prescrites depuis le mois d'avril 2006. D. Agissant par la voie du recours en matière de droit public, l'Administration fiscale du canton de Genève demande au Tribunal fédéral d'annuler l'arrêt rendu le 17 juin 2008 pour violation de l'art. 128 de l'arrêté du Conseil fédéral du 9 décembre 1940 concernant la perception d'un impôt fédéral direct (AIFD ou encore arrêté sur l'impôt fédéral direct; RO 56 2021). Le Tribunal administratif du canton de Genève s'en tient à l'arrêt attaqué. X._ conclut au rejet du recours. L'Administration fédérale des contributions conclut à l'admission du recours.