Faits: A. A.a X._, inspecteur aux Transports publics genevois (ci-après: TPG), a pour fonction d'intervenir sur des accidents et de veiller à la relève des chauffeurs. A.b Le 30 juin 2007, X._ a dû faire remplacer un chauffeur non relevé pour éviter qu'il ne dépasse son temps de conduite, s'agissant d'une intervention d'urgence selon les critères des TPG. Pour ce faire, il a utilisé une voiture de service TPG et emprunté au Bachet-de-Pesay la voie ferrée en direction de Rive, passant par Carouge. Y._ circulait au guidon d'un scooter sur la place du Marché en direction de la rue de Veyrier. Il s'est arrêté, conformément au signal « stop », à l'intersection de la rue Jacques-Dalphin et de la rue du Marché. Après avoir regardé à gauche et n'avoir vu aucun véhicule circuler dans sa direction, Y._ a démarré pour aller tout droit en direction d'une pharmacie située à l'opposé de la place du Marché. Il a expliqué ne pas avoir regardé sur sa droite avant de redémarrer. Néanmoins, grâce à sa vision périphérique, il n'avait aperçu aucun tramway venant de la droite, sachant que seuls ces véhicules sont autorisés à rouler à cette hauteur et dans cette direction. X._, circulant sur la voie de tram toujours en direction de Rive, se trouvait rue du Marché, à la hauteur de la place du même nom, lorsqu'il a percuté l'arrière droit du scooter de Y._ avec l'avant droit de la voiture de service TPG. Il circulait à une vitesse très réduite en étant attentif aux nombreux piétons sur sa droite, étant rappelé qu'il s'agissait du jour du marché à Carouge, les rues autour de la place étant majoritairement fermées à la circulation. A.c Suite au heurt, Y._ est tombé par terre et a retenu le scooter avec son corps, causant ainsi un écrasement du fémur et une fracture du péroné à la jambe gauche. Il a subi une intervention chirurgicale et une hospitalisation de plus d'une semaine. Il a été en incapacité de travail d'abord complète, puis partielle jusqu'à fin septembre 2007. Il a déposé plainte contre X._ pour lésions corporelles par négligence. B. Par jugement du 14 avril 2008, le Tribunal de police genevois, statuant sur opposition à une ordonnance de condamnation, a condamné X._, pour lésions corporelles par négligence, à une peine pécuniaire de 90 jours-amende à raison de 80 fr./j., avec sursis pendant deux ans et à une amende de 1'000 fr., la peine privative de liberté de substitution étant fixée à 10 jours. Par arrêt du 23 février 2009, la Chambre pénale de la Cour de justice du canton de Genève a confirmé le jugement précité. C. X._ a déposé un recours en matière pénale au Tribunal fédéral. Invoquant une violation des art. 9, 29 al. 2 Cst., 125 CP, 31 al. 1, 36 al. 2 et 26 al. 1 LCR, il a conclu à son acquittement. Le Ministère public et Y._ ont conclu au rejet de ce recours. L'autorité cantonale, se référant aux considérants de son arrêt, n'a pas formulé d'observations.