Faits: A. Par jugement du 4 avril 2007, le Tribunal de police du canton de Genève, statuant sur opposition à une ordonnance de condamnation, a reconnu X._ coupable d'avoir conduit un véhicule non couvert par une assurance responsabilité civile (art. 96 ch. 2 al. 1 LCR). Appliquant l'ancien droit, il a condamné X._ à une amende de 1'000 fr. et à un mois de peine privative de liberté. Il a mis en outre les frais de procédure, s'élevant à 280 fr., à sa charge. B. Statuant le 17 décembre 2007 à la suite d'un appel formé par le condamné, la Chambre pénale de la Cour de justice du canton de Genève a, en conformité avec l'ancien droit, remplacé la peine privative de liberté d'un mois par une peine d'emprisonnement d'un mois, confirmant le jugement rendu par le Tribunal de police pour le surplus. C. Contre cet arrêt, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Il conclut, principalement, à la réforme de l'arrêt attaqué en ce sens qu'il soit condamné à une peine pécuniaire ou à un travail d'intérêt général; subsidiairement, il conclut à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'autorité cantonale. D. Le ministère public a conclu à la confirmation du jugement cantonal alors que la Cour de justice ne s'est pas déterminée.