Faits: A. Les époux A.X._ et B.X._ exercent tous deux la profession d'employés de banque à Genève. Dans leur déclaration fiscale 2005, ils ont porté en déduction, au chapitre des autres déductions sur le revenu (code 59.30), un montant de 3'640 fr. pour l'activité professionnelle du conjoint. Le 26 février 2007, l'Administration fiscale cantonale genevoise (ci-après: l'Administration fiscale cantonale) a notifié aux contribuables le bordereau de l'impôt cantonal et communal 2005. Elle a refusé la défalcation du montant de 3'640 fr. pour le travail du conjoint mais a ajouté cette somme au montant déterminant le rabais d'impôt, qui s'en est trouvé accru d'autant. Suite à la réclamation des époux X._ du 20 mars 2007, l'Administration fiscale cantonale, par décision du 30 avril 2007, a maintenu la taxation litigieuse. B. Par acte du 8 mai 2007, les contribuables ont interjeté recours auprès de la Commission cantonale de recours en matière d'impôts du canton de Genève, devenue depuis le 1er janvier 2009 la Commission cantonale de recours en matière administrative (ci-après: la Commission cantonale de recours). Statuant par décision du 4 mars 2009, celle-ci a admis le recours. Faisant sienne l'argumentation des contribuables, elle a considéré que la prise en compte du montant de 3'640 fr. pour le travail du conjoint ne devait pas intervenir dans la fixation du rabais d'impôt, comme le prévoyait le droit cantonal, mais devait venir en déduction du revenu, conformément à l'art. 9 al. 2 let. k de la loi fédérale du 14 décembre 1990 sur l'harmonisation des impôts directs des cantons et des communes (LHID; loi sur l'harmonisation fiscale; RS 642.14). Se fondant sur le principe de la force dérogatoire du droit fédéral, elle a retenu que le montant de 3'640 fr. pouvait être directement admis en déduction du revenu des contribuables. C. Saisi d'un recours dirigé par l'Administration fiscale cantonale contre la décision de la Commission cantonale de recours du 4 mars 2009, le Tribunal administratif du canton de Genève (ci-après: le Tribunal administratif) l'a partiellement admis, par arrêt du 16 février 2010. Il a annulé la décision attaquée dans la mesure où elle prévoyait la déduction de la somme de 3'640 fr. du revenu des contribuables et a renvoyé le dossier à l'Administration fiscale cantonale pour nouvelle taxation. Le Tribunal administratif a retenu, en substance, qu'il résultait des travaux préparatoires de la loi sur l'harmonisation fiscale que la déduction prévue par l'art. 9 al. 2 let. k LHID devait s'appliquer au revenu ou au taux de l'impôt, mais pas au montant de l'impôt lui-même, que la réglementation des déductions sur le revenu au sens de l'art. 9 LHID présentait un caractère exhaustif et obligatoire pour les cantons, que la compétence de ceux-ci en matière de déduction pour double activité des conjoints était limitée au montant de la déduction, que le système genevois du rabais d'impôt en vigueur en 2005 n'était pas compatible avec l'art. 9 al. 2 let. k LHID et qu'il avait d'ailleurs été abandonné au profit de la méthode de la déduction sur le revenu dans la nouvelle loi cantonale entrée en vigueur le 1er janvier 2010. Pour le surplus, le Tribunal administratif a considéré que la Commission cantonale de recours ne pouvait pas se substituer au législateur cantonal en fixant elle-même le montant de la déduction pour travail du conjoint. En effet, l'application du droit fédéral en lieu et place du droit cantonal au sens de l'art. 72 al. 2 LHID n'était possible qu'à la condition que la loi sur l'harmonisation fiscale contienne une réglementation suffisamment précise pour lier directement l'autorité chargée d'appliquer la loi, que tel n'était pas le cas en l'espèce dès lors que l'art. 9 al. 2 let. k LHID prévoyait un renvoi au droit cantonal, chargé de déterminer le montant de la déduction, et qu'il appartenait au Conseil d'Etat genevois d'adopter, conformément à l'art. 72 al. 3 LHID, les mesures requises par la mise en oeuvre de la déduction pour double activité des conjoints. D. Agissant par la voie du recours en matière de droit public, l'Administration fiscale cantonale demande au Tribunal fédéral d'annuler l'arrêt du Tribunal administratif du 16 février 2010 et de confirmer sa décision de taxation du 30 avril 2007. Elle fait valoir que le système genevois du rabais d'impôt est conforme à la loi sur l'harmonisation fiscale. Le Tribunal administratif persiste dans les considérants et le dispositif de son arrêt. Les intimés concluent, sous suite de dépens, au rejet du recours et à la confirmation de l'arrêt entrepris. La Commission cantonale de recours renonce à déposer des observations. L'Administration fédérale des contributions s'en rapporte à justice quant à la conformité du droit cantonal applicable avec l'art. 9 al. 2 let. k LHID.