Faits: A. Les époux B.X._ et A.X._ (ci-après: les époux X._) sont domiciliés dans le canton de Genève. En 2004, le second y exerçait la profession de médecin indépendant, tandis que la première exploitait un cabinet dentaire en tant qu'activité indépendante. Pour des motifs de santé, B.X._ a dû cesser définitivement cette activité à la fin de l'année 2004, sans avoir pu remettre son cabinet. B. Dans leur déclaration fiscale relative à l'impôt cantonal et communal (ICC) et à l'impôt fédéral direct (IFD) pour la période 2005, dont il ressort que A.X._ exerçait toujours son activité indépendante tandis que son épouse percevait une rente d'assurance-invalidité, les époux ont fait valoir une déduction pour pertes commerciales de B.X._ d'un montant de 49'278 fr. au titre de la rubrique "autres déductions sur le revenu". Selon décompte joint à la déclaration, cette somme résume les charges encourues en 2005 après la cessation de son activité indépendante, comprenant en particulier le loyer des locaux du cabinet dentaire (39'417 fr.). Dans ses décisions de taxation du 6 mai 2007 concernant l'ICC et l'IFD, l'Administration fiscale cantonale genevoise (ci-après: l'Administration cantonale) n'a pas admis les pertes commerciales de B.X._, au motif que son activité indépendante avait pris fin en 2004. La réclamation introduite par les époux X._ contre ces deux décisions a été rejetée par l'Administration cantonale par deux décisions distinctes du 16 juillet 2007. Par décision du 15 mars 2010, la Commission cantonale de recours en matière administrative, devenue le Tribunal administratif de première instance le 1er janvier 2011, a rejeté le recours des époux X._ formé contre les deux décisions sur réclamation du 16 juillet 2007. Par arrêt du 29 mars 2011, la Chambre administrative de la Cour de Justice de la République et canton de Genève (ci-après: la Cour de Justice) a rejeté, à son tour, le recours des époux X._ contre la décision du 15 mars 2010 relative à l'ICC et à l'IFD. C. Agissant par la voie du recours en matière de droit public, les époux X._ demandent au Tribunal fédéral d'annuler l'arrêt du 29 mars 2011 et de dire qu'ils peuvent déduire de leur revenu imposable en 2005 une perte commerciale de 48'474 fr. La Cour de Justice persiste dans les considérants et le dispositif de son arrêt du 29 mars 2011. Le Tribunal administratif de première instance renonce à formuler des observations. L'Administration cantonale et l'Administration fédérale des contributions concluent au rejet du recours.