Faits : A. A.X._ et B.X._ sont mariés et domiciliés à Genève. Le 7 juin 2012, ils ont remis leur déclaration fiscale 2011 à l'Administration fiscale cantonale du canton de Genève (ci-après: l'Administration cantonale). Pour les impôts cantonal et communal (ci-après: ICC), cette dernière faisait état d'un revenu imposable de 59'853 fr. et d'une fortune imposable de 4'661'559 fr. Concernant l'impôt fédéral direct (ci-après: IFD), la déclaration indiquait un revenu imposable de 70'682 fr. B.X._ a également annoncé percevoir une rente de l'Etat français à hauteur de 70'892 fr. (recte: 70'982 fr.), non imposable en Suisse. B. B.a. Le 21 août 2013, l'Administration cantonale a établi les bordereaux de taxation 2011 des époux X._. Pour l'ICC, cette autorité a retenu un revenu imposable de 60'176 fr. au taux de 127'776 fr. et une fortune imposable de 4'702'814 fr. au taux de 4'855'690 fr. Il en résultait un montant total d'ICC de 52'356 fr. 65 avant imputation (soit 46'599 fr. 30 après imputation). Quant à l'IFD, la taxation s'élevait à 2'782 fr. pour 2011. Le tableau de répartition faisait état notamment des éléments imposables finaux suivants: Genève Vaud France Total Revenu 60'176 fr. 0 fr. 67'600 fr. 127'776 fr. Fortune 4'702'814 fr. 39'107 fr. 113'769 fr. 4'855'690 fr. Le 30 août 2013, les contribuables ont déposé une réclamation contre les bordereaux précités, en revendiquant l'application du "bouclier fiscal" genevois. Par décisions du 7 novembre 2013, l'Administration cantonale a rejeté la réclamation. B.b. Le 29 novembre 2013, A.X._ et B.X._ ont recouru contre la décision du 7 novembre 2013 concernant l'ICC auprès du Tribunal administratif de première instance du canton de Genève (ci-après: le TAPI). Par jugement du 24 novembre 2014, le TAPI a admis le recours et renvoyé le dossier à l'Administration cantonale pour nouvelle taxation dans le sens des considérants. Ce tribunal a considéré en résumé que, sur la base des seuls revenus genevois des contribuables, leur charge fiscale pour 2011 était excessive. B.c. Le 23 décembre 2014, l'Administration cantonale a recouru auprès de la Cour de justice du canton de Genève (ci-après: la Cour de justice) contre le jugement du TAPI. Par arrêt du 3 novembre 2015, la Cour de justice a admis le recours, annulé le jugement attaqué et rétabli la décision sur réclamation du 7 novembre 2013 ainsi que les bordereaux du 21 août 2013. Les juges cantonaux ont retenu, en substance, que, pour calculer la charge fiscale maximale en application du système relatif au "bouclier fiscal", il fallait prendre en compte les revenus "mondiaux" des contribuables. Partant, la Cour de justice a constaté que le montant total de l'ICC sur le revenu et la fortune des intéressés (52'356 fr. 65) n'excédait pas leur charge fiscale admissible (76'666 fr.) pour la période fiscale 2011. C. Agissant par la voie du recours en matière de droit public, A.X._ et B.X._ demandent au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt de la Cour de justice du 3 novembre 2015, de dire que leur "taxation ICC 2011 [...] excède leur charge fiscale admissible", de les mettre au bénéfice du bouclier fiscal prévu par le droit genevois et de réduire leur "taxation d'ICC 2011" d'un montant de 16'251 fr. 05. Subsidiairement, ils concluent au renvoi de la cause à l'Administration cantonale "pour une nouvelle notification du bordereau d'ICC 2011 qui devra se fonder sur le revenu imposable uniquement dans le canton de Genève, ce qui reviendra à réduire la taxation d'ICC 2011 de Madame et Monsieur A.X._ et B.X._ d'un montant de CHF 16'251.05". La Cour de justice persiste dans les considérants et le dispositif de son arrêt. L'Administration cantonale dépose des observations et conclut au rejet du recours. L'Administration fédérale des contributions renonce à se déterminer.