Faits: A. Dame X._ et X._ sont domiciliés dans le canton de Genève. Né en 1936, X._ a travaillé en qualité de directeur général de la société A._ SA de 1997 au 31 juillet 2002, date à laquelle il a été licencié. A son départ, il a reçu une indemnité de 600'000 fr. Dans sa déclaration fiscale 2002, X._ a indiqué un revenu brut provenant d'une activité dépendante de 915'000 fr. Il a fait figurer le montant de 600'000 fr. sous la rubrique "Prestations en capital; Indemnité à la fin des rapports de service, indemnité de licenciement etc." A cela s'ajoutaient d'autres revenus, en particulier une rente du 2ème pilier de 96'471 fr., une rente AVS de 23'040 fr. et les revenus de Dame X._. B. Le 22 décembre 2003, l'Administration fiscale cantonale genevoise (ci-après: l'Administration fiscale) a notifié aux époux X._ un bordereau d'impôt cantonal et communal (ci-après: ICC) 2002 retenant un revenu imposable de 980'430 fr. pour un montant d'impôt de 302'017 fr. Le montant de 600'000 fr. a été considéré comme un élément du salaire. X._ a formé une réclamation, considérant que ce montant correspondait à une indemnité qui devait bénéficier du même traitement fiscal qu'un versement en capital remplaçant des prestations périodiques. Le 22 septembre 2004, l'Administration fiscale a confirmé la taxation ICC 2002. Le 28 janvier 2008, la Commission cantonale de recours en matière d'impôt (devenue, le 1er janvier 2009, la Commission cantonale de recours en matière administrative) du canton de Genève (ci-après: la Commission de recours) a admis le recours formé par X._. Elle a retenu en substance que l'indemnité de licenciement de 600'000 fr. versée n'avait pas un caractère de prévoyance; néanmoins, comme le législateur genevois avait voulu délibérément offrir un régime d'imposition favorable à toutes les indemnités de départ, le montant alloué au recourant devait bénéficier du même régime que s'il s'était agi d'un versement en capital remplaçant des prestations périodiques. Par arrêt du 30 juin 2009, le Tribunal administratif du canton de Genève, 1ère Section, (ci-après: le Tribunal administratif) a admis le recours interjeté par l'Administration fiscale et annulé la décision précitée du 28 janvier 2008. Selon cet arrêt, l'indemnité litigieuse était une prime de départ versée à bien plaire par l'employeur dans le but d'atténuer les effets de la cessation d'activité de l'entreprise. Elle ne pouvait donc être considérée comme remplaçant des prestations périodiques et devait être imposée au taux ordinaire. C. A l'encontre de l'arrêt du Tribunal administratif du 30 juin 2009, Dame X._ et X._ interjettent un recours en matière de droit public au Tribunal fédéral. Ils concluent, avec suite de frais et dépens, à l'annulation de l'arrêt attaqué et au renvoi du dossier à l'Administration fiscale pour qu'elle prenne une nouvelle décision dans le sens des considérants. La Commission de recours n'a pas présenté d'observations, à l'instar du Tribunal administratif, qui a seulement indiqué persister dans les considérants et le dispositif de l'arrêt entrepris. L'Administration fiscale conclut au rejet du recours, avec suite de frais. D. Les époux X._ ont introduit une procédure parallèle à l'encontre de leur taxation 2002 en matière d'impôt fédéral direct, mais ils ont été déboutés par la Commission de recours et n'ont pas recouru contre sa décision.