Faits: A. Le 28 juillet 2010, X._, domiciliée à Meyrin (GE), a demandé au Conseil d'Etat de la République et canton de Genève (ci-après: le Conseil d'Etat), via la Chancellerie d'Etat, à pouvoir se présenter aux examens de traducteur-juré pour le canton. Bien que n'étant pas titulaire d'un diplôme universitaire, tel que le prescrit le règlement genevois du 6 décembre 2004 relatif aux traducteurs-jurés (RTJ/GE; RS/GE I 2 46.03), elle estimait pouvoir attester d'une solide expérience professionnelle et remettait au demeurant en cause la légalité dudit règlement. B. Par arrêté du 20 avril 2011, le Conseil d'Etat a déclaré irrecevable la demande de X._, au motif qu'elle ne remplissait pas les conditions permettant son assermentation en qualité de traductrice-jurée. Par arrêt du 1er novembre 2011, la Chambre administrative de la Cour de Justice de la République et canton de Genève (ci-après: la Cour de Justice) a partiellement admis, dans la mesure de sa recevabilité, le recours interjeté par X._ contre l'arrêté du 20 avril 2011 et a annulé ce dernier, au motif qu'il avait été pris en vertu d'un règlement dépourvu de base légale. C. Agissant par la voie du recours en matière de droit public, la Chancellerie d'Etat demande au nom et pour le compte du Conseil d'Etat au Tribunal fédéral, sous suite de frais, principalement, d'annuler l'arrêt de la Cour de Justice et, statuant à nouveau, de déclarer irrecevable le recours formé par X._ contre l'arrêté du Conseil d'Etat du 20 avril 2011, subsidiairement, de rejeter ledit recours et, plus subsidiairement, de renvoyer le dossier à la Cour de Justice. La Cour de Justice persiste dans les considérants et le dispositif de l'arrêt attaqué. X._ conclut au déboutement du Conseil d'Etat de toutes ses conclusions.