Faits:
A. A.a F._ a travaillé en tant que jardinier et chef d'équipe pour la société X._ SA. A ce titre, il était assuré contre le risque d'accident auprès de la Compagnie d'assurances nationale suisse SA (ci-après: la Nationale).
Le 5 octobre 1998, le prénommé a fait une chute d'une échelle d'une hauteur de trois mètres, qui a provoqué une fracture styloïde du péroné droit. La Nationale a pris en charge le cas. Malgré la persistance des douleurs, l'assuré a repris son activité professionnelle.
Le 27 avril 1999, il a subi une arthroscopie de la cheville droite qui a mis en évidence une importante lésion ostéo-cartilagineuse de l'angle antéro-interne du dôme astragalien (cf. protocole opératoire du 29 avril 1999 du docteur H._). La symptomatologie a évolué vers une arthrose de l'articulation tibio-astragalienne.
Mandaté par la Nationale, le docteur W._, spécialiste FMH en chirurgie orthopédique, a diagnostiqué une arthrose tibio-astragalienne, une arthrose sous astragalienne débutante, une suspicion de canal lombaire étroit et une obésité avec BMI à 37; seuls les deux premiers diagnostics étaient en rapport avec l'accident de 1998. Il a indiqué que l'assuré n'était plus en mesure de conduire des machines (hormis une tondeuse à plat), travailler dans les pentes ou des terrains irréguliers, travailler sur des échelles ou des échafaudages, retourner le sol avec une bêche, piétiner ou marcher de façon prolongée, se tenir accroupi ou à genoux de façon prolongée; l'activité professionnelle habituelle n'était plus envisageable qu'à 50 %. Le médecin a précisé que l'obésité et les lombalgies ne jouaient aucun rôle dans l'incapacité de travail attestée. Concernant les activités adaptées, l'expert n'a retenu aucune incapacité de travail dans les professions de réceptionniste/téléphoniste (il convenait toutefois de tenir compte du fait que l'assuré avait arrêté sa scolarité à 11 ans), gardien de musée (dans un poste assis), employé de régie (dans un poste à l'interne, sans visite d'appartements) et surveillant de parking, tandis que les activités de commis administratif, préposé au guichet et employé dans une compagnie d'assurances n'étaient exigibles qu'à 75 % vu la limitation existant pour le temps passé debout (rapport du 12 octobre 2005).
A.b Les douleurs se sont aggravées et l'assuré a subi trois nouvelles opérations, soit la pose d'une prothèse totale le 17 octobre 2006, la révision et le débridement du tendon du membre tibial supérieur le 26 juin 2007, ainsi qu'une arthroscopie antérieure et dorsale avec décompression et mobilisation de la cheville le 16 avril 2008 (cf. rapports du professeur I._ des 19 décembre 2006, 26 juin 2007 et 16 avril 2008).
Entre-temps, l'assuré avait déposé, le 12 octobre 2004, une demande de prestations de l'assurance-invalidité. Par décision du 23 avril 2008, l'Office de l'assurance-invalidité du canton de Genève (ci-après: l'office AI) lui a reconnu le droit à une demi-rente d'invalidité du 1er septembre 2005 au 31 décembre 2005, puis à une rente entière à compter du 1er janvier 2006.
A la demande de la Nationale, le docteur W._ a réexaminé l'assuré. Il a retenu les diagnostics ayant une répercussion sur la capacité de travail d'arthrose tibio-astragalienne à la cheville droite traitée par prothèse totale, d'arthrose sous astragalienne, d'obésité morbide avec indice de masse corporelle à 40 et de syndrome d'apnées du sommeil. Il a constaté qu'après la mise en place de la prothèse, l'évolution avait été défavorable et que le handicap était désormais indéniable. L'incapacité de travail de l'assuré dans son métier de jardinier était totale, tandis que sa capacité de travail demeurait entière dans une profession respectant toutes les limitations fonctionnelles constatées (rapport du 1er février 2010).
Par décision du 3 février 2010, la Nationale a octroyé à F._ une indemnité pour atteinte à l'intégrité d'un taux de 25 %. Par décision du 12 avril 2010, l'assureur a alloué au prénommé une rente d'invalidité fondée sur une incapacité de gain de 27 %.
Dans un rapport du 10 mai 2010, le docteur S._, spécialiste FMH en médecine interne, a indiqué que l'assuré présentait un état dépressif totalement incapacitant depuis environ une année; cet état était probablement secondaire au problème orthopédique, lequel était favorisé par un excès de poids important.
Dans son rapport du 11 mai 2010, la doctoresse P._, spécialiste FMH en chirurgie orthopédique et médecin traitant, a attesté que l'activité de jardinier n'était plus exigible, tandis que la capacité de travail dans une activité adaptée était de 50 %, voire de 75 %.
L'assuré a formé opposition à la décision du 12 avril 2010 en contestant la quotité de la rente. Par décision sur opposition du 1er décembre 2010, la Nationale a rectifié sa première décision en ce sens qu'elle a retenu un taux d'invalidité de 29 %.
B. L'assuré a déféré cette décision à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, en produisant en cours d'instance un rapport du 6 juin 2011 du docteur O._, spécialiste FMH en psychiatrie-psychothérapie. Selon ce médecin, l'assuré présentait une dysthymie (CIM-10 F34.1) et un trouble de l'adaptation avec réaction dépressive prolongée (CIM-10 F43.21), lesquels étaient en rapport avec les problèmes de santé engendrés par l'accident de 1998. Il a ajouté que lors des premières rencontres le diagnostic avait été un épisode dépressif sévère sans symptômes psychotiques (CIM-10 F32.2) avec idéations suicidaires manifestes.
Après avoir recueilli l'avis des docteurs W._ (du 27 juillet 2011) et P._ (du 6 juillet 2011), la Cour de justice a, par jugement du 24 octobre 2011, admis le recours de l'assuré et annulé les décisions des 12 avril et 1er décembre 2010. Elle a reconnu le droit de celui-ci à une rente d'invalidité de 100 % à partir du 1er février 2010.
C. La Nationale interjette un recours en matière de droit public contre ce jugement dont elle requiert l'annulation. Elle demande au Tribunal fédéral de constater que l'assuré n'a pas droit, à compter du 1er février 2010 à une rente d'invalidité LAA, en tous les cas pas à une rente d'invalidité fondée sur un taux d'incapacité de gain supérieur à 29 %. Subsidiairement, elle conclut au renvoi de la cause à la juridiction cantonale pour instruction complémentaire, le tout sous suite de frais et dépens.
L'intimé conclut à la confirmation du jugement attaqué, sous suite de frais et dépens.
La juridiction cantonale et l'Office fédéral de la santé publique ont renoncé à se déterminer.
Considérant en droit:
1. Le litige porte sur la quotité de la rente d'invalidité allouée à l'intimé, singulièrement sur le taux d'invalidité.
Le Tribunal fédéral n'est pas lié par l'état de fait constaté par la juridiction précédente lorsque le litige porte sur des prestations en espèces de l'assurance-accidents (art. 97 al. 2 LTF).
2. 2.1 En l'occurrence, il est constant qu'en raison de son handicap, l'assuré présente une incapacité de travail totale dans son ancienne activité de jardinier. En revanche, selon le docteur W._, la capacité de travail de l'intimé est totale dans une profession susceptible de respecter les limitations fonctionnelles suivantes: conduire des machines y compris des tondeuses, travailler dans les pentes ou sur des terrains irréguliers, travailler sur des échelles ou des échafaudages, retourner le sol avec une bêche, piétiner ou marcher de façon prolongée, se tenir accroupi ou à genoux de façon prolongée, monter et descendre des pentes et/ou des escaliers de façon répétitive, marcher sans cannes plus de quelques mètres, maintenir une station debout plus de 15-30 minutes, rester assis sans bouger plus de 15-30 minutes, porter des charges (même de 1 kg en raison des cannes), conduire de façon prolongée et en ville (cf. rapport du 1er février 2010).
La juridiction cantonale a accordé pleine valeur probante au rapport du docteur W._ et a fait siennes les limitations décrites. Elle s'est toutefois écartée des conclusions de l'expert, en considérant que l'assuré ne pouvait plus être réadapté dans l'économie libre, celui-ci n'étant plus en mesure de maintenir les positions de travail. Compte tenu des limitations nouvellement retenues par rapport aux constatations médicales de 2005 (position assise limitée à une durée de 15-30 minutes et obligation de se déplacer au moyen de cannes), l'autorité cantonale de recours a estimé que les activités proposées à l'époque par le docteur W._ (cf. rapport du 12 octobre 2005) n'étaient plus exigibles. A l'instar de l'office AI, il convenait de retenir que l'assuré présentait une invalidité totale.
Invoquant l'arbitraire, la recourante reproche à la juridiction cantonale de s'être écartée des pièces médicales, en constatant de façon inexacte et péremptoire que l'assuré ne pouvait être réadapté dans l'économie libre. Selon elle, les premiers juges ne pouvaient se fonder sur la décision de l'office AI, dès lors que celle-ci prenait également en compte les autres atteintes sans rapport avec l'accident de 1998.
L'intimé soutient en substance que la juridiction précédente était en droit de s'écarter des conclusions médicales, dès lors qu'il n'existait pas d'activité adaptée à son état de santé. D'après lui, les postes envisagés en 2005 par le docteur W._ n'étaient plus exigibles pour les motifs développés dans son recours cantonal, auquel il renvoie la Cour de Céans.
2.2 Lorsqu'il s'agit d'examiner dans quelle mesure un assuré peut encore exploiter économiquement sa capacité de gain résiduelle sur le marché du travail entrant en considération pour lui (art. 16 LPGA en liaison avec l'art. 1 al. 1 LAA), on ne saurait subordonner la concrétisation des possibilités de travail et des perspectives de gain à des exigences excessives. Il s'ensuit que pour évaluer l'invalidité, il n'y a pas lieu d'examiner la question de savoir si un invalide peut être placé eu égard aux conditions concrètes du marché du travail, mais uniquement de se demander s'il pourrait encore exploiter économiquement sa capacité résiduelle de travail lorsque les places de travail disponibles correspondent à l'offre de la main d'oeuvre (VSI 1998 p. 293, I 198/97 consid. 3b et les références). On ne saurait toutefois se fonder sur des possibilités de travail irréalistes. Ainsi, on ne peut parler d'une activité exigible au sens de l'art. 16 LPGA, lorsqu'elle ne peut être exercée que sous une forme tellement restreinte qu'elle n'existe pratiquement pas sur le marché général du travail ou que son exercice suppose de la part de l'employeur des concessions irréalistes et que, de ce fait, il semble exclu de trouver un emploi correspondant (RCC 1991 p. 329, I 350/89 consid. 3b; RCC 1989 p. 328, I 329/88 consid. 4a; arrêt 9C_713/2009 du 22 juillet 2010, consid. 3.2). A la lumière de ces considérations, il y a lieu de déterminer dans chaque cas de manière individuelle si l'assuré est encore en mesure d'exploiter une capacité de travail résiduelle sur le plan économique et de réaliser un salaire suffisant pour exclure une rente. Ni sous l'angle de l'obligation de diminuer le dommage, ni sous celui des possibilités qu'offre un marché du travail équilibré aux assurés pour mettre en valeur leur capacité de travail résiduelle, on ne saurait exiger d'eux qu'ils prennent des mesures incompatibles avec l'ensemble des circonstances objectives et subjectives (arrêts 9C_313/2007 du 8 janvier 2008, consid. 5.2; I 537/03 du 16 décembre 2003, consid. 3.1).
2.3 D'un point de vue médical, le docteur W._ a constaté une pleine capacité de travail dans une profession permettant le respect de toutes les limitations fonctionnelles posées. Dans son avis du 27 juillet 2011, ce médecin a mentionné qu'un traitement antalgique efficace et suivi par l'assuré, assorti à un traitement anti-inflammatoire, ainsi qu'au port de chaussures et de semelles orthopédiques, permettrait de diminuer les symptômes et les limitations fonctionnelles. De son côté, le médecin traitant a considéré qu'une activité professionnelle était encore exigible, pour autant qu'elle tienne compte des douleurs présentes lors de la station debout et de la marche (le périmètre de marche avec les cannes étant limité à 15-20 minutes), ainsi que de la nécessité d'utiliser des moyens auxiliaires; l'accès au lieu professionnel devait être facilité. Dans une activité s'exerçant en position assise, laquelle était bien tolérée par l'assuré, la capacité de travail résiduelle était de 50 %, voire (au maximum) de 75 % (cf. rapport du 11 mai 2010).
Il ressort de ces constatations médicales - lesquelles ne sont dans une large mesure pas contestées par les parties - qu'une activité s'exerçant principalement en position assise, permettant d'alterner les positions et ne requérant pas de longs déplacements (en raison de l'utilisation de cannes) reste exigible. Le fait d'avoir limité la position assise à 15-30 minutes ne veut pas dire qu'après avoir été assis, l'assuré doive impérativement rester debout ou marcher pendant une demi-heure avant de pouvoir se rasseoir, mais cela signifie que le poste de travail doit offrir la possibilité à l'assuré de se lever et de faire quelques pas avant de devoir reprendre sa place. Dans ce sens, la limitation retenue par le docteur W._ s'apparente à l'exigence d'alterner les positions. Si les limitations fonctionnelles peuvent de prime abord sembler importantes, elles représentent les mesures d'épargne somme toute pas inhabituelles dans ce cas. Au demeurant, elles ne requièrent pas des aménagements ou des concessions irréalistes de la part de l'employeur.
L'intimé conteste le fait qu'un traitement antalgique, associé à un traitement anti-inflammatoire, ainsi qu'au port de chaussures et semelles orthopédiques, puisse améliorer ses limitations fonctionnelles. Toutefois, dès lors que le docteur W._ n'a fait que mentionner l'éventualité d'une amélioration sans la répercuter sur les limitations fonctionnelles retenues dans son expertise du 1er février 2010, cet argument n'est pas décisif.
On doit par ailleurs admettre qu'il existe sur le marché du travail un éventail suffisamment large d'activités simples et légères, ne nécessitant aucune formation particulière, dont on doit convenir qu'un nombre significatif sont adaptées au handicap de l'intimé, notamment dans des activités de contrôle, de surveillance, de bureau et de l'industrie légère. On rappellera au demeurant qu'il n'y a pas lieu, dans ce contexte, d'examiner dans quelle mesure la situation concrète du marché du travail permettrait à l'intimé de retrouver un emploi (ATF 134 V 64 consid. 4.2.1 p. 70; 110 V 273 consid. 4b p. 276).
Ainsi, dès lors qu'elles offrent la possibilité d'un travail assis, garantissent l'alternance des positions et qu'elles tiennent compte de la limitation du périmètre de marche (avec/sans cannes), les activités de gardien, surveillant de musée ou gardien de parking, envisagées par le docteur W._ en 2005, restent exigibles. Dans la même mesure, les professions de huissier, réceptionniste/téléphoniste, employé de bureau sont également adaptées. Si l'on peut se poser la question de l'adéquation de ces dernières au profil professionnel de l'assuré, il y a toutefois lieu de relever que celui-ci n'a pas toujours exercé un travail manuel; avant son arrivée en Suisse, il a également travaillé durant six ans comme gérant d'une entreprise de production de poussins. En outre, le docteur W._ l'a jugé apte à remplir des tâches administratives (de planification, gestion et établissement de devis), en retenant une capacité de travail résiduelle dans l'activité de jardinier sédentaire.
Cela étant, le point de vue des premiers juges, selon lequel il n'existait plus de possibilités de travail réalistes pour l'assuré sur un marché du travail équilibré compte tenu de son handicap à la cheville droite et qu'il présentait dès lors une invalidité totale, ne peut être suivi.
C'est le lieu de préciser que contrairement à la situation qui prévalait dans l'arrêt 9C_1035/2009 du 22 juin 2010 du Tribunal fédéral cité par l'intimé, celui-ci n'est pas du tout limité au niveau des membres supérieurs dans un poste de travail assis, qui demeure seul exigible en l'espèce.
Il est vrai que les organes de l'assurance-invalidité ont reconnu le droit de l'assuré à une rente entière d'invalidité. Toutefois, outre le fait que leur évaluation de l'invalidité n'a pas de force contraignante pour l'assureur-accidents (ATF 131 V 362 consid. 2.3 p. 368), on retiendra qu'au vu notamment du rapport succinct du 22 janvier 2008 du Service médical régional, sur lequel se fonde la décision AI, il ne peut être établi (au degré de vraisemblance requise) que seules les séquelles liées à l'accident de 1998, à l'exclusion des autres atteintes (lombalgies, obésité, syndrome d'apnées du sommeil), ont motivé la décision d'octroi d'une rente et son maintien lors des révisions ultérieures.
2.4 Il s'ensuit que le jugement entrepris doit être annulé et la cause renvoyée à la juridiction cantonale pour qu'elle rende une nouvelle décision compte tenu de ce qui précède. Elle devra en particulier examiner la question du taux de capacité de travail raisonnablement exigible sur le plan somatique et déterminer s'il existe un lien de causalité (naturelle et adéquate) entre les troubles psychiques allégués par l'intimé, et attestés par les docteurs S._ (cf. rapport du 10 mai 2010 ) et O._ (cf. rapport du 6 juin 2011), et l'événement assuré. Si nécessaire, elle complétera l'instruction.
3. L'intimé, qui succombe, supportera les frais judiciaires (art. 66 al. 1 LTF). Quant à la recourante, bien qu'elle obtienne gain de cause, elle ne saurait se voir allouer les dépens qu'elle prétend (art. 68 al. 3 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis et le jugement de la Chambre des assurances sociales de la Cour de justice de la République et canton de Genève du 24 octobre 2011 est annulé. La cause est renvoyée à la juridiction cantonale pour nouvelle décision au sens des considérants.
2. Les frais judiciaires, arrêtés à 750 fr., sont mis à la charge de l'intimé.
3. Il n'est pas alloué de dépens.
4. Le présent arrêt est communiqué aux parties, à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, et à l'Office fédéral de la santé publique.
Lucerne, le 7 décembre 2012
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: Ursprung
La Greffière: Reichen