Faits:
A. A._, né en 1965, était chauffeur. A partir du 1er novembre 2007, il s'est trouvé au chômage et était, à ce titre, assuré contre le risque d'accidents auprès de la Caisse nationale suisse d'assurance en cas d'accidents (CNA).
Dans la soirée du 18 décembre 2008, devant le pub X._ à Y._, A._ a reçu un coup de couteau au niveau de son flanc gauche, ce qui lui a occasionné un important hématome. Le coup a été porté par B._, né en 1965, lequel a été arrêté par la police le soir même. Une procédure pénale a été diligentée contre lui.
Immédiatement transporté à l'hôpital, l'assuré y a subi une opération chirurgicale. L'évolution a été marquée par l'apparition d'une hernie de la paroi abdominale. Il a dû être réopéré le 27 juin 2010. La CNA a pris en charge le traitement médical et alloué des indemnités journalières réduites de moitié jusqu'à droit connu sur l'issue du procès pénal.
B._ a été renvoyé devant le Tribunal correctionnel de l'arrondissement de W._ pour tentative de meurtre (art. 111 CP), subsidiairement lésions corporelles graves (art. 122 CP), injure (art. 177 CP) et menaces (art. 180 CP). Par jugement du 3 février 2010, le tribunal correctionnel a condamné l'accusé à une peine privative de liberté de quatre ans pour lésions corporelles graves, injure et menaces, ainsi qu'au paiement d'une indemnité pour tort moral de 15'000 fr. Il en ressort les éléments suivants :
B._ a obtenu le statut de réfugié en France et vivait au moment des faits, à Z._ (France). A._ et lui viennent de la même région du Kosovo et se connaissaient sans être des amis. Depuis le mois de novembre 2008, ils avaient pris l'habitude de jouer au poker avec d'autres personnes au pub X._. Le 16 décembre 2008, au cours d'une partie de poker, B._ s'est fâché contre A._ lui reprochant d'avoir "demandé le tapis" alors qu'il n'avait pas le droit de faire, et a quitté la table de jeu. Le même soir, B._ a téléphoné à A._ en le menaçant "de niquer sa femme et toute sa famille". Ce dernier a raccroché. B._ l'a recontacté à deux reprises en lui disant qu'il allait "le tuer, le poignarder" et qu'il allait "ramasser à la place des autres". Une fois rentré chez lui, A._ l'a rappelé pour lui dire qu'il se trouvait à la maison et qu'il pouvait venir. B._ ne s'est pas manifesté. Le 17 décembre 2008, A._ est retourné au pub X._ sans y rencontrer l'accusé. Il s'y est à nouveau rendu le lendemain 18 décembre 2008. Ayant vu B._ attablé seul, il s'est approché et lui a demandé de régler leur différend. Il est ensuite sorti de l'établissement suivi par l'autre. Selon les déclarations de A._, une fois à l'extérieur, il avait dit à B._ que s'il voulait le tuer, il pouvait le faire immédiatement. Ce dernier avait alors sorti un couteau et il s'était défendu en lui assénant un coup de poing. D'après les déclarations de l'accusé, A._ l'avait frappé au visage avant qu'il ne sorte son couteau dans un réflexe de défense. Sentant qu'il avait été touché, A._ a voulu s'enfuir, parcourant quelques mètres avant de s'effondrer au sol, tandis que B._ lui donnait des coups de pieds en tenant toujours le couteau dans sa main droite. Alertés par les cris de la victime, des badauds se sont dirigés vers eux et l'agresseur a pris la fuite, abandonnant son couteau quelques centaines de mètres plus loin.
Après avoir pris connaissance du jugement, la CNA a rendu le 24 février 2010 une décision informant l'assuré qu'elle maintenait la réduction de 50 % des prestations en espèces auxquelles il avait droit, au motif qu'il avait été blessé à la suite d'une bagarre (art. 49 al. 2 OLAA). Saisie d'une opposition, elle l'a rejetée dans une nouvelle décision du 10 mai 2010.
B. L'assuré a recouru contre la décision sur opposition de la CNA devant le Tribunal cantonal genevois des assurances sociales (aujourd'hui: Cour de justice de la République et canton de Genève, Chambre des assurances sociales).
Le tribunal cantonal a demandé l'apport du dossier pénal et tenu des audiences de comparution personnelle et d'enquêtes. Par jugement du 24 mai 2011, il a rejeté le recours de l'assuré.
C. A._ interjette un recours en matière de droit public contre ce jugement, dont il requiert l'annulation. Il conclut à ce que la CNA soit condamnée à lui allouer l'entier des prestations en espèces auxquelles il peut prétendre. Il sollicite également l'assistance judiciaire.
La CNA conclut au rejet du recours. De son côté, l'Office fédéral de la santé publique a renoncé à se déterminer.
Considérant en droit:
1. Le litige porte sur le bien-fondé de la réduction des prestations en espèces opérée par la CNA en application de l'art. 49 al. 2 OLAA, de sorte que le Tribunal fédéral n'est pas lié par l'état de fait constaté par la juridiction précédente (cf. art. 97 al. 2 et 105 al. 3 LTF).
2. 2.1 Selon l'art. 49 al. 2 OLAA, édicté par le Conseil fédéral en vertu de la délégation de compétence de l'art. 39 LAA, les prestations en espèces sont réduites au moins de moitié en cas d'accident non professionnel survenu - notamment - lors d'une participation à une rixe ou à une bagarre, à moins que l'assuré ait été blessé par les protagonistes alors qu'il ne prenait aucune part à la rixe ou à la bagarre ou qu'il venait en aide à une personne sans défense (let. a), ou encore lors de dangers auxquels l'assuré s'expose en provoquant gravement autrui (let. b).
2.2 Les premiers juges ont correctement exposé la jurisprudence relative à ces notions, de sorte qu'on peut renvoyer à leurs considérants.
On rappellera que la notion de participation à une rixe ou à une bagarre est plus large que celle de l'art. 133 CP et que pour admettre l'existence d'une telle participation, il suffit que l'assuré entre dans la zone de danger, notamment en participant à une dispute. Peu importe que l'assuré ait effectivement pris part activement aux faits ou qu'il ait ou non commis une faute : il faut au moins qu'il se soit rendu compte ou ait pu se rendre compte du danger (JEAN-MAURICE FRÉSARD/MARGIT MOSER-SZELESS, L'assurance-accidents obligatoire in: Schweizerisches Bundesverwaltungsrecht [SBVR], Soziale Sicherheit, 2ème éd., 2007, no 321, et les références). En outre, il doit exister un lien de causalité entre le comportement de la personne assurée et le dommage survenu. Si l'attitude de l'assuré - qui doit être qualifié de participation à une rixe ou à une bagarre - n'apparaît pas comme une cause essentielle de l'accident ou si la provocation n'est pas de nature, selon le cours ordinaire des choses et l'expérience de la vie, à entraîner la réaction de violence, l'assureur-accidents n'est pas autorisé à réduire ses prestations d'assurance. Il convient de déterminer rétrospectivement, en partant du résultat qui s'est produit, si et dans quelle mesure l'attitude de l'assuré apparaît comme une cause essentielle de l'accident (SVR 1995 UV no 29 p. 85). A cet égard, les diverses phases d'une rixe forment un tout et ne peuvent être considérées indépendamment l'une de l'autre (ATFA 1964 p. 75).
3. La juridiction cantonale a laissé la question ouverte de savoir si, une fois à l'extérieur du bar, A._ avait gravement provoqué (art. 49 al. 2 let. b OLAA) B._ en lui assenant d'emblée un coup de poing ou si, au contraire, il lui avait donné ce coup seulement après avoir vu l'autre sortir un couteau de la poche de son pantalon. A l'instar du juge pénal, il n'était en effet pas possible de déterminer laquelle des deux versions contradictoires à ce sujet correspondait à la réalité des faits. Elle a également considéré que la phrase lancée par A._ à B._ - "Si tu veux me tuer, fais-le" -, ne pouvait être assimilée à une grave provocation. Même si l'on ignorait le ton employé par A._ en disant ces paroles, il n'était pas dans le cours ordinaire des choses que celles-ci suffisent à provoquer leur destinataire au point d'amener celui-ci à porter un coup de couteau à la personne qui les a énoncées. En revanche, les juges cantonaux ont admis que l'assuré avait pris part à une rixe ou à une bagarre au sens de l'art. 49 al. 2 let. a OLAA. A cet égard, ils ont retenu que celui-ci ne pouvait manquer de comprendre qu'en sortant d'un établissement public suivi de la personne avec laquelle il avait eu un différend deux jours auparavant - à la suite duquel cette personne en était venue à proférer des injures et des menaces graves à son encontre -, dans le but d'en discuter à l'extérieur, il s'exposait au risque que des actes de violence se produisent entre eux sous une forme ou une autre. Ce faisant, A._ s'était placé dans la zone de danger exclue par l'assurance, de sorte que la réduction des prestations prononcée par la CNA n'était pas critiquable.
4. Le recourant s'oppose à ce point de vue en invoquant une constatation et une appréciation erronée des faits, ainsi qu'une violation du droit fédéral.
4.1 Contrairement aux premiers juges, il soutient qu'il ne pouvait pas se douter du danger qu'il encourait en engageant la discussion avec B._ le 18 décembre 2008. D'une part, il n'avait aucune raison de se méfier des menaces proférées contre lui et sa famille puisque leur auteur n'était pas venu l'agresser le soir même du 16 décembre 2008, ni le lendemain, quand il était retourné au pub X._ où il avait coutume de passer ses soirées. D'autre part, le soir en question, B._ n'avait montré aucun signe d'agressivité à son égard à l'intérieur du pub, ce qui le confortait à penser que le prénommé s'était calmé depuis les premiers événements. En ce qui concernait le comportement de son agresseur, les faits du dossier indiquaient que celui-ci avait clairement cherché à le tuer le 18 décembre 2008. Ce jour-là, l'intéressé était venu depuis Z._ à Y._, au pub X._, où il savait trouver le recourant, avait acheté le couteau ayant servi à l'agression et attendu l'arrivée de sa victime en se comportant de manière à ne rien laisser entrevoir de ses intentions. Ces circonstances démontraient que le recourant aurait été en danger dans n'importe quel endroit de la ville, si bien qu'il ne pouvait pas se mettre dans la zone exclue par l'assurance en sortant avec B._ de l'établissement public.
4.2 Par ailleurs, les premiers juges n'avaient pas examiné le lien de causalité adéquate. Or, son propre comportement ne pouvait être considéré comme étant la cause essentielle de l'atteinte à la santé dont il avait été victime. En effet, il n'était pas dans le cours ordinaire des choses, que celui qui sort d'un bar avec une connaissance duquel il attend des excuses ou du moins une explication, en raison de mena-ces reçues deux jours auparavant, doive s'attendre objectivement à ce que cet individu sorte immédiatement de sa poche une arme blanche pour la lui planter dans le flanc. A l'appui de ces considérations, le recourant se réfère à l'arrêt 8C_363/2010 du 29 mars 2011 dans lequel un père avait tiré sur sa fille avec un révolver après que celle-ci fut entrée dans la chambre où le père s'était retiré pour éviter la pour-suite d'une discussion orageuse entre eux. Le Tribunal fédéral avait jugé que l'attitude de la fille - son intrusion dans la chambre du père afin de continuer la discussion avec lui - n'était pas dans une relation de causalité adéquate avec le résultat qui était survenu. Il devait en être de même pour lui, qui avait simplement voulu arranger les choses avec B._.
5. En faisant valoir qu'il ne pouvait pas se mettre dans une zone de danger parce que B._ "voulait de toute façon avoir sa peau", le recourant cherche à refaire le procès pénal. Le Tribunal correctionnel n'a toutefois pas retenu le meurtre par dol éventuel, considérant que l'enquête n'avait pas permis d'établir que l'accusé avait eu la réelle volonté de mettre fin aux jours de sa victime. Selon les juges pénaux, outre que les circonstances précédant immédiatement le coup de couteau faisaient l'objet de versions différentes entre les intéressés, si telle avait été réellement l'intention de B._, il était probable que celui-ci ne se serait pas contenté d'administrer des coups de pied à A._ quand ce dernier se trouvait à terre, mais aurait continué à frapper avec le couteau. La Cour de céans n'a pas de motifs de s'écarter de cette appréciation des faits par le Tribunal correctionnel dont le jugement a d'ailleurs été confirmé par la Cour de cassation pénale le 9 mars 2010. Cela étant, les allégués du recourant sont contredits par d'autres éléments au dossier. Lors d'une audition devant le juge d'instruction (du 3 février 2009), le recourant a affirmé que les menaces émises par B._ étaient perçues comme "très graves" entre kosovars. Il ressort également du témoignage de C._, ancien employeur du recourant, qu'à l'occasion de leur rencontre au pub X._ en date du 17 décembre 2008, A._ s'était montré "particulièrement choqué et paniqué par les propos tenus par [B._]" (voir le jugement du 3 février 2010 p. 9). Ces déclarations confirment que le recourant avait reconnu, ou du moins, pouvait reconnaître, que les menaces comportaient un avertissement à prendre au sérieux et qu'il y avait donc un danger à craindre de la prochaine rencontre entre eux, même si deux jours s'étaient écoulées depuis. Au demeurant, si cet épisode ne revêtait vraiment pas autant d'importance, il n'aurait pas été le premier sujet de discussion entre les deux protagonistes. Certes, à l'intérieur du bar, B._ n'a pas fait preuve d'une agressivité manifeste envers le recourant. Il n'a cependant pas montré de bonnes dispositions non plus, de sorte que A._ n'était pas fondé à penser, comme il le prétend, qu'une "discussion amicale" allait s'engager entre eux. Dans ces conditions, lorsque le recourant a signifié à B._ son intention de résoudre leur différend à l'extérieur du pub X._ - soit à l'abri des regards des autres -, il pouvait et devait se rendre compte qu'il existait un risque non négligeable que leur interaction dégénère en une altercation avec des actes de violence physique. C'est donc à juste titre que la juridiction cantonale a admis que le recourant s'était placé dans une zone de danger en invitant l'auteur des menaces reçues à sortir de l'établissement public avec lui.
On ne peut pas non plus suivre le recourant sur l'absence d'adéquation entre ce comportement et le résultat qui est survenu. L'arrêt auquel il se réfère ne lui est d'aucun secours. On ne saurait comparer son cas avec celui d'un père qui tire par revolver sur sa fille à l'occasion d'une dispute verbale. Tout d'abord, A._ et B._ étaient de simples connaissances. Ensuite, la teneur des menaces proférées ("je vais te tuer, te poignarder") pour un désaccord concernant un jeu de cartes indiquaient déjà une propension à la vengeance et à la violence chez B._. Aussi, que ce dernier a eu recours à une arme blanche était-il une éventualité que le recourant ne pouvait pas exclure, selon le cours ordinaire des choses et l'expérience de la vie, lorsqu'il lui a suggéré d'aller à l'extérieur pour une explication face à face.
Il s'ensuit que le jugement entrepris n'est pas critiquable.
6. Le recourant succombe, si bien qu'il doit en principe supporter les frais judiciaires (art. 66 al. 1 LTF) et n'a pas droit à des dépens. Il a cependant demandé l'assistance judiciaire pour la présente procédure.
6.1 Aux termes de l'art. 64 al. 1 LTF, si une partie ne dispose pas de ressources suffisantes et si ses conclusions ne paraissent pas vouées à l'échec, le Tribunal fédéral la dispense, à sa demande, de payer les frais judiciaires et de fournir des sûretés en garantie des dépens. Selon la jurisprudence, c'est la situation financière de la partie requérante au moment de la décision sur l'assistance judiciaire qui est déterminante (ATF 108 V 265 consid. 4 p. 269) et il appartient à celle-ci d'établir et de documenter son indigence (ATF 125 IV 161 consid. 4a p. 165). Il convient également de prendre en considération les revenus du conjoint (ATF 115 Ia 193 consid. 3a p. 195).
6.2 En l'espèce, selon la requête d'assistance judiciaire et les documents produits, les époux disposent d'un revenu mensuel de 7'488 fr., qui se composent des indemnités journalières LAA versées à l'assuré par la CNA (1'952 fr.), du salaire réalisé par la conjointe (4'338 fr.), des allocations familiales (400 fr.), d'une allocation de logement (458 fr.) et des subsides pour les primes d'assurance-maladie (340 fr.). On relèvera que le recourant n'a pas allégué que ces données auraient changé depuis leur communication au Tribunal fédéral. Leurs charges s'élèvent à 5'413 fr. et comprennent le loyer (1'585 fr.), les impôts cantonaux et communaux (35 fr.), les montants dus au titre des primes à l'assurance-maladie (355 fr. par adulte et 93 fr. pour chacun de leurs deux enfants, nés respectivement en 1997 et 1993, soit 896 fr.), les arriérés de cotisations AVS selon un plan de remboursement du 28 juillet 2011 (37 fr.), les frais dus au canton de Schaffouse pour une contravention conformément à un arrangement du 1er septembre 2011 (100 fr.), ainsi que le montant destiné à couvrir leurs besoins de base, à savoir 2'760 fr. ([1'700 fr. pour le couple + 600 fr. pour le dernier enfant qui n'est pas encore majeur, le tout majoré de 20 %]).
6.3 Il en résulte un solde positif d'environ 2'075 fr. par mois (7'488 fr. - 5'413 fr.), étant précisé qu'à ce jour le recourant a déjà pratiquement remboursé le total des arriérés AVS et de la contravention qu'il doit, ce qui laisse donc aux époux une somme largement suffisante pour payer les frais de cette procédure, y compris les honoraires d'avocat. Il s'ensuit que la condition de l'indigence n'est pas réalisée. Partant, la requête d'assistance judiciaire doit être rejetée.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 750 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties, à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, et à l'Office fédéral de la santé publique.
Lucerne, le 4 juillet 2012
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: Ursprung
La Greffière: von Zwehl