Faits:
A. A.a Le 3 février 2001, B._, né en 1956, à l'époque employé en qualité de manoeuvre par l'entreprise X._ SA, a subi un accident de la circulation. La voiture dans laquelle il avait pris place comme passager et qui se trouvait à l'arrêt a été percutée à l'arrière par un autre conducteur. Le soir même, il a ressenti des douleurs cervicales, des vertiges et des céphalées. Le lendemain, il s'est rendu à la permanence de Y._, où le diagnostic de traumatisme cervical de type whiplash a été posé. La Caisse nationale suisse d'assurance en cas d'accidents (CNA), auprès de laquelle il était assuré, a pris en charge le cas.
Une tentative de reprise de travail à 50 % le 28 mai 2001 s'est soldée par un échec. Depuis, B._ n'a plus retravaillé. Se fondant sur l'avis de son médecin d'arrondissement, le docteur G._, d'après lequel l'assuré ne présentait plus de séquelles consécutives à l'accident du 3 février 2001, la CNA a rendu le 12 juillet 2002 une décision mettant fin à ses prestations au 31 juillet 2002. Saisie d'une opposition, elle a requis une seconde appréciation du cas au docteur S._, de sa division de médecine des accidents, et confirmé sa prise de position initiale dans une nouvelle décision du 27 mai 2003.
A.b Par jugement du 21 septembre 2004, le Tribunal cantonal genevois des assurances sociales a rejeté le recours formé par l'assuré contre la décision sur opposition de la CNA (du 27 mai 2003). B._ a interjeté un recours de droit administratif contre ce jugement. Par arrêt du 27 octobre 2005, le Tribunal fédéral des assurances a admis ce recours et renvoyé la cause à la CNA pour instruction complémentaire au sens des considérants et nouvelle décision (cause U 389/04).
A.c A la suite de cet arrêt, la CNA a confié une expertise neurologique et psychiatrique au Centre d'expertise médicale Z._. Sur la base du rapport de Z._ du 27 juin 2006, elle a rendu le 13 septembre 2006 une nouvelle décision, confirmée par décision sur opposition du 2 novembre 2006, par laquelle elle a derechef nié le droit de l'assuré à des prestations au-delà du 31 juillet 2002.
B. Saisi d'un recours de B._, le Tribunal cantonal genevois des assurances sociales a partiellement admis ses conclusions en ce sens qu'il a renvoyé la cause à la CNA pour instruction complémentaire (jugement du 5 juin 2007).
C. La CNA interjette un recours en matière de droit public dans lequel elle conclut à l'annulation du jugement cantonal et au rétablissement de sa décision sur opposition du 2 novembre 2006.
B._ conclut, sous suite de dépens, à ce que le recours soit déclaré irrecevable ou rejeté. L'Office fédéral de la santé publique a renoncé à se déterminer.
Considérant en droit:
1. Comme la décision attaquée a été rendue après l'entrée en vigueur, le 1er janvier 2007 (RO 2006 1242), de la loi fédérale sur le Tribunal fédéral (LTF; RS 173.110), le recours est régi par le nouveau droit (art. 132 al. 1 LTF).
2. 2.1 Aux art. 90 à 93, la LTF opère une distinction entre décisions finales, décisions partielles, ainsi que décisions préjudicielles et incidentes, et établit ainsi une terminologie unifiée pour toutes les procédures. Dans un arrêt récent publié aux ATF 133 V 477, le Tribunal fédéral a eu l'occasion de préciser la portée de ces notions dans le domaine du droit des assurances sociales. Il a jugé qu'un jugement cantonal qui renvoie la cause pour nouvelle décision, dès lors qu'il ne met pas fin à la procédure ou qu'il ne statue par sur un objet dont le sort est indépendant de celui qui reste litigieux, ne constitue ni une décision finale ni une décision partielle selon la réglementation de la LTF, mais doit être qualifiée de décision incidente. Une telle décision ne peut être attaquée qu'aux conditions alternatives de l'art. 93 al. 1er LTF, à savoir si elle peut causer un préjudice irréparable (let. a) ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (let. b).
2.2 En l'occurrence, le dispositif du jugement cantonal entrepris renvoie la cause à la CNA pour instruction complémentaire sur le plan médical, si bien qu'il s'agit d'une décision incidente au sens de l'art. 93 LTF. Le point de savoir si les conditions en sont données peut être laissé ouvert. En effet, la CNA ne pouvait pas savoir, au moment où elle a interjeté son recours (le 27 août 2007), que la longue pratique du Tribunal fédéral des assurances, selon laquelle un jugement cantonal de renvoi constitue une décision finale, n'allait plus être suivie après l'entrée en vigueur de la LTF, singulièrement que d'autres conditions de recevabilité doivent être réunies. On doit admettre que si la CNA en avait eu connaissance, elle aurait à tout le moins été en mesure d'exposer une argumentation suffisante à cet égard dans son mémoire de recours (cf. arrêt du Tribunal fédéral 8C_37/2007 du 8 janvier 2008, consid. 2.3), de sorte qu'il se justifie d'entrer en matière.
3. On rappellera en bref les considérations qui ont amené le Tribunal fédéral des assurances à renvoyer la cause à la recourante pour instruction complémentaire (cf. arrêt du 27 octobre 2005). Le tribunal a noté qu'au mois de mars 2002, le médecin d'arrondissement de la CNA avait encore retenu que l'assuré présentait les conséquences typiques d'un syndrome après traumatisme par accélération décélération. Or, ce médecin était parvenu à la conclusion inverse à peine quatre mois plus tard sans fournir d'explications satisfaisantes. Il y avait certes au dossier des indices susceptibles d'étayer une évolution psychique défavorable (risque de sinistrose). L'existence d'un trouble psychique n'était toutefois pas médicalement documenté. Il n'était dès lors pas possible de savoir si les plaintes qui subsistaient chez l'assuré au-delà du 31 juillet 2002 ressortaient spécifiquement au tableau clinique du traumatisme cervical du type coup du lapin ou constituaient une atteinte à la santé (secondaire) indépendante, ce qui était déterminant pour juger de son droit aux prestations ou non. La mise en oeuvre d'une instruction complémentaire, notamment sous la forme d'une expertise psychiatrique, était donc nécessaire.
4. L'expertise médicale ordonnée par la CNA à la suite de cet arrêt comporte un volet somatique et psychiatrique. Hormis des contractures musculaires diffuses dans la région cervico-dorsale, l'examen somatique n'avait révélé aucune anomalie ou atteinte fonctionnelle significative (pas de limitation de la mobilité de la colonne cervicale; aucun signe évocateur d'une souffrance cérébrale ou de la colonne cervicale). D'après les experts, du fait que les douleurs cervicales initiales de l'assuré s'étaient "accentuées et enrichies d'une asthénie, d'une labilité émotionnelle, de troubles de la concentration près d'un mois après [l'accident]", l'existence d'une lésion cervicale était discutable car une évolution des symptômes en deux temps était peu compatible avec ce genre de lésion. Vu le déroulement de l'accident, il était probable que l'assuré avait subi une entorse cervicale et peut-être un discret traumatisme crânio-cérébral de très brève durée. Cet accident avait pu entraîner des plaintes de type syndrome post-commotionnel (maux de tête, vertiges, nervosité) pendant une période de 6 à 18 mois au plus; au-delà de ce délai, la persistance des symptômes devait être mise sur le compte d'un contexte particulier (pas d'activité professionnelle pendant 10 ans après l'arrivée de l'assuré en Suisse, mauvaise intégration dans le pays d'accueil, bénéfices secondaires sociaux et financiers). Sur le plan psychique, il existait un trouble anxieux et dépressif mixte [F41.2]. Ce trouble, qui était léger et avait très peu de répercussion sur la vie familiale de B._, constituait une atteinte à la santé indépendante sans relation avec l'accident de circulation du 3 février 2001. La capacité de travail était entière (rapport d'expertise du 27 juin 2006).
5. 5.1 Pour les premiers juges, le rapport d'expertise de Z._ ne permet pas de répondre à la question posée par le Tribunal fédéral des assurances. Les experts ne mentionnaient pas "quels [étaient] précisément les troubles psychiques dont souffr[ait] l'assuré, se contentant de les qualifier de légers et de conclure qu'ils n'[étaient] pas en relation de causalité naturelle avec l'accident survenu en 2001" (voir le jugement entrepris p. 9). L'assureur-accidents devait par conséquent encore compléter son instruction.
5.2 La CNA, quant à elle, estime que les données médicales sont suffisamment claires pour trancher le litige. Il n'y avait pas d'atteinte somatique. Sur le plan psychique, les experts avaient diagnostiqué un trouble anxieux dépressif mixte (F41.2), tout en niant que ce trouble fût imputable à l'accident assuré ou même qu'il provoquât une incapacité de travail. Cela étant, s'il fallait admettre l'hypothèse que les plaintes de l'intimé fussent en relation de causalité naturelle avec l'événement accidentel, l'existence d'une relation de causalité adéquate devait être nié sur la base des critères jurisprudentiels applicables en matière d'accidents du type coup du lapin dans les cas d'accidents de gravité moyenne à la limite inférieure.
6. En ce qui concerne les dispositions légales et les principes jurisprudentiels applicables, il y a lieu de renvoyer aux considérants topiques déjà énoncés dans procédure fédérale précédente (cause U 389/04, consid. 2).
On doit en l'espèce donner raison à la CNA : le dossier est suffisamment instruit du point de vue médical pour trancher le litige. L'expertise de Z._ a tout d'abord permis de confirmer l'absence de lésion organique chez l'intimé. Elle a ensuite montré que la persistance de la symptomatologie trouvait une explication plus plausible dans des facteurs psycho-sociaux et socio-culturels que dans les conséquences directes du traumatisme accidentel ou dans d'éventuels troubles psychiques apparus consécutivement. On peut certes hésiter si B._ n'a pas tout de même subi le mécanisme d'accélération décélération au moment du choc ainsi que l'avaient d'ailleurs initialement admis les médecins d'arrondissement de la CNA. Selon la jurisprudence, pour que l'existence d'un rapport de causalité naturelle soit reconnu en cas de diagnostic de lésion du rachis cervical par accident du type coup du lapin, il faut que les troubles à la nuque ou à la colonne cervicale se manifestent dans la période de 72 heures suivant l'accident, mais il n'est pas nécessaire, en revanche, que les autres troubles caractéristiques du tableau clinique apparaissent dans ce laps de temps (SVR 2007 UV no 23 p. 75, consid. 5, U 215/05). En considération du fait que l'assuré avait tapé la tête contre le pare-prise, les experts de Z._ ont conclu à une entorse cervicale ainsi qu'à un discret traumatisme crânio-cérébral. Dans la mesure où il s'agit d'un traumatisme qui est de nature à entraîner des suites analogues et que la jurisprudence assimile d'ailleurs au traumatisme cervical par accident du type coup du lapin, il n'est pas nécessaire d'approfondir encore ce point. Comme les experts de Z._ ont, en définitive, confirmé que l'effet délétère de l'accident s'était éteint au plus tard une année et demie après sa survenance et qu'il n'existe aucune raison sérieuse de s'écarter de cette conclusion (le docteur M._, médecin traitant, avait déjà à l'époque signalé un risque important de sinistrose chez son patient), il n'y a désormais plus aucun obstacle à statuer sur le bien-fondé de la décision de suppression des prestations litigieuse.
Au regard de ce qui précède, on doit nier l'existence d'un lien de causalité naturelle entre les troubles de l'intimé subsistant au-delà du 31 juillet 2002 et l'accident assuré, ces troubles ne pouvant plus, de manière crédible, être attribués à une atteinte à la santé apparaissant, avec un degré prépondérant de vraisemblance, comme la conséquence de l'accident (cf. ATF 119 V 335 consid. 1 p. 337 s.).
7. En conclusion, le recours se révèle fondé et doit être admis, ce qui conduit à l'annulation du jugement attaqué. L'intimé supportera par conséquent les frais de justice (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis et la jugement du Tribunal cantonal genevois des assurances sociales du 5 juin 2007 est annulé.
2. Les frais de la procédure, arrêtés à 500 fr., sont mis à la charge de l'intimé.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal des assurances sociales de la République et canton de Genève et à l'Office fédéral de la santé publique.
Lucerne, le 17 janvier 2008
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Ursprung von Zwehl