Faits:
A. A.a J._ travaillait comme ferrailleur à C._. Le 11 juillet 1994, il a été victime d'un accident de scooter qui a entraîné une fracture ouverte des deux os de la jambe droite. Les suites de cet événement ont été prises en charge par la Caisse nationale suisse d'assurance en cas d'accidents, qui a notamment alloué à l'assuré une rente d'invalidité fondée sur un taux d'invalidité de 50 % à partir du 1er mars 2001 (transaction du 12 juin 2004 et décision du 14 octobre 2004). Entre-temps, J._, qui avait présenté une demande de prestations de l'assurance-invalidité, a été mis au bénéfice d'une rente entière d'invalidité à partir du 1er juillet 1995 (décision du 3 juin 1996), dont le versement a été remplacé périodiquement par l'octroi d'indemnités journalières, puis suspendu à partir du 30 novembre 2001.
A.b Entre-temps, initiant d'office une procédure de révision en juillet 1996, l'Office cantonal genevois de l'assurance-invalidité (ci-après: l'office AI) a recueilli divers rapports médicaux et soumis l'assuré à un examen bidisciplinaire (rhumatologique et psychiatrique) auprès de son Service médical régional (SMR). Concluant à l'absence de pathologie psychiatrique, les médecins du SMR ont indiqué que l'activité de ferrailleur n'était plus exigible, mais que l'assuré était capable de travailler à 80 % dans une activité adaptée (rapport du 21 avril 2006). Pour sa part, le docteur V._, psychiatre traitant, a conclu que la capacité de travail de son patient était réduite d'environ 50 % en raison d'une symptomatologie anxio-dépressive accompagnée d'une symptomatologie douloureuse persistante (rapport du 20 février 2007). Par décision du 5 novembre 2007, l'office AI a octroyé à J._ une rente entière d'invalidité du 1er juillet 1995 au 30 novembre 2001. Il a considéré que l'assuré disposait d'une capacité résiduelle de travail de 80 %, ce qui lui permettait d'obtenir dans une activité légère de substitution un revenu inférieur de 32,3 % à celui qu'il réalisait avant son atteinte à la santé; ce degré d'incapacité de gain ne justifiait pas le maintien de la rente.
B. Saisi d'un recours de l'assuré contre cette décision, le Tribunal cantonal des assurances sociales de la République et canton de Genève a confié une expertise au docteur L._, psychiatre et psychothérapeute, qui s'est prononcé le 25 février 2009. Retenant un trouble dépressif récurrent, épisode actuel sévère sans symptômes psychotiques et une personnalité à traits émotionnellement labiles, type borderline, l'expert a conclu que l'assuré, qui avait très probablement subi une perte de sa capacité de travail de 50 % depuis janvier 2002, n'était plus en mesure d'exercer une activité lucrative depuis septembre 2004. Par jugement du 1er juillet 2009, le Tribunal cantonal genevois des assurances sociales a admis le recours. Annulant la décision du 5 novembre 2007, il a reconnu le droit de J._ "à une rente entière d'invalidité jusqu'au 31 mars 2002, à une demi-rente du 1er avril 2002 au 30 novembre 2004, puis à une rente entière depuis le 1er décembre 2004 pour une durée indéterminée".
C. L'office AI interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation en concluant au renvoi de la cause au Tribunal cantonal genevois des assurances sociales pour qu'il statue à nouveau. Il a par ailleurs sollicité l'effet suspensif à son recours, ce qui lui a été accordé par ordonnance du 6 novembre 2009.
J._ conclut au rejet du recours et sollicite le bénéfice de l'assistance judiciaire. De son côté, l'Office fédéral des assurances sociales a renoncé à se déterminer.
Considérant en droit:
1. 1.1 Par sa décision du 5 novembre 2007, rendue à l'issue d'une procédure de révision du droit à la rente, le recourant a confirmé le droit de l'intimé à une rente entière d'invalidité à partir du 1er juillet 1995 - ce droit ayant été initialement reconnu par la décision du 3 juin 1996 -, mais a limité la prétention au 30 novembre 2001. Selon le dispositif du jugement entrepris, l'intimé a droit à une rente entière d'invalidité jusqu'au 31 mars 2002, à une demi-rente du 1er avril 2002 au 30 novembre 2004, puis à une rente entière depuis le 1er décembre 2004 pour une durée indéterminée. Au vu des conclusions et des motifs du recours, le litige porte sur la suppression à partir du 1er avril 2002 de la rente d'invalidité allouée à l'intimé depuis le 1er juillet 1995.
1.2 Que le prononcé du 5 novembre 2007 soit considéré comme une décision par laquelle le recourant entendait réviser le droit à la rente ou remplacer sa décision initiale du 3 juin 1996, le litige doit être examiné au regard de l'art. 17 LPGA. Selon cette disposition, si le taux d'invalidité du bénéficiaire de la rente subit une modification notable, la rente est, d'office ou sur demande, révisée pour l'avenir, à savoir augmentée ou réduite en conséquence, ou encore supprimée. L'art. 17 LPGA sur la révision s'applique également à la décision par laquelle l'organe de l'assurance-invalidité accorde une rente limitée dans le temps à titre rétroactif (ATF 125 V 413 consid. 2d p. 417 et les références). Pour le surplus, le jugement entrepris expose correctement la jurisprudence sur le principe de la libre appréciation des preuves, la valeur probante d'un rapport médical et les conditions auxquelles le juge peut s'écarter d'une expertise judiciaire. Il suffit d'y renvoyer.
2. Sans remettre en cause la constatation de la juridiction cantonale selon laquelle l'état de santé de l'intimé ne s'était pas amélioré en novembre 2001, le recourant se plaint tout d'abord d'arbitraire dans l'appréciation des preuves. Il reproche aux premiers juges d'avoir retenu, en suivant l'expertise du docteur L._, une incapacité de travail (de 50 %) à partir du 1er janvier 2002 pour des raisons psychiatriques, mais de n'avoir en revanche pas tenu compte d'une amélioration de l'état de santé dès le mois de décembre 2006.
2.1 L'appréciation des preuves est arbitraire lorsqu'elle est manifestement insoutenable, en contradiction avec le dossier, ou contraire au sens de la justice et de l'équité (ATF 134 V 53 consid. 4.3 p. 62 et les arrêts cités) ou lorsque l'autorité ne tient pas compte, sans raison sérieuse, d'un élément propre à modifier la décision, se trompe sur le sens ou la portée de celui-ci ou, se fondant sur les éléments recueillis, en tire des constatations insoutenables (ATF 129 I 8 consid. 2.1 p. 9, 127 I 38 consid. 2a p. 41).
2.2 Considérant que les conclusions de l'expertise du 25 février 2009 étaient claires, bien motivées et convaincantes, la juridiction cantonale a suivi l'appréciation du docteur L._ selon laquelle l'intimé souffrait d'un trouble dépressif récurrent (épisode actuel sévère sans symptômes psychotiques) et présentait de ce fait une incapacité de travail de 50 % à partir de janvier 2002, puis de 100 % dès septembre 2004. Ces constatations de fait, qui lient en principe le Tribunal fédéral (art. 105 al. 1 et 2 LTF), ne relèvent pas d'une appréciation arbitraire des preuves. Contrairement à ce que prétend le recourant, les conclusions de l'expert sur l'incapacité de travail en cause ne sont pas uniquement fondées sur les déclarations de l'assuré et l'avis de la doctoresse B._, médecin traitant de 1998 à mars 2007. Comme l'a dûment relevé la juridiction cantonale, l'expert s'est appuyé sur l'évaluation du stage professionnel suivi par l'assuré en 1998 et les rapports établis en décembre 2001 et janvier 2002 par les services X._, dont il a comparé les résultats. Il s'est au demeurant référé aux observations de la doctoresse B._, qui a fait état d'une symptomatologie dépressive ayant nécessité l'introduction d'un traitement médicamenteux en janvier 2002 et d'une aggravation de l'état psychique en septembre 2004, et dont l'avis ne saurait être écarté, quoi qu'en pense le recourant, pour le seul motif qu'il émane du médecin traitant (cf. ATF 125 V 351 consid. 3a p. 352; 122 V 157 consid. 1c p. 160 et les références).
Quant aux autres critiques du recourant à l'égard de l'expertise, elles ne sont pas non plus fondées: le docteur L._ s'est prononcé par rapport à l'examen du SMR du 21 avril 2006 (p. 8 s. et 27 de l'expertise); le problème lié à la consommation d'alcool a été considéré comme n'ayant pas de répercussion sur la capacité de travail (rapport du docteur V._ du 20 février 2007), si bien que l'expert n'avait pas à l'examiner plus avant; "l'incohérence" mise en évidence par le recourant dans les conclusions du docteur L._ (ch. 13 p. 26 de l'expertise) relève d'une erreur de plume, le médecin ayant manifestement voulu indiquer une capacité de travail (et non une incapacité de travail) nulle dès septembre 2004, comme il l'a mentionné ailleurs dans son expertise (ch. 11 p. 24). En ce qui concerne enfin l'amélioration de l'état de santé de l'intimé à partir de 2006 dont se prévaut le recourant, elle a précisément été niée par le docteur L._ (p. 25 et 27 de l'expertise), qui a expliqué les raisons pour lesquelles il ne suivait pas, sur ce point, l'appréciation du médecin traitant (du 20 février 2007). La constatation de la juridiction cantonale relative à une incapacité totale de travail à partir du mois de septembre 2004 n'est donc pas en contradiction avec le dossier et ne saurait, partant, être qualifiée d'insoutenable.
3. 3.1 Invoquant une violation de la LPGA et de la LAI, le recourant reproche encore à la juridiction cantonale d'avoir reconnu à l'intimé le droit à une demi-rente d'invalidité du 1er avril 2002 au 30 novembre 2004 en raison d'une incapacité de travail de 50 % sans avoir effectué une comparaison des revenus déterminants.
3.2 Considérant implicitement que l'intimé n'était plus à même d'exercer son activité de ferrailleur - ce que le recourant ne conteste pas -, les premiers juges ont constaté en premier lieu que l'assuré présentait sur le plan physique une capacité résiduelle de travail de 80 % dans une activité adaptée. En second lieu, ils ont retenu que du point de vue psychique, la capacité de travail était de 50 % depuis janvier 2002, puis nulle dès septembre 2004, et reconnu, en conséquence, le droit à une demi-rente du 1er avril 2002 au 30 novembre 2004, puis à une rente entière dès le 1er décembre 2004.
Comme le fait valoir à juste titre le recourant, la capacité de travail de 50 % sur le plan psychique ne pouvait se rapporter qu'à une activité adaptée (et non plus à la profession exercée en dernier lieu) au regard des empêchements constatés sous l'angle somatique. Aussi, la juridiction cantonale aurait-elle été tenue, conformément aux art. 28 al. 2 LAI (dans sa version en vigueur jusqu'au 31 décembre 2007) et 16 LPGA, d'appliquer la méthode ordinaire d'évaluation de l'invalidité (comparaison des revenus) pour déterminer les effets de la limitation de la capacité de travail de l'intimé sur le plan économique.
3.3 Cela étant, le résultat auquel serait parvenue l'autorité cantonale de recours, eût-elle déterminé le taux d'invalidité pour la période en cause par la méthode de la comparaison des revenus, n'aurait pas été différent de celui auquel elle a abouti en fixant le degré d'invalidité en fonction d'une évaluation médico-théorique. Compte tenu des éléments de calcul retenus par le recourant dans sa décision du 5 novembre 2007 (non contestés par l'intimé) - et il convient à cet égard de compléter d'office les faits déterminants (art. 105 al. 2 LTF) -, mais pour l'année de référence 2002, le taux d'invalidité résultant de la comparaison des revenus avec et sans invalidité (avec un abattement de 15 %) en fonction d'une incapacité de travail de 50 % correspond à 58 %. L'octroi d'une demi-rente d'invalidité à l'intimé du 1er avril 2002 au 30 novembre 2004 n'est par conséquent pas contraire au droit.
4. Il résulte de ce qui précède que le recours est mal fondé.
5. Vu l'issue de la procédure, le recourant supportera les frais y afférents (art. 66 al. 1 LTF). L'intimé, qui obtient gain de cause, a droit à une indemnité à titre de dépens à la charge du recourant (art. 68 al. 1 LTF), de sorte que la demande d'assistance judiciaire qui assortit sa réponse est sans objet.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le recourant versera à l'intimé la somme de 2'800 fr. à titre de dépens pour la dernière instance.
4. Le présent arrêt est communiqué aux parties, au Tribunal cantonal des assurances sociales de la République et canton de Genève et à l'Office fédéral des assurances sociales.
Lucerne, le 4 février 2010
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Moser-Szeless