Faits:
A. B._ a travaillé comme maçon dès son arrivée en Suisse en 1990. En arrêt de travail depuis l'été 2003, il a subi une opération (cure de hernie discale) à la suite de laquelle il a déposé, le 29 juin 2004, une demande de prestations de l'assurance-invalidité. Au cours de l'instruction, l'Office cantonal genevois de l'assurance-invalidité (ci-après: l'office AI) a chargé le docteur G._, spécialiste en rhumatologie, médecine interne et médecine du sport, d'une expertise rhumatologique (rendue le 18 novembre 2003) et le docteur A._, de son Service médical régional (SMR) d'une évaluation psychiatrique de l'assuré (rapport du 13 juillet 2006). Par décision du 30 novembre 2007, il a refusé la demande de rente et de reclassement professionnel, au motif que B._ ne présentait pas un degré d'invalidité - fixé à 17 % - suffisant pour ouvrir le droit à ces prestations.
B. B.a L'assuré a déféré cette décision au Tribunal cantonal des assurances sociales de la République et canton de Genève (aujourd'hui: Cour de justice de la République et canton de Genève, Chambre des assurances sociales) (cf. jugement du 8 juillet 2008) et fait verser au dossier une expertise du docteur I._, spécialiste en neurochirurgie. Par jugement du 8 juillet 2008, le Tribunal cantonal genevois des assurances sociales a débouté l'assuré, qui a saisi le Tribunal fédéral d'un recours. Statuant le 26 mars 2009, celui-ci a annulé le jugement cantonal et renvoyé la cause à la juridiction cantonale pour complément d'instruction et nouvelle décision.
B.b Le docteur E._, médecin adjoint au service de rhumatologie de l'Hôpital X._, auquel le Tribunal cantonal genevois des assurances sociales a confié une expertise, s'est adjoint le concours du docteur H._, chef de clinique auprès du service de psychiatrie de X._, et a rendu son rapport le 21 décembre 2009 (complété de réponses à des questions supplémentaires du Tribunal le 2 mars 2010). Après avoir donné l'occasion aux parties de se déterminer au sujet de l'expertise, le Tribunal a admis le recours par jugement du 20 avril 2010. Annulant la décision du 30 novembre 2007, il a mis B._ au bénéfice d'une rente entière d'invalidité dès le 1er juin 2004.
C. Agissant par la voie du recours en matière de droit public, l'office AI demande au Tribunal fédéral d'annuler le jugement cantonal et de renvoyer la cause au Tribunal cantonal genevois des assurances sociales pour complément d'instruction.
B._ conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales en propose l'admission.

Considérant en droit:
1. Le recours en matière de droit public (<ref-law>) peut être formé pour violation du droit au sens des art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>), n'examine en principe que les griefs invoqués (<ref-law>) et fonde son raisonnement sur les faits retenus par la juridiction de première instance (<ref-law>) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law>, auquel cas il peut les rectifier ou les compléter d'office (<ref-law>).
2. Invoquant tout d'abord une appréciation arbitraire des preuves, le recourant critique pour l'essentiel la valeur probante de l'expertise du docteur E._ sur laquelle la juridiction cantonale a fondé son appréciation du cas. Les experts n'auraient pas procédé à un examen objectif de l'état de santé de l'assuré, ni répondu aux questions relatives à la capacité de travail résiduelle et à l'existence d'une aggravation de la santé; leur rapport s'appuierait par ailleurs sur des jugements de valeur et non sur des considérations médicales.
2.1 Lorsque, comme en l'occurrence, l'autorité cantonale juge l'expertise judiciaire concluante et en fait sien le résultat, le Tribunal fédéral n'admet le grief d'appréciation arbitraire que si l'expert n'a pas répondu aux questions posées, si ses conclusions sont contradictoires ou si, d'une quelconque autre façon, l'expertise est entachée de défauts à ce point évidents et reconnaissables, même sans connaissances spécifiques, que le juge ne pouvait tout simplement pas les ignorer. Il n'appartient pas au Tribunal fédéral de vérifier si toutes les affirmations de l'expert sont exemptes d'arbitraire; sa tâche se limite bien plutôt à examiner si l'autorité intimée pouvait, sans arbitraire, se rallier au résultat de l'expertise (arrêt 4P.263/2003 du 1er avril 2004, consid. 2.1; voir également <ref-ruling> consid. 3b/aa p. 352 et les références).
2.2 Les arguments avancés par le recourant à l'encontre de l'expertise judiciaire ne sont pas fondés.
C'est en vain qu'il dénonce d'abord un manque d'objectivité des docteurs E._ et H._ en leur reprochant "une méconnaissance de la notion d'atteinte à la santé applicable dans le domaine des assurances sociales". Dans son rapport du 31 août 2009 (p. 17), le docteur E._ a fait état des éléments qui l'ont conduit à poser le diagnostic de syndrome radiculaire sur hernie discale et de syndrome lombovertébral persistant sur micro-instabilité. Dès lors que ces éléments reposent sur le résultat des examens clinique, radiologique et électroneurographique effectués par l'expert ou par les médecins consultés précédemment, les conclusions qui en découlent apparaissent suffisamment étayées d'un point de vue objectif et ne sauraient être qualifiées de "jugement de valeur". Le fait qu'à la fin de son rapport, l'expert a encore exprimé sa perplexité à la lecture d'un rapport médical antérieur exprime davantage son désaccord avec l'avis médical en cause, au regard des constatations objectives relatives aux syndromes diagnostiqués, qu'une intention de déprécier l'auteur dudit avis, et ne suffit pas à rendre vraisemblable une prévention de sa part. Par ailleurs, la critique du recourant selon laquelle l'expert n'aurait nullement tenu compte des rapports médicaux au dossier tombe à faux, puisque l'expertise, qui expose de manière détaillée les pièces à disposition dans le dossier, comprend une partie consacrée à l'interprétation des documents radiologiques antérieurs, et que l'expert se réfère à plusieurs reprises aux appréciations antérieures (des docteurs K._, G._ et A._).
En ce qui concerne ensuite le volet psychiatrique de l'expertise, le recourant soutient que l'expert aurait inscrit sa démarche dans le cadre d'une approche bio-psycho-sociale de la maladie et en veut pour preuve la partie de l'expertise intitulée "lecture psychodynamique de l'anamnèse". Faute d'explications de la part du recourant, le renvoi à ce chapitre ne permet cependant pas, pas plus que la référence à un arrêt 9C_603/2009 du 2 février 2010, d'étayer son allégation. On ne voit pas que le docteur H._ ait justifié le diagnostic d'état dépressif majeur sévère sans symptômes psychotiques par des facteurs psychosociaux ou socioculturels. Le psychiatre a au contraire fait état d'un mécanisme de défense spontanée du psychisme de l'intimé pour résoudre le conflit résultant d'un sentiment d'incompréhension, par les tiers, de la maladie, ainsi que, dans la partie "status psychique", d'éléments caractéristiques de l'atteinte diagnostiquée (entre autres facteurs, sentiment de culpabilité, troubles du sommeil, aboulie importante, asthénie avec perte de l'élan vital).
Enfin, l'argumentation du caractère incomplet de l'expertise en relation avec l'absence de réponses à certaines questions est d'autant moins compréhensible que l'expert s'est clairement prononcé à leur sujet. En ce qui concerne la capacité résiduelle de travail du recourant, le docteur E._ a conclu que l'assuré présentait une "incapacité de travail totale, quelle que soit la profession" (expertise p. 16), ce qui revient à admettre une capacité résiduelle de travail nulle. Il s'est par ailleurs prononcé sur l'existence d'une péjoration de l'état de santé, en admettant une très probable aggravation progressive du handicap fonctionnel lié à la pathologie rachidienne. Tout en précisant qu'il était difficile de répondre de manière scientifiquement exacte à la question posée (complément du 2 mars 2010), l'expert a déterminé le début de cette évolution négative au mois de février 2004, en indiquant que la composante de micro-instabilité était apparue pour la première fois sur l'image de décembre 2006, mais qu'il pouvait y avoir une dissociation temporelle entre l'imagerie et la clinique. Cette conclusion rejoint son appréciation antérieure dans laquelle le médecin avait mentionné que la récidive de hernie discale était présente probablement depuis 2004, mais certainement depuis 2006 (expertise, p. 17). Ce faisant, l'expert a pris position par rapport à l'un des points qui avait fait l'objet d'évaluations divergentes entre les docteurs G._ et I._, et confirmé les constatations de ce dernier.
Au regard des critiques du recourant, il apparaît que l'autorité de recours de première instance pouvait, sans arbitraire, se fonder sur l'expertise du docteur E._ pour se prononcer sur les atteintes à la santé dont souffrait l'intimé, en particulier sur l'existence d'une aggravation de la situation, ainsi que sur les répercussions des troubles sur la capacité de travail.
3. Le second grief du recourant, tiré d'une violation du droit d'être entendu, en ce que la juridiction cantonale n'aurait pas motivé les raisons pour lesquelles elle s'écartait des rapports médicaux antérieurs à l'expertise, ni discuté des nombreux avis de son SMR, doit également être rejeté.
Contrairement à ce que soutient le recourant, la motivation de la juridiction cantonale, qui s'est ralliée aux conclusions de l'expert qu'elle avait mandaté conformément aux instructions résultant de l'arrêt 9C_723/2008 du 26 mars 2009, est en effet suffisante. Dès lors que l'expertise judiciaire avait pour but de départager les conclusions divergentes des deux médecins mandatés précédemment par les parties (les docteurs G._ et I._) sur des points essentiels pour apprécier le droit aux prestations de l'assuré (consid. 2.2 de l'arrêt cité), les premiers juges n'avaient pas, au regard de la valeur probante accordée par la jurisprudence à une telle expertise (<ref-ruling> consid. 3b/aa p. 352 et les références), à revenir de manière détaillée sur les rapports médicaux antérieurs à l'évaluation du docteur E._, dûment pris en considération par l'expert. Quant aux avis du SMR postérieurs au rapport du 31 août 2009 (des 14 janvier et 23 mars 2010), la juridiction cantonale a expliqué en s'y référant (jugement entrepris, p. 18) les raisons pour lesquelles une instruction complémentaire telle que préconisée par le médecin du SMR sur la capacité de travail de l'assuré n'étaient pas nécessaires.
4. Il résulte de ce qui précède que le recours est mal fondé.
5. Vu l'issue du litige, les frais judiciaires doivent être supportés par le recourant qui succombe (art. 66 al. 1 première phrase LTF). L'intimé a par ailleurs droit à une indemnité de dépens à la charge du recourant (art. 68 al. 1 et 2 LTF), de sorte que sa demande d'assistance judiciaire est sans objet.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le recourant versera à l'intimé la somme de 1'800 fr. à titre de dépens pour la dernière instance.
4. Le présent arrêt est communiqué aux parties, à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 15 mars 2011
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Moser-Szeless