Faits:
A. A.a R._ a travaillé en qualité de couvreur. Victime le 13 juin 2000 d'un accident professionnel ayant entraîné des lésions de son pied droit et de l'épaule gauche, il a déposé le 29 juin 2001 une demande de prestations auprès de l'Office de l'assurance-invalidité du canton de Genève (ci-après: l'office AI).
Dans le cadre de l'instruction de la demande, l'administration a confié la réalisation d'une expertise au docteur U._, spécialiste FMH en rhumatologie, en médecine interne et en médecine du sport. Celui-ci a posé les diagnostics de rachialgies, omalgies gauches, podalgies et douleurs de la cheville droite chroniques dans un contexte de syndrome d'amplification des symptômes, de status après neuralgodystrophie de la cheville droite et de status après entorse de la cheville droite, fracture du cuboïde droit et contusion de l'épaule gauche avec déchirure du bourrelet glénoïdien; dans une activité adaptée, en tenant compte de la diminution de son rendement, l'assuré disposait d'une capacité de travail de 85 % (rapport du 21 juin 2004). Le 16 août 2005, le docteur C._, spécialiste FMH en chirurgie orthopédique et médecin traitant, a transmis à l'office AI un rapport (du 14 juillet 2005) des docteurs G._, spécialiste FMH en rhumatologie et en médecine interne, et B._, médecins auprès de l'Hôpital X._.
Par décision sur opposition du 4 août 2005, l'office AI a alloué à R._ une rente entière d'invalidité du 1er juin au 30 septembre 2001. Cette décision a été annulée par jugement du 30 août 2006 du Tribunal cantonal des assurances sociales de la République et canton de Genève, qui a reconnu à l'intéressé le droit à une rente entière entre le 1er juin et le 31 décembre 2001. Se fondant notamment sur l'expertise du docteur U._, le Tribunal cantonal a retenu que l'assuré avait présenté à partir du 1er octobre 2001 une capacité résiduelle de travail dans une activité adaptée de 85 %; sur cette base, le taux d'invalidité s'élevait à 38 %. Par arrêt du 23 février 2007 (I 850/06), le Tribunal fédéral a déclaré irrecevable le recours formé par l'intéressé contre ce jugement.
A.b Le 26 mars 2008, R._ a déposé une demande de révision (recte: une nouvelle demande) tendant à l'octroi d'une rente, invoquant des troubles psychiques persistants et des problèmes cardiaques.
L'office AI a soumis l'assuré à une expertise interdisciplinaire réalisée au Centre d'expertise médicale (ci-après: le CEM). Après s'être adjoint les services des docteurs I._, spécialiste FMH en psychiatrie et psychothérapie, et A._, spécialiste FMH en cardiologie et en médecine interne générale, les docteurs K._, spécialiste FMH en médecine interne générale, et O._, spécialiste FMH en médecine physique et réadaptation et en rhumatologie, ont retenu les diagnostics avec répercussion sur la capacité de travail de lombalgies communes sur discopathie L5-S1 et de tachycardie ventriculaire non soutenue, précisant que cette dernière s'était aggravée depuis 2003. La capacité de travail était entière dans une activité adaptée, moyennant une diminution de rendement de 15 % (rapport du 4 mai 2009).
Par décision du 9 octobre 2009 faisant suite à un projet du 13 juillet précédent, l'office AI a refusé à l'assuré l'octroi de prestations, au motif que sa capacité de travail était, tout comme lors de sa précédente décision, de 85 % dans une activité adaptée.
B. La Cour de justice de la République et canton de Genève, Chambre des assurances sociales, par jugement du 28 septembre 2011, a partiellement admis le recours formé par l'assuré contre cette décision et lui a reconnu le droit à un quart de rente à compter du 1er septembre 2008.
C. L'office AI interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut à la confirmation de sa décision du 9 octobre 2009.
R._ conclut au rejet du recours. Il sollicite le bénéfice de l'assistance judiciaire pour la procédure fédérale.
L'Office fédéral des assurances sociales a renoncé à se déterminer.

Considérant en droit:
1. Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>), sans être limité par les arguments de la partie recourante ou par la motivation de l'autorité précédente. Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'<ref-law>, et ne peut aller au-delà des conclusions des parties (<ref-law>). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (<ref-law>) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>). La partie recourante qui entend s'écarter des faits constatés doit expliquer de manière circonstanciée en quoi les conditions de l'<ref-law> sont réalisées sinon un état de fait divergent ne peut être pris en considération.
2. Le litige porte sur le droit de l'intimé à un quart de rente d'invalidité, dans le contexte d'une nouvelle requête de prestations, particulièrement sur le point de savoir si - par analogie avec l'<ref-law> (<ref-ruling> consid. 3 p. 73) - une modification des circonstances propres à influencer le droit à la rente est intervenue depuis la décision sur opposition rendue dans la procédure initiale le 4 août 2004, telles que constatées par le Tribunal cantonal en 2006. L'acte attaqué expose correctement les dispositions légales applicables - en particulier l'<ref-law> - et les principes jurisprudentiels pertinents, de sorte qu'il suffit d'y renvoyer. On précisera que seul un changement important des circonstances propres à influencer le droit à la rente peut motiver une révision au sens de la norme précitée (cf. notamment arrêt 9C_97/2011 du 21 juillet 2011 consid. 4).
3. 3.1 L'instance cantonale a considéré que l'aggravation de l'état de santé du recourant du point de vue cardiologique, dont avaient fait état les experts du CEM, s'était produite en août 2007. Celle-ci n'avait cependant pas modifié la capacité de travail dans une activité adaptée mais elle avait engendré de nouvelles limitations fonctionnelles concernant les efforts physiques, lesquelles restreignaient encore le champ des activités exigibles. Estimant qu'il s'agissait d'une modification notable des circonstances justifiant une révision, les premiers juges ont procédé à une nouvelle comparaison des revenus au terme de laquelle ils ont retenu un taux d'invalidité de 43.5 % ouvrant à l'intimé le droit à un quart de rente.
3.2 Le recourant reproche à la juridiction cantonale d'avoir procédé à une constatation manifestement inexacte des faits pertinents consécutive à une mauvaise appréciation des preuves. Les médecins du CEM auraient clairement indiqué que l'état de santé de l'intimé ne s'était aucunement modifié. Les limitations fonctionnelles retenues par ces spécialistes n'auraient pas d'effets plus importants sur la capacité de travail résiduelle que celles dont avait fait état le docteur U._. Partant, il n'existerait aucune circonstance justifiant une révision du droit à la rente.
3.3 L'intimé affirme que son état de santé s'est dégradé de manière à justifier l'octroi d'un quart de rente de l'assurance-invalidité. Les médecins de l'Hôpital X._ auraient en effet posé le diagnostic de syndrome somatoforme douloureux et ceux du CEM établi une aggravation depuis 2003 de sa tachycardie ventriculaire. Il souffrirait en outre de troubles psychiques de plus en plus prononcés.
4. 4.1 Un nouveau diagnostic ne constitue pas encore en lui-même une aggravation ou une modification notable de l'état de santé ou des circonstances entourant le droit à la rente au sens de l'<ref-law>, dès lors que seule la répercussion de l'atteinte à la santé sur la capacité de travail (<ref-law>; <ref-law>) importe pour juger du droit aux prestations d'un assuré (cf. notamment <ref-ruling> consid. 3.4 p. 69 s.). Les troubles cardiaques dont ont fait état les docteurs I._ et O._ ne sauraient ainsi justifier une révision du droit à la rente que s'ils ont eu des effets sur la capacité de travail de l'intimé.
4.2 Les médecins du CEM ont estimé que la tachycardie ventriculaire non soutenue dont souffrait l'intimé excluait les efforts physiques lourds et les activités physiques intenses (cf. rapport du 4 mai 2009, pp. 15 et 17). Le docteur U._ avait quant à lui considéré que l'intéressé n'avait à partir de 2004 plus été en mesure d'exercer une activité comprenant le port de charges supérieures à 15 kilogrammes, l'exécution de certains mouvements répétitifs (du rachis en porte-à-faux ou du bras gauche au-dessus de la tête), la marche prolongée (surtout en terrain inégal) ou encore - il y a lieu sur ce point de compléter les constatations de la juridiction cantonale conformément à l'<ref-law> - la réalisation de travaux lourds (cf. rapport du 21 juin 2004, p. 10). Il s'avère ainsi que l'impossibilité d'accomplir des activités physiques intenses constitue la seule restriction, induite par la péjoration de l'état de santé de l'intéressé du point de vue cardiaque, retenue par les nouveaux experts. Or, à supposer que des activités de ce type existent sur le marché du travail qui ne soient pas déjà comprises dans les activités lourdes exclues par le premier expert, leur nombre ne peut, compte tenu de l'ensemble des limitations retenues par ce médecin, qu'être extrêmement limité. Dès lors, si tant est, dans le cadre d'une capacité résiduelle de travail de toujours 85 %, que la modification de l'état de santé de l'intimé ait eu une réelle incidence sur les possibilités de travail en restreignant le champ des activités accessibles, celle-ci doit être qualifiée d'insignifiante. Par conséquent, les premiers juges ne pouvaient pas conclure que la survenance du trouble cardiaque retenu par les nouveaux experts constituait un changement important des circonstances propre à justifier l'application des principes d'une révision au sens de l'<ref-law>.
5. Au vu de ce qui précède, le recours se révèle bien fondé et il se justifie d'annuler le jugement entrepris.
6. L'intimé, qui succombe, supportera les frais judiciaires (<ref-law>). Il a cependant déposé une demande d'assistance judiciaire. Compte tenu qu'il en remplit les conditions, il est provisoirement dispensé de s'acquitter des frais mis à sa charge. Il est toutefois rendu attentif au fait qu'il devra rembourser la caisse du Tribunal, s'il retrouve ultérieurement une situation financière lui permettant de le faire (<ref-law>). Il convient de renvoyer la cause à la juridiction cantonale pour nouvelle décision sur les frais de la procédure antérieure.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis et le jugement de la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, du 28 septembre 2011 est annulé.
2. L'assistance judiciaire est accordée à l'intimé. Me Kvicinsky est désigné comme avocat d'office.
3. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de l'intimé. Ce dernier montant est toutefois supporté provisoirement par la caisse du Tribunal fédéral.
4. Une indemnité de 2'000 fr., supportée provisoirement par la caisse du Tribunal, est allouée à Me Kvicinsky à titre d'honoraires.
5. La cause est renvoyée à l'autorité cantonale pour nouvelle décision sur les frais judiciaires de la procédure cantonale.
6. Le présent arrêt est communiqué aux parties, à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 30 juillet 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
Le Greffier: Bouverat