Faits: A. A.a Par décision sur opposition du 19 mai 2005, l'Office de l'assurance-invalidité du canton de Genève (ci-après: l'office AI) a refusé le droit à des prestations de l'assurance-invalidité à A._, né en 1954. En résumé, il a considéré que l'incapacité de gain de l'assuré était due à une polytoxicomanie primaire, laquelle n'était pas invalidante au sens de la loi. A.b Le 18 mai 2007, A._ a déposé une nouvelle demande de prestations de l'assurance-invalidité en invoquant une aggravation de son état de santé. Il y a joint le rapport du docteur N._, spécialiste FMH en psychiatrie et psychothérapie, et médecin traitant, du 29 septembre 2006. Celui-ci avait posé les diagnostics, ayant des répercussions sur la capacité de travail, de troubles mentaux liés à l'utilisation d'opiacés, syndrome de dépendance depuis 1980 (F12.22), et d'épisode dépressif majeur depuis 2003 (F32.2). Il avait conclu à une incapacité totale de travail depuis 2004. Par décision du 25 janvier 2008, l'office AI a refusé d'entrer en matière sur la demande. Sur recours de l'assuré, le Tribunal cantonal des assurances sociales du canton de Genève (aujourd'hui, Cour de justice de la République et canton de Genève, Chambre des assurances sociales) a, par jugement du 9 octobre 2008, renvoyé la cause à l'office AI pour qu'il entre en matière sur la demande et rende une nouvelle décision. A.c L'office AI a repris l'instruction de la cause et mandaté la doctoresse I._, spécialiste FMH en pneumologie, et le docteur U._, spécialiste FMH en psychiatrie et psychothérapie, médecins auprès de X._, pour examiner l'assuré. Le 24 juillet 2009, ceux-ci ont mentionné que l'utilisation des toxiques était la conséquence d'une vulnérabilité psychique présente dès l'enfance (polytoxicomanie secondaire). Ils ont conclu que la capacité de travail de l'assuré était nulle dans toute activité depuis 2005 sur le plan somatique et probablement depuis 2003 sur le plan psychique. Par décision du 12 novembre 2009, l'office AI a reconnu le droit à une rente entière d'invalidité à partir du 1er juillet 2009 à A._. Après que ce dernier a interjeté un recours auprès de la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, tendant au versement de cette prestation à une date antérieure, l'office AI a annulé sa décision le 21 décembre 2009. Au vu des arguments que l'assuré avait soulevés, l'office AI l'a soumis à un examen auprès du Service médical régional (SMR). Le docteur C._, spécialiste FMH en psychiatrie, et la doctoresse V._, spécialiste FMH en pneumologie, qui a apprécié la situation médicale sur documents, ont conclu que l'assuré présentait une incapacité totale de travail dans toute activité depuis 2008 liée à des troubles cognitifs dus à une toxicomanie de longue durée et à une insuffisance respiratoire globale. L'office AI s'est fondé sur ce rapport et, par décision du 19 avril 2011, a reconnu à l'assuré le droit à une rente entière d'invalidité, basée sur un degré d'invalidité de 100 %, à partir du 1er janvier 2009. B. A._ a déféré cette décision à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, qui a admis son recours par jugement du 30 novembre 2011 et lui a reconnu le droit à une rente entière d'invalidité à partir du 24 mars 2004. C. L'office AI interjette un recours en matière de droit public contre ce jugement. Il conclut à son annulation et à la confirmation de sa décision du 19 avril 2011. Il requiert également l'effet suspensif à son recours, ce qui lui est partiellement accordé par ordonnance du 19 mars 2012. Invités à se déterminer, l'assuré ne s'exprime pas sur le fond du recours et l'Office fédéral des assurances sociales (OFAS) ne se prononce pas.