Faits: A. A.a E._, ressortissant étranger, marié et père de deux enfants, a travaillé en qualité d'auxiliaire expéditeur pour W._ du 1er juin 1994 au 12 avril 1999. Le 3 mai 2000, il a déposé une demande de prestations de l'assurance-invalidité, sous la forme d'une orientation professionnelle ou d'une rente. Se fondant sur un rapport d'expertise multidisciplinaire effectuée par le Centre X._, du 9 mai 2000, dont il ressort que l'assuré dispose d'une capacité de travail complète dans toute activité, l'Office cantonal de l'assurance-invalidité de Genève (ci-après: l'OCAI) a rejeté la demande de rente, respectivement de mesures d'ordre professionnel (décisions des 26 et 27 février 2002). Le 12 avril 2002, l'assuré a recouru contre ces deux décisions auprès de la Commission cantonale de recours en matière d'AVS-AI en concluant à leur annulation ainsi qu'au renvoi de la cause à l'OCAI afin qu'il ordonne une expertise. A.b Le 2 septembre 2003, le Tribunal cantonal des assurances sociales (lequel a succédé à la Commission cantonale de recours le 1er août 2003) a suspendu la procédure jusqu'à décision de l'OCAI sur la nouvelle demande de prestations déposée par l'assuré le 11 mars 2003. L'OCAI a diligenté une expertise médicale pluridisciplinaire de type COMAI au Centre d'expertise médicale Y._. Dans leur rapport du 4 mars 2005, les experts ont posé les diagnostics, sans répercussion sur la capacité de travail, de syndrome douloureux chronique avec hémisyndrome sensitif gauche, troubles mentaux et troubles du comportement liés à l'utilisation de l'alcool et traits de personnalité histrionique. Sur le plan physique, l'hémisyndrome et les cervicalgies que l'assuré ressentait comme invalidants ne pouvaient pas être expliqués par des lésions somatiquement connues et reconnaissables. Par conséquent, il n'existait pas de limitation autre que la douleur sur le plan somatique. Sur le plan psychique, l'éthylisme chronique de l'assuré entraînait, en raison de ses débordements aigus, des hospitalisations à répétition. Toutefois, des changements neuropsychologiques et biochimiques n'étant pas présents, l'alcoolisme n'entraînait aucune limitation de la capacité de travail. Sur le plan social, les actes de violence générés par l'assuré lors d'alcoolisations aiguës perturbaient ses relations sociales, mais surtout les rapports avec son épouse et ses enfants. Les médecins de Y._ ont conclu à une capacité de travail entière dans toute activité professionnelle. Par décision du 7 avril 2005, l'OCAI a rejeté la nouvelle demande de prestations de l'assuré. A.c Le 14 avril 2005, le Tribunal des assurances a ordonné la reprise de l'instance. Par courrier du 28 avril 2005, le mandataire de l'assuré a informé le Tribunal des assurances de ce que celui-ci retirait son recours du 12 avril 2002 contre les décisions de l'OCAI des 26 et 27 février 2002. Toutefois, par lettre du 4 mai 2005, l'assuré est revenu sur son courrier du 28 avril 2005 et a indiqué souhaiter poursuivre la procédure. Lors d'une audience de comparution des parties du 14 juin 2005, l'OCAI a relevé qu'il n'y avait pas eu d'opposition formelle à sa décision du 7 avril 2005 mais qu'elle acceptait de considérer le courrier de l'assuré du 4 mai 2005 comme telle. Pour sa part, le nouveau mandataire de l'assuré a sollicité la mise en oeuvre d'une expertise ethno-psychiatrique et la suspension de la cause dans l'attente de la procédure sur opposition. A.d Par ordonnance du 21 juin 2005, le Tribunal des assurances a suspendu l'instance. Dans un rapport faisant un bilan des difficultés liées à la migration et à l'acculturation ainsi qu'une évaluation de leur impact sur la santé de l'assuré, du 10 mars 2006, le docteur U._ (chef de clinique auprès du Département de médecine communautaire de l'Hôpital Z._), a conclu que E._ présentait des troubles psychologiques compatibles avec un état dépressif ou avec des troubles de l'adaptation avec réaction dépressive. Par décision sur opposition du 21 avril 2006, l'OCAI a confirmé sa décision de refus de prestations du 7 avril 2005. B. B.a E._ a recouru contre cette décision devant le Tribunal cantonal des assurances en concluant à son annulation ainsi qu'à l'octroi d'une rente entière d'invalidité depuis la date du dépôt de sa demande. B.b Par ordonnance d'expertise du 30 juillet 2007, le Tribunal cantonal des assurances a confié la réalisation d'une expertise psychiatrique au docteur B._, spécialiste FMH en psychiatrie et psychothérapie et médecin adjoint au Service de psychiatrie adulte de l'Hôpital Z._. Le docteur B._ a rendu son rapport le 3 décembre 2007. Il a posé les diagnostics de syndrome douloureux somatoforme persistant, de syndrome de dépendance à l'alcool, actuellement abstinent et d'épisode dépressif moyen. La dépendance à l'alcool, en rémission complète depuis plus d'un an et demi, n'avait plus d'incidence, au moment de l'expertise, sur la capacité de travail de l'assuré. En revanche, cette pathologie avait constitué pendant plus de dix ans un trouble sévère, et particulièrement à partir de 1999-2000; elle avait empêché l'assuré de trouver un emploi adapté à ses limitations physiques, c'est-à-dire n'exigeant pas le port de charges; en dépit d'une assez longue période d'abstinence, il fallait considérer que la rémission était encore fragile. Le syndrome douloureux somatoforme représentait le trouble majeur eu égard à l'incapacité de travail. Depuis l'apparition des douleurs cervicales en 1994 et en dépit de nombreuses investigations et de nombreux traitements, ce syndrome s'était intensifié. L'état dépressif chronique était actuellement d'un degré de sévérité moyen. Il contribuait à l'incapacité de travail mais n'en constituait pas le facteur principal. L'expert-psychiatre a fixé le début de l'incapacité de travail durable dans le courant de l'année 1999 et précisé qu'elle était toujours totale au moment de l'expertise, en dépit de l'abstinence d'alcool. Selon lui, E._ n'avait pas les ressources physiques et psychiques nécessaires à l'exercice d'une activité lucrative adaptée. Au vu de son état clinique, ainsi que d'autres paramètres indépendants de son état de santé (illettrisme, absence de formation), les chances de succès d'une réadaptation professionnelle étaient par ailleurs nulles. Par jugement du 29 janvier 2008, le Tribunal cantonal des assurances a annulé les décisions de l'OCAI des 26 et 27 février 2002 ainsi que celles du 7 avril 2005 et du 21 avril 2006. Il a mis l'assuré au bénéfice d'une rente entière d'invalidité depuis le 1er avril 2000, et invité l'OCAI à mettre toute mesure utile en place pour accompagner l'assuré dans un projet d'atelier protégé ainsi qu'à prévoir la révision du dossier à moyen terme. C. L'OCAI interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation, en concluant à la confirmation de ses décisions refusant à l'intimé tout droit à des prestations de l'assurance-invalidité. E._ conclut, sous suite de frais et dépens, à la confirmation de l'arrêt attaqué. L'Office fédéral des assurances sociales a renoncé à se déterminer.