Faits: A. A.a P._ a travaillé en qualité de maçon. Victime le 7 mars 1994 d'un accident ayant entraîné des lésions oculaires, il s'est annoncé le 17 octobre 1995 auprès de l'Office de l'assurance-invalidité du canton de Genève (ci-après: l'office AI). Par décisions des 17 février et 14 avril 1998, l'administration a alloué à l'assuré une rente entière d'invalidité à partir du 1er mars 1995. Le droit aux prestations a été maintenu au terme de deux procédures de révision ouvertes respectivement en 2004 et 2008 (communications des 20 août 2004 et 1er octobre 2008). La Caisse nationale suisse en cas d'accidents (ci-après: la CNA) a, par décision sur opposition du 22 août 2005 confirmant une décision du 8 septembre 2000, mis l'intéressé au bénéfice d'une rente d'invalidité de l'assurance-accident fondée sur un taux d'invalidité de 25 % à partir du 1er mai 2000 ainsi que d'une indemnité pour atteinte à l'intégrité. Il ressort de ce document que la CNA a requis une appréciation ophtalmologique de sa division médicale (avis du docteur B._) et confié à la Clinique X._ le soin de réaliser une expertise sur la personne de P._ (rapport du professeur K._ et du docteur H._). A.b Le 18 décembre 2008, l'office AI a reçu un rapport de contrôle de chantier établi par la Commission paritaire genevoise des métiers du bâtiment dont il ressortait que l'assuré avait effectué le 7 novembre précédent des travaux de serrurerie pour le compte d'une entreprise de finitions. Considérant que P._ avait repris l'exercice d'une activité lucrative, l'administration a suspendu le versement de la rente par décision incidente du 25 mars 2009. L'office AI a fait alors réaliser deux expertises sur la personne de l'assuré: la première, ophtalmologique, confiée au docteur O._, spécialiste FMH en ophtalmologie (rapports des 11 septembre 2009 et 13 juillet 2010) et la seconde, neurologique, au docteur E._, spécialiste FMH en neurologie (rapport du 21 juin 2010). L'administration a supprimé par décision du 3 novembre 2010 la rente de l'assuré avec effet au 7 novembre 2008. B. Par jugement du 31 janvier 2012, la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, a admis le recours de l'assuré et annulé cette décision. C. L'office AI interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut au maintien de sa décision du 3 novembre 2010. L'intimé conclut au rejet du recours tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.