Sachverhalt:
A. Der 1959 geborene deutsche Staatsangehörige S._ war als Grenzgänger von 1990 bis 2006, zuletzt als Projektleiter und IT-Consultant, bei der X._ AG, tätig gewesen. Am 22. August 1996 meldete er sich unter Hinweis auf einen erlittenen Unfall mit Schleudertrauma und Gehirnerschütterung bei der Invalidenversicherung zum Leistungsbezug an. Nach Abklärungen in erwerblicher und medizinischer Hinsicht sprach ihm die IV-Stelle für Versicherte im Ausland bei einem ermittelten Invaliditätsgrad von 50 % eine halbe Invalidenrente zu (Verfügung vom 13. März 1997). Am 29. April 1999 ereignete sich ein zweiter Unfall, bei dem S._ eine HWS-Distorsion erlitt. Anlässlich einer Rentenrevision erhöhte die IV-Stelle, ab 1. Januar bis 31. Dezember 2003, ausgehend von einem Invaliditätsgrad von 67 %, die bisherige halbe auf eine ganze Invalidenrente (Verfügung vom 2. März 2004). In einer zweiten Verfügung gleichen Datums setzte sie im Rahmen der 4. IV-Revision die bisherige ganze Invalidenrente (bei unverändertem Invaliditätsgrad) auf eine Dreiviertelsrente herab. Diese Verfügung erwuchs in Rechtskraft, nachdem die IV-Stelle auf eine Einsprache nicht eingetreten war.
Mit Revisionsgesuch vom 8. Oktober 2007 machte S._ geltend, er sei nicht mehr in der Lage, seine Restarbeitsfähigkeit wertschöpfend auf dem freien Arbeitsmarkt einzusetzen. Nachdem die IV-Stelle eine Beurteilung der medizinischen Situation bei ihrem Regionalen Ärztlichen Dienst (RAD) eingeholt hatte, wies sie das Gesuch um Erhöhung der Dreiviertels- auf eine ganze Rente mit Verfügung vom 11. Januar 2011 ab.
B. Die dagegen erhobene Beschwerde wies das Bundesverwaltungsgericht mit Entscheid vom 9. Mai 2012 ab.
C. S._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, in Aufhebung des vorinstanzlichen Entscheids sei ihm weiterhin eine ganze Invalidenrente zuzusprechen. Eventualiter sei die Sache zu ergänzenden medizinischen und/oder beruflichen Abklärungen mit anschliessender Neuverfügung an die IV-Stelle zurückzuweisen.
Die IV-Stelle Basel-Stadt beantragt Abweisung der Beschwerde, soweit darauf einzutreten sei. Das Bundesverwaltungsgericht und das Bundesamt für Sozialversicherungen haben auf eine Vernehmlassung verzichtet.
Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (Art. 82 ff. BGG) kann wegen Rechtsverletzung gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG), und kann deren Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG).
1.2 Die gesetzliche Kognitionsbeschränkung gilt namentlich für die Einschätzung der gesundheitlichen und leistungsmässigen Verhältnisse (Art. 6 ATSG), wie sie sich bei der revisionsweisen Anpassung einer Invalidenrente nach Art. 17 ATSG wegen Tatsachenänderungen (Gesundheitszustand, Arbeits- und Erwerbsunfähigkeit usw.) im revisionsrechtlich massgeblichen Vergleichszeitraum (BGE 133 V 108; Urteil I 692/06 vom 19. Dezember 2006 E. 3.1) entwickelt haben.
2. 2.1 Die Vorinstanz legte die Rechtsgrundlagen zur Invalidität erwerbstätiger Versicherter (Art. 8 Abs. 1 ATSG, Art. 4 Abs. 1 IVG), zum Umfang des Rentenanspruchs (Art. 28 Abs. 2 IVG) und zur revisionsweisen Anpassung der Invalidenrente nach Art. 17 ATSG zutreffend dar. Darauf wird verwiesen. Korrekt ist insbesondere, dass Referenzzeitpunkt für die Prüfung einer anspruchserheblichen Änderung die letzte rechtskräftige Verfügung bildet, welche auf einer materiellen Prüfung des Rentenanspruchs mit rechtskonformer Sachverhaltsabklärung, Beweiswürdigung und Ermittlung des Invaliditätsgrades (bei Anhaltspunkten für eine Änderung in den Auswirkungen der gesundheitlichen Beeinträchtigung im erwerblichen oder im Aufgabenbereich) beruht (BGE 133 V 108 E. 5.4 S. 114).
2.2 Zu prüfen ist, ob das kantonale Gericht zu Recht eine die Erhöhung der bisherigen Dreiviertelsrente rechtfertigende Verschlechterung der gesundheitlichen Situation im Zeitraum zwischen den Verfügungen der Beschwerdegegnerin vom 2. März 2004 und 11. Januar 2011 verneinte.
3. 3.1 Nach den verbindlichen Feststellungen der Vorinstanz beruhte die Rentenerhöhung vom 2. März 2004 auf vorhandene kognitive Defizite und einer chronifizierten Schmerzproblematik mit Auswirkungen auf die Arbeitsfähigkeit. Dieser Erkenntnis lag namentlich das Gutachten des Dr. med. D._, Neurologie FMH, vom 26. Januar 2002 und eine Beurteilung des SUVA-Arztes Dr. med. H._, Facharzt für Neurologie, vom 7. März 2002 zugrunde. Gestützt hierauf errechnete die Beschwerdegegnerin aufgrund der verminderten Leistungsfähigkeit des Versicherten in seiner Tätigkeit bei der X._ AG (während einer Präsenzzeit von vier Stunden) einen Invaliditätsgrad von 67 % (Verfügung vom 2. März 2004).
3.2 Im Rahmen des anfangs September 2008 angehobenen Revisionsverfahrens liess die Beschwerdegegnerin u.a. ein in der Folge vorinstanzlich als in jeder Hinsicht beweistauglich eingestuftes polydisziplinäres Gutachten durch die medizinische Abklärungsstelle (MEDAS) Medizinisches Zentrum Y._ vom 30. März 2009 erstellen. Danach leidet der Beschwerdeführer aus rheumatologischer Sicht an einem rechtsbetonten, chronischen zervikozephalen und zervikobrachialen Schmerzsyndrom mit Generalisierungstendenz sowie an einem rechtsseitigen, rezidivierenden, lumbalen Schmerzsyndrom mit intermittierender pseudoradikulärer Symptomatik ohne Auswirkung auf die Arbeitsfähigkeit. Der von Dr. med. M._ erhobene gutachterliche neurologische Befund ergab keinen sicheren oder wahrscheinlichen Anhalt für eine behindernde Läsion am zentralen oder peripheren Nervensystem oder der Wirbelsäule. Der Experte hielt demgegenüber einen sicheren Hinweis auf eine demonstrative Darbietung von Einschränkungen und Beschwerden im Sinne einer bewusstseinsnahen Störung sowie auf eine Diskrepanz zwischen den anamnestischen Angaben zur Schmerzstärke und dem völlig unbeeinträchtigt wirkenden klinischen Eindruck hin. Hinweise für ein erlittenes Trauma, welches geeignet gewesen wäre, dauerhafte Beschwerden irgendeiner Art zu unterhalten, verneinte Dr. med. M._. In der neuropsychologischen Untersuchung zeigte sich ein Aggravationsverhalten und eine mangelnde Motivation (Untersuchungsbefunde von Frau Dr. sc. hum. Dipl. Psych. R._, vom 5. Februar 2009). Eine psychiatrische Diagnose stellte der Gutachter Dr. med. A._, Facharzt für Psychiatrie und Psychotherapie, nicht. Die Vorinstanz hielt fest, aus interdisziplinärer Sicht seien keine pathologischen Befunde erhoben worden, die eine dauerhafte Einschränkung der Arbeitsfähigkeit medizinisch begründen könnten. Gestützt hierauf habe sich der Gesundheitszustand, entgegen den Einwendungen des Beschwerdeführers, seit der Rentenerhöhung vom 2. März 2004 jedenfalls nicht verschlechtert. Mit Blick auf die vom behandelnden Prof. Dr. med. E._, Chefarzt/Medizinischer Direktor, Klinik N._, geltend gemachten immer häufiger auftretenden Erschöpfungszustände und Schlafanfälle hätten die Experten des Medizinischen Zentrums Y._ wiederholt auf die deutliche Diskrepanz zwischen den objektiven Befunden und den subjektiv geklagten Beschwerden hingewiesen und mehrfach eine Aggravation beschrieben. Eine organische Ursache hiefür hätten sie nicht gefunden. Überdies habe der Versicherte bereits nach den Unfällen an unklaren Schlafstörungen und rezidivierenden Erschöpfungszuständen gelitten (Bericht des Neurologen Dr. med. G._, vom 26. Januar 2005). Dr. med. L._, Leitung Schlafmedizin, Spital Z._, habe auch nach durchgeführter Polysomnographie keine eindeutigen Ursachen hierfür finden können, wobei der Arzt daran gezweifelt habe, dass der Versicherte die verordnete Medikation (Efexor als potenter REM-Inhibitor) am Tag der Polysomnographie eingenommen hatte (Bericht vom 21. Juli 2005).
3.3 Angesichts dieser Verhältnisse ist die eine erhebliche Verschlechterung des Gesundheitszustandes verneinende Betrachtungsweise des kantonalen Gerichts, welche auf einer eingehenden Auseinandersetzung mit den widersprechenden ärztlichen Aussagen fusst, nicht offensichtlich unrichtig oder gar willkürlich. Vielmehr wird die entsprechende Würdigung des medizinischen Sachverhalts auch durch die Auskünfte der Frau Dr. phil. C._, Fachpsychologin für Neuropsychologie FSP, (vom 6. März 2008) gestützt, wonach sich die gesundheitliche Situation des Versicherten nicht verbessert, aber auch nicht wesentlich verschlechtert habe; die Beschwerden, wie sie vor März 2004 bestanden hätten, persistierten und führten auch immer wieder zu starken Erschöpfungszuständen.
Was die divergierende Beurteilung des behandelnden Prof. Dr. med. E._ anbelangt, wiedergegeben u.a. in dessen Stellungnahmen vom 3. Oktober 2007 und 23. Juni 2011, stützt sich diese primär auf die subjektiven Angaben des Versicherten zu den Schmerz- und Erschöpfungszuständen, indem der Arzt ausführte, der Patient habe berichtet, dass sich sein Erschöpfungszustand (Fatigue Symptomatik) eher zunehmend verschlechtert habe und lässt sich insbesondere durch die qualitative Verschiedenheit von Behandlungs- und Begutachtungsauftrag (vgl. dazu Urteil [des Bundesgerichts] 9C_400/2010 vom 9. September 2010 E. 5.2 mit Hinweisen, nicht publ. in: BGE 136 V 376, aber in: SVR 2011 IV Nr. 29 S. 82) zwanglos erklären. Wenn die Vorinstanz den Ausführungen des Prof. Dr. med. E._ im Rahmen ihrer Beweiswürdigung nicht folgte und dementsprechend seine Darlegungen zur Verschlimmerung des beschriebenen schweren Erschöpfungszustands für nicht überzeugend hielt, ist dies nicht zu beanstanden. Von Beweisweiterungen ist abzusehen.
4. In Anbetracht der im Übrigen unbestritten gebliebenen erwerblichen Invaliditätsbemessungsfaktoren bleibt es somit bei der Feststellung des kantonalen Gerichts, dass im relevanten Referenzzeitraum keine Verschlechterung der gesundheitlichen Situation ausgewiesen ist. Trotz der bestehenden gesundheitlichen Beeinträchtigungen darf dementsprechend auch weiterhin von einer wirtschaftlichen Verwertbarkeit der Restarbeitsfähigkeit auf dem ausgeglichenen Arbeitsmarkt (BGE 110 V 276 Erw. 4b; ZAK 1991 S. 320 Erw. 3b) ausgegangen werden. Der Beschwerdeführer hat nach wie vor Anspruch auf eine Dreiviertelsrente.
5. Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Bundesverwaltungsgericht, der IV-Stelle Basel-Stadt und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 30. Oktober 2012
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Die Gerichtsschreiberin: Polla