Sachverhalt:
A. Mit zwei Verfügungen vom 23. April 2008 verneinte die IV-Stelle für Versicherte im Ausland einen Anspruch des W._ auf eine Invalidenrente resp. auf Eingliederungsmassnahmen der Invalidenversicherung.
B. W._, vertreten durch Rechtsanwalt Dr. S._, erhob gegen die Verfügungen je Beschwerde ans Bundesverwaltungsgericht. Dieses vereinigte die Verfahren. Es hiess die Beschwerde betreffend Invalidenrente teilweise gut, indem es die entsprechende Verwaltungsverfügung aufhob und die Sache zur ergänzenden Abklärung und erneuten Verfügung an die IV-Stelle zurückwies. Die Beschwerde betreffend Eingliederungsmassnahmen wies das Gericht ab. Es erkannte sodann, W._ sei demnach im Verfahren betreffend Invalidenrente als obsiegend zu betrachten, und sprach ihm eine Parteientschädigung von Fr. 1'200.- zu. Im Verfahren betreffend Eingliederungsmassnahmen gewährte es dem im Prozess unterlegenen W._ die unentgeltliche Rechtspflege, bestellte Rechtsanwalt Dr. S._ zum unentgeltlichen Rechtsbeistand und setzte dessen Entschädigung auf Fr. 1'200.-, einschliesslich Auslagen, fest (Entscheid vom 20. August 2010).
C. Rechtsanwalt Dr. S._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten, eventuell subsidiäre Verfassungsbeschwerde, mit dem Rechtsbegehren, der vorinstanzliche Entscheid sei dahingehend abzuändern, dass die Entschädigung des unentgeltlichen Rechtsbeistandes auf Fr. 4'125.05 (inkl. Fr. 275.05 Barauslagen) festgesetzt werde.
Das Bundesverwaltungsgericht verzichtet auf eine Vernehmlassung.
Erwägungen:
1. Streitig ist einzig die Höhe der dem unentgeltlichen Rechtsbeistand im vorinstanzlichen Verfahren betreffend Eingliederungsmassnahmen zugesprochenen Entschädigung.
2. Das Bundesgericht prüft die Art und Zulässigkeit des bei ihm eingereichten Rechtsmittels von Amtes wegen mit freier Kognition (BGE 133 I 185 E. 2 S. 188; 133 II 249 E. 1.1 S. 251; RtiD 2008 II S. 160, 1C_104/2008 E. 1.1).
2.1 Beim angefochtenen Entscheid handelt es sich um einen Endentscheid des Bundesverwaltungsgerichts in einer Angelegenheit des öffentlichen Rechts, die unter keinen Ausschlussgrund gemäss Art. 83 BGG fällt und daher mit Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht weitergezogen werden kann (Art. 82 lit. a, Art. 86 Abs. 1 lit. a, Art. 90 BGG).
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzung gemäss Art. 95 und Art. 96 BGG erhoben werden. Der Anspruch auf unentgeltliche Verbeiständung im Verfahren vor dem Bundesverwaltungsgericht bestimmt sich nach Bundesrecht (Art. 37 des Bundesgesetzes über das Bundesverwaltungsgericht vom 17. Juni 2005 [Verwaltungsgerichtsgesetz, VGG] in Verbindung mit Art. 65 des Bundesgesetzes über das Verwaltungsverfahren vom 20. Dezember 1968 [VwVG]; vgl. auch Art. 29 Abs. 3 BV). Das gilt auch für die hier streitige Festsetzung der Höhe der an den unentgeltlichen Rechtsbeistand auszurichtenden Entschädigung (Art. 16 Abs. 1 lit. a VGG in Verbindung mit Art. 12 des Reglements über die Kosten und Entschädigungen vor dem Bundesverwaltungsgericht vom 21. Februar 2008 [VGKE]; vgl. auch Art. 65 Abs. 5 VwVG). Damit steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten wegen Verletzung von Bundesrecht im Sinne von Art. 95 lit. a BGG offen.
Im Streit ist eine vermögensrechtliche Angelegenheit (vgl. auch Urteil 5A_52/2009 vom 27. Februar 2009 E. 1). Es liegt aber keiner der Sachverhalte vor, welcher einen Mindeststreitwert im Sinne von Art. 85 Abs. 1 BGG erfordern würde.
Ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten demnach zulässig, bleibt kein Raum für die subsidiäre Verfassungsbeschwerde (Art. 113 BGG), welche gegen Entscheide des Bundesverwaltungsgerichts ohnehin nicht zulässig ist.
2.2 Die übrigen Voraussetzungen für das Eintreten auf die Beschwerde, insbesondere die Rechtsmittellegitimation des in eigenem Namen Beschwerde führenden Rechtsbeistandes (Art. 89 Abs. 1 BGG; BGE 110 V 360 E. 2 S. 363 f.; SVR 2008 MV Nr. 2 S. 3 E. 5.3.2, M 2/06; aus jüngster Zeit: Urteil 8C_802/2010 vom 3. November 2010 E. 4), sind ebenfalls erfüllt.
3. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es kann die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht nur insofern prüfen, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG).
Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG).
Der Beschwerdeführer rügt, das Bundesverwaltungsgericht habe bei der Festsetzung der Entschädigung einfache Ermessensfehler (Unangemessenheit) und qualifizierte Ermessensfehler (Willkür bzw. Ermessensmissbrauch oder -überschreitung) begangen. Eine Angemessenheitskontrolle ist dem Bundesgericht indessen verwehrt; es hat nur zu prüfen, ob die Vorinstanz ihr Ermessen rechtsfehlerhaft (Art. 95 lit. a BGG) ausgeübt, mithin überschritten, unterschritten oder missbraucht hat (BGE 132 V 393 E. 3.3 S. 399; Urteil 8C_644/2008 vom 19. August 2009 E. 6.1, nicht publ. in: BGE 135 V 353, aber in: SVR 2010 IV Nr. 6 S. 13; vgl. auch BGE 134 V 322 E. 5.3 S. 328), was Willkür einschliesst (Urteil 5A_454/2010 vom 27. August 2010 E. 3.1 mit Hinweisen).
4. Gemäss Art. 16 Abs. 1 lit. a VGG erlässt das Bundesverwaltungsgericht als Gesamtgericht u.a. Reglemente über die Entschädigungen an amtliche Vertreter und Vertreterinnen.
Laut Art. 12 des darauf gestützt erlassenen VGKE gelten für die amtlich bestellten Anwälte und Anwältinnen die gleichen Ansätze wie für die vertragliche Vertretung. Deren im Rahmen der Parteientschädigung zuzusprechenden Kosten umfassen, soweit hier von Interesse, das Anwaltshonorar, den Ersatz von Auslagen und gegebenenfalls den Ersatz der Mehrwertsteuer (Art. 9 Abs. 1 lit. a-c VGKE). Das Anwaltshonorar wird nach dem notwendigen Zeitaufwand des Vertreters oder der Vertreterin bemessen (Art. 10 Abs. 1 VGKE). Der Stundenansatz beträgt für Anwälte und Anwältinnen mindestens Fr. 200.- und höchstens Fr. 400.-. In diesem Stundenansatz ist die Mehrwertsteuer nicht enthalten (Art. 10 Abs. 2 VGKE). Bei Streitigkeiten mit Vermögensinteresse kann das Anwaltshonorar angemessen erhöht werden (Art. 10 Abs. 3 VGKE). Die Auslagen der Vertretung (Spesen) werden auf Grund der tatsächlichen Kosten ausbezahlt (Art. 11 Abs. 1 erster Satz VGKE), wobei für bestimmte Auslagen nähere Regelungen gelten (Art. 11 Abs. 1 lit. a und b, Abs. 2 VGKE).
Die amtlich bestellten Anwälte und Anwältinnen haben dem Gericht vor dem Entscheid eine detaillierte Kostennote einzureichen (Art. 14 Abs. 1 VGKE). Das Gericht setzt die Entschädigung für die amtlich bestellten Anwälte und Anwältinnen auf Grund der Kostennote fest. Wird keine Kostennote eingereicht, so setzt das Gericht die Entschädigung auf Grund der Akten fest (Art. 14 Abs. 2 VGKE).
5. Der Beschwerdeführer hat im vorinstanzlichen Verfahren unstreitig keine detaillierte Kostennote eingereicht. Das Bundesverwaltungsgericht hat erkannt, die Entschädigung sei demzufolge auf Grund der Akten zu bemessen. Es hat entschieden, die Entschädigung werde unter Berücksichtigung des gebotenen und aktenkundigen Anwaltsaufwandes auf pauschal Fr. 1'200.-, einschliesslich Auslagenersatz, festgesetzt. Ein Anspruch auf Mehrwertsteuerersatz bestehe nicht.
5.1 Der Beschwerdeführer rügt zunächst, es sei für ihn auf Grund des Vorgehens des Bundesverwaltungsgerichts nicht erkennbar gewesen, dass das Verfahren vor dem Abschluss stehe und er daher gehalten gewesen sei, eine Kostennote einzureichen.
Ob dieser Einwand zutrifft, kann offenbleiben, da der Beschwerdeführer im vorliegenden Verfahren - als zulässiges Novum (Art. 99 Abs. 1 BGG; Urteil 9C_338/2010 vom 26. August 2010 E. 5.2, in: Plädoyer 2010/5 S. 56) - seinen Aufwand detailliert angegeben hat.
5.2 Bezüglich Mehrwertsteuer-Ersatz werden keine Einwände gegen den vorinstanzlichen Entscheid erhoben. Der Beschwerdeführer macht aber geltend, er habe als Rechtsbeistand einen weitaus höheren Aufwand gehabt. Der tatsächliche Zeitaufwand habe sich auf insgesamt 19 h 15 min belaufen. Das sei aus den Akten, insbesondere auch aus den Angaben zum Zeitaufwand in der vorinstanzlichen Beschwerde und Replik, ersichtlich. Zudem seien Auslagen (für Kopien, Telefonate und Porti) von Fr. 275.05 angefallen. Selbst wenn vom Mindeststundenansatz gemäss VGKE von Fr. 200.- ausgegangen werde, resultiere insgesamt eine Entschädigung, welche mit Fr. 4'125.05 (Fr. 3'850.- Honorar und Fr. 275.05 Auslagen) deutlich höher liege als die vom Bundesverwaltungsgericht zugesprochene. Letztere entspreche lediglich einem Zeitaufwand von sechs Stunden gemäss dem Mindestansatz. Nach Abzug des im zugesprochenen Betrag von Fr. 1'200.- eingeschlossenen Auslagenersatzes falle die Entschädigung für den Stundenaufwand noch geringer aus. Diese Festsetzung der Entschädigung stelle einen qualifizierten Ermessensfehler dar.
Gleiches gelte im Übrigen auch für die im Verfahren betreffend Invalidenrente zugesprochene Parteientschädigung. Hier sei aber nachprozessual eine Einigung mit der IV-Stelle getroffen worden. Diese habe anerkannt, dass das Bundesverwaltungsgericht die Parteientschädigung zu tief angesetzt habe. Die IV-Stelle habe sodann, um ein letztinstanzliches Beschwerdeverfahren zur Entschädigungshöhe zu vermeiden, für das vorinstanzliche Verfahren betreffend Invalidenrente eine Parteientschädigung von Fr. 3'700.- offeriert. Der Versicherte habe sich damit einverstanden erklärt und entsprechend davon abgesehen, die vom Bundesverwaltungsgericht zugesprochene Parteientschädigung beim Bundesgericht anzufechten.
5.3 Der Beschwerdeführer hat in der vorinstanzlichen Beschwerdeschrift angegeben, bis dahin im bundesverwaltungsgerichtlichen Verfahren betreffend Eingliederungsmassnahmen sechs Stunden aufgewendet zu haben. Im zweiten Schriftenwechsel ergänzte er, der Zeitaufwand belaufe sich nunmehr, einschliesslich der Einreichung der Replik, auf 12 h 30 min. Er verwies hiebei u.a. auf Aktenstudium, rechtliche Abklärungen, Telefonate, e-mails, schriftliche Eingaben und Korrespondenzen sowie das Verfassen der Rechtsschriften. Letztinstanzlich führt er sodann aus, nach Einreichung der Replik sei weiterer Zeitaufwand angefallen. Namentlich habe das Bundesverwaltungsgericht den Versicherten aufgefordert, verschiedene Unterlagen und Informationen von deutschen Behörden zu beschaffen. Dies habe zusätzliche Bemühungen des Beschwerdeführers erfordert. U.a. hätten Abklärungen bei deutschen Amtsstellen getroffen werden müssen und seien auf Grund dabei eingetretener Verzögerungen Fristerstreckungsbegehren an die Vorinstanz erforderlich gewesen. Dieser Zusatzaufwand sei nur im Verfahren betreffend Eingliederungsmassnahmen, nicht aber im Verfahren betreffend Invalidenrente angefallen. Gesamthaft habe der Beschwerdeführer im vorinstanzlichen Verfahren betreffend Eingliederungsmassnahmen 19 h 15 min eingesetzt.
5.4 Wird vom geltend gemachten Zeitaufwand von 19 h 15 min ausgegangen, resultiert bei der von der Vorinstanz zugesprochenen Entschädigung von Fr. 1'200.- auf die einzelne Stunde ein Honorar von rund Fr. 60.-. Damit wird der Mindeststundenansatz gemäss VGKE von Fr. 200.- deutlich unterschritten. Das gilt erst recht, wenn berücksichtigt wird, dass die zugesprochene Entschädigung auch den Auslagenersatz erfassen soll. Dieses ausgeprägte Missverhältnis zwischen Zeitaufwand und Entschädigung stellt grundsätzlich einen Rechtsfehler dar, welcher zu korrigieren ist.
Das gilt aber nur dann, wenn der geltend gemachte Zeitaufwand auch notwendig war, wie dies Art. 10 Abs. 1 VGKE verlangt. Es fehlt bislang an einer diesbezüglichen Würdigung durch das Bundesverwaltungsgericht. Die Kurzbegründung im angefochtenen Entscheid genügt nicht, zumal sie sich nicht mit dem in den vorinstanzlichen Rechtsschriften geltend gemachten Zeitaufwand auseinandersetzt.
Das Bundesverwaltungsgericht hat daher die Entschädigung (einschliesslich Auslagenersatz) an den unentgeltlichen Rechtsbeistand unter Berücksichtigung und Überprüfung von dessen nunmehr vorliegenden detaillierten Angaben neu festzusetzen. Es wird sich dabei auch mit dem weiteren Vorbringen des Beschwerdeführers zu befassen haben, wonach eine Streitigkeit mit Vermögensinteresse vorliege, welche gegebenenfalls sogar eine Erhöhung des Anwaltshonorars nach Art. 10 Abs. 3 VGKE rechtfertige. Die Sache wird hiefür an die Vorinstanz zurückgewiesen. Entgegen der in der Beschwerde vertretenen Auffassung ist es nicht angezeigt, dass über die Entschädigung im vorliegenden Verfahren reformatorisch entschieden wird. Es ist nicht Sache des Bundesgerichts, als erste Instanz Bestand und Notwendigkeit der einzelnen Verrichtungen, welche der Beschwerdeführer nach seiner Darstellung im vorinstanzlichen Verfahren ausgeführt hat, zu prüfen und die angemessene Entschädigung festzusetzen, zumal auch zu berücksichtigen ist, dass der Vorinstanz hiebei ein Ermessensspielraum zusteht.
6. Gerichtskosten sind keine zu erheben (Art. 66 Abs. 4 BGG; Urteil 6B_63/2010 vom 6. Mai 2010 E. 2.6). Das Bundesverwaltungsgericht hat dem Beschwerdeführer für das letztinstanzliche Verfahren eine Parteientschädigung auszurichten (Art. 68 Abs. 1 BGG; Urteile 6B_63/2010 vom 6. Mai 2010 E. 2.6 und 9C_671/2008 vom 6. März 2009 E. 8.2 mit Hinweisen).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird in dem Sinne gutgeheissen, dass der Entscheid des Bundesverwaltungsgerichts vom 20. August 2010 bezüglich der Entschädigung an den Beschwerdeführer als unentgeltlicher Rechtsbeistand aufgehoben und die Sache an die Vorinstanz zurückgewiesen wird, damit sie die Entschädigung im Sinne der Erwägungen neu festsetze.
2. Es werden keine Gerichtskosten erhoben.
3. Die Staatskasse (Bundesverwaltungsgericht) hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'000.- zu entschädigen.
4. Dieses Urteil wird den Parteien, W._, dem Bundesamt für Sozialversicherungen und der IV-Stelle für Versicherte im Ausland schriftlich mitgeteilt.
Luzern, 11. Januar 2011
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Ursprung Lanz