Sachverhalt:
A.
A._ war bei der Pensionskasse für das Staatspersonal und die Lehrer von Appenzell Ausserrhoden (heute: Pensionskasse Appenzell Ausserrhoden) berufsvorsorgeversichert. Nach Auftreten gesundheitlicher Probleme löste der Kanton das Arbeitsverhältnis auf Ende April 2008 auf. Nachdem er bis im Februar 2009 Krankentaggelder in der Höhe von 80 % des Lohnes bezogen hatte, meldete sich A._ im März 2009 bei der Invalidenversicherung zum Leistungsbezug an. Mit Verfügungen vom 5. Februar und 16. März 2010 sprach ihm die IV-Stelle des Kantons X._ eine ganze Rente ab 1. September 2009 zu. Die Pensionskasse Appenzell Ausserrhoden anerkannte eine Leistungspflicht. Im Schreiben vom 2. Dezember 2010 hielt sie fest, es bestehe Anspruch auf eine ganze Invalidenrente mit Wirkung ab 1. September 2009, und legte die Berechnungsgrundlagen dar. Damit war A._ nicht einverstanden, der unter anderem die Nachzahlung einer IV-Übergangsrente nach altem Recht beantragte. Mit Schreiben vom 10. Januar 2011 bestätigte die Pensionskasse Appenzell Ausserrhoden Anspruchsbeginn und Höhe der Rente.
B.
Am 21. April 2011 liess A._ Klage beim Obergericht Appenzell Ausserrhoden einreichen mit dem hauptsächlichen Rechtsbegehren, die Pensionskasse Appenzell Ausserrhoden sei zu verpflichten, Leistungen auf der Basis der Verordnung vom 21. Juni 1999 über die Pensionskasse von Appenzell Ausserrhoden und zudem eine IV-Überbrückungsrente ab 1. Februar bis 1. September 2009 auszurichten. Nach Klageantwort der Pensionskasse und einem zweiten Schriftenwechsel wies das Obergericht mit Entscheid vom 20. März 2013 das Rechtsmittel im Sinne der Erwägungen ab, soweit es darauf eintrat.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt die Pensionskasse Appenzell Ausserrhoden, der Entscheid vom 20. März 2013 sei aufzuheben und die Klage vollumfänglich abzuweisen.
A._ ersucht um Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen (BSV) hat auf eine Vernehmlassung verzichtet.

Erwägungen:
1.
Aufgrund der Begehren in der Beschwerde und deren Begründung ist Streitgegenstand der vom kantonalen Berufsvorsorgegericht im Grundsatz bejahte Anspruch des Beschwerdegegners auf Invalidenleistungen der beruflichen Vorsorge für die Zeit vom 26. Februar bis 31. August 2009 (vgl. <ref-ruling> E. 3.2 S. 452). Bis am 25. Februar 2009 waren nach Feststellung der Vorinstanz Taggelder der Krankenversicherung in der Höhe von 80 % der entgangenen Besoldung ausgerichtet worden. Der 1. September 2009 ist der Beginn der ganzen Rente der Invalidenversicherung. Nach Auffassung der Beschwerdeführerin ist der Anspruch des Beschwerdegegners auf eine Invalidenrente der beruflichen Vorsorge erst in diesem Zeitpunkt entstanden. Für die Zeit davor bestehe somit keine Leistungspflicht.
Nicht angefochten ist der vorinstanzliche Entscheid, soweit er den Anspruch auf eine altrechtliche IV-Überbrückungsrente nach Art. 39 der Verordnung vom 21. Juni 1999 über die Pensionskasse von Appenzell Ausserrhoden (bGS 142.213) für die Zeit vom 1. Februar bis 1. September 2009 verneint.
2.
2006 wurde die Verordnung vom 21. Juni 1999 über die Pensionskasse von Appenzell Ausserrhoden total revidiert. Die Übergangsbestimmungen der am 1. Januar 2008 in Kraft getretenen neuen Verordnung vom 30. Oktober 2006 sehen vor, dass alle am 31. Dezember 2007 der Pensionskasse angeschlossenen Versicherten, welche noch nicht im Rentenbezug stehen, auf den 1. Januar 2008 dem neuen Recht unterstellt werden (Art. 62 Satz 1). Im Versicherungsfall gilt bis 31. Dezember 2010 für die nach dieser Verordnung berechneten Invalidenrenten der frankenmässige Besitzstand auf den gemäss Art. 37 der Verordnung vom 21. Juni 1999 anwartschaftlich berechneten Invalidenrenten am 31. Dezember 2007 (Art. 63 Abs. 2 Satz 1). Die Vorinstanz hat aus dieser Regelung gefolgert, die Frage nach der Entstehung des Anspruchs auf eine Invalidenrente beurteile sich bei am 31. Dezember 2007 noch nicht im Rentenbezug stehenden Versicherten, zu denen auch der Kläger gehöre, nach dem neuen Recht. Dieser Schluss wird von den Parteien - zu Recht - nicht als bundesrechtswidrig beanstandet.
3.
Art. 32 der Verordnung vom 30. Oktober 2006 über die Pensionskasse von Appenzell Ausserrhoden (in Kraft gestanden bis 31. Dezember 2013, nachfolgend: PKV/AR) mit der Überschrift "Invaliditätsbegriff und Anspruch" bestimmte Folgendes:
1 Versicherte, die im Sinne der Eidg. Invalidenversicherung (IV) infolge von Krankheit oder Unfall ganz oder teilweise dauerhaft erwerbsunfähig sind und die bei Eintritt der Arbeitsunfähigkeit, deren Ursache zur Invalidität geführt hat, in der Pensionskasse versichert waren, gelten als invalid. Sie haben Anspruch auf eine Invalidenrente.
2 Der Anspruch auf eine Invalidenrente entsteht grundsätzlich mit dem Rentenbeginn bei der IV, frühestens jedoch nach Ablauf der arbeitsvertraglichen Lohnfortzahlung oder von Taggeldleistungen, sofern diese mindestens 80 Prozent der entgangenen Jahresbesoldung betragen und die Taggeldversicherung vom Arbeitgeber mindestens zur Hälfte mitfinanziert wurde.
3-5 (...).
Diese Bestimmungen sind nach den Regeln der Gesetzesauslegung zu interpretieren (<ref-ruling> E. 5.1 S. 238 mit Hinweisen).
3.1. Art. 32 Abs. 1 PKV/AR verweist auf den Begriff der Invalidität im Sinne der Invalidenversicherung; gleichzeitig übernimmt er den Wortlaut von Art. 23 lit. a BVG, wonach Anspruch auf Invalidenleistungen Personen haben, die im Sinne der IV zu mindestens 40 Prozent invalid sind und "bei Eintritt der Arbeitsunfähigkeit, deren Ursache zur Invalidität geführt hat, versichert waren". Aus dieser uneingeschränkten Verweisung hat die Vorinstanz gefolgert, die Regelung betreffend die Entstehung und den Aufschub des Anspruchs auf eine Invalidenrente in Abs. 2 sei im gleichen Sinne zu verstehen wie im Bereich des Obligatoriums nach BVG. Massgebend seien somit Art. 26 Abs. 1 und 2 BVG und die dazu ergangene Rechtsprechung. Dem ist von den Parteien nicht widersprochen worden (vgl. auch Protokoll der Sitzung des Kantonsrates von Appenzell Ausserrhoden vom 30. Oktober 2006, Trakt. 105, S. 1032 unten). Hingegen gehen die Meinungen darüber auseinander, welche Folgerungen daraus zu ziehen sind.
3.2. Nach Art. 26 Abs. 1 BVG gelten für den Beginn des Anspruchs auf Invalidenleistungen sinngemäss die entsprechenden Bestimmungen des Bundesgesetzes vom 19. Juni 1959 über die Invalidenversicherung (<ref-law>). Im Urteil B 124/04 vom 2. Februar 2006 (<ref-ruling>) erkannte das Eidg. Versicherungsgericht, dass von dieser Verweisung <ref-law> (in Kraft gestanden bis 31. Dezember 2007) nicht erfasst wird. Mit anderen Worten entsteht der Anspruch auf eine Invalidenrente nach BVG mit Ablauf der Wartezeit nach aArt. 29 Abs. 1 lit. b IVG (seit 1. Januar 2008: <ref-law>) unabhängig davon, ob infolge verspäteter Anmeldung die Rente der Invalidenversicherung in einem späteren Zeitpunkt beginnt (<ref-ruling> E. 4.4.2 S. 164 f.). Gemäss Vorinstanz gilt diese Rechtsprechung auch nach der Neufassung von Art. 28 und 29 IVG und nach Aufhebung von <ref-law> im Rahmen der am 1. Januar 2008 in Kraft getretenen 5. IV-Revision. Zur Begründung verweist sie im Wesentlichen auf Marc Hürzeler, in BVG und FZG, 2010, N. 26 zu Art. 26 BVG, welcher Autor diese Meinung vertritt. Nach verbindlicher Feststellung der IV-Stelle sei die Wartezeit am 20. Juli 2008 abgelaufen und in diesem Zeitpunkt somit der Anspruch auf eine Invalidenrente nach Art. 32 PKV/AR entstanden. Die Beschwerdeführerin hält der vorinstanzlichen Argumentation u.a. die Materialien zur 5. IV-Revision entgegen.
3.3.
3.3.1. Mit Bezug auf die Entstehung des Rentenanspruchs und des Rentenbeginns galt bis 31. Dezember 2007 vor Inkrafttreten der 5. IV-Revision folgende Regelung: Der Rentenanspruch nach Artikel 28 entsteht frühestens in dem Zeitpunkt, in dem der Versicherte u.a. während eines Jahres ohne wesentlichen Unterbruch durchschnittlich mindestens zu 40 Prozent arbeitsunfähig (<ref-law>) gewesen war. Die Rente wird vom Beginn des Monats an ausgerichtet, in dem der Anspruch entsteht, jedoch frühestens von jenem Monat an, der auf die Vollendung des 18. Altersjahres folgt (aArt. 29 Abs. 1 lit. b und Abs. 2 Satz 1 IVG). Meldet sich ein Versicherter mehr als zwölf Monate nach Entstehen des Anspruchs an, so werden die Leistungen in Abweichung von Artikel 24 Absatz 1 ATSG lediglich für die zwölf der Anmeldung vorangehenden Monate ausgerichtet (aArt. 48 Abs. 2 Satz 1 IVG).
Seit 1. Januar 2008 gilt demgegenüber: Anspruch auf eine Rente haben Versicherte, die u.a. während eines Jahres ohne wesentlichen Unterbruch durchschnittlich mindestens zu 40 Prozent arbeitsunfähig (<ref-law>) gewesen sind (<ref-law>). Der Rentenanspruch entsteht frühestens nach Ablauf von sechs Monaten nach Geltendmachung des Leistungsanspruchs nach Artikel 29 Absatz 1 ATSG, jedoch frühestens im Monat, der auf die Vollendung des 18. Altersjahres folgt. Die Rente wird vom Beginn des Monats an ausbezahlt, in dem der Rentenanspruch entsteht (Art. 29 Abs. 1 und 3 IVG).
3.3.2. In der Botschaft vom 22. Juni 2005 zur Änderung des Bundesgesetzes über die Invalidenversicherung (5. Revision; BBl 2005 4459 ff.) wurde ausgeführt, die Massnahmen im Rahmen dieser Novelle würden sich auch positiv auf die Anzahl Invalidenrenten in der beruflichen Vorsorge auswirken. Der Anspruch auf BVG-Invalidenleistungen stelle darauf ab, dass jemand im Sinn der IV zu einem bestimmten Grad invalid sei (Art. 23 und 24 BVG); für den Beginn der BVG-Invalidenrente gälten sinngemäss die entsprechenden Bestimmungen des IVG (<ref-law>, Art. 26 Abs. 1 BVG). Daher wirkten sich entsprechende Änderungen des IVG auch auf den Leistungsanspruch nach BVG aus (BBl 2005 4588 Ziff. 3.4). Darauf Bezug nehmend, führte das BSV in seinen Mitteilungen über die Berufliche Vorsorge Nr. 107 vom 12. August 2008 aus, Art. 26 Abs. 1 BVG verweise für den Beginn des Anspruchs auf Invalidenleistungen auf <ref-law>. Daher wirkten sich entsprechende Änderungen des IVG bezüglich Beginn des Anspruchs auch auf den Leistungsanspruch nach BVG aus. Bei der Anpassung der BVG-Bestimmungen sei der Verweis auf <ref-law> in Art. 26 BVG Abs. 1 aber nicht geändert worden. Es liege somit ein redaktionelles Versehen vor. Im Verweis müsste es somit heissen: " (Art. 28 Abs. 1 und 29 Abs. 1-3 IVG) ". In der Systematischen Sammlung des Bundesrechts (SR) sei in der Zwischenzeit die entsprechende Anpassung vorgenommen worden (siehe Fn. 56 zu aArt. 26 Abs. 1 BVG: "Heute: Art. 28 Abs. 1 und 29 Abs. 1-3 IVG"). Diese Änderung habe zur Folge, dass der Anspruch auf BVG-Invalidenleistungen frühestens nach Ablauf von sechs Monaten nach Geltendmachung des Leistungsanspruchs nach <ref-law> entstehe, d.h. gleichzeitig mit dem Beginn des Invalidenrentenanspruchs der IV.
3.3.3. In der Lehre wird überwiegend die Auffassung vertreten, dass mit Inkrafttreten der 5. IV-Revision neu der Anspruch auf Invalidenleistungen nach Art. 26 Abs. 1 BVG frühestens nach Ablauf von sechs Monaten seit der Anmeldung bei der Invalidenversicherung beginnt (Hans-Ulrich Stauffer, Berufliche Vorsorge, 2. Aufl. 2012, S. 337 Rz. 921; Marta Mozar, Verspätete Anmeldung, in: Schweizer Personalvorsorge [SPV] 6/2008, S. 83; Ulrich Meyer/Marco Reichmuth, Bundesgesetz über die Invalidenversicherung, 3. Aufl. 2014, S. 409; a.M. Marc Hürzeler, BVG und FZG, 2010, N. 26 zu Art. 26 BVG).
3.3.4. Der Beschwerdegegner bringt vor, die 5. IV-Revision habe vor allem, wenn nicht ausschliesslich, der finanziellen Besserstellung der stark verschuldeten Invalidenversicherung dienen sollen. Diese Schuldenproblematik bestehe bei den Pensionskassen, die im Grundsatz für ihre Leistungen voll finanziert seien, nicht. Damit vermag er indessen nicht darzutun, der kantonale Gesetzgeber habe sich auch unter der Herrschaft der neuen Verordnung vom 30. Oktober 2006 (PKV/AR) an die alte BVG-Regelung betreffend Rentenbeginn anlehnen wollen. In der Beratung der Revisionsvorlage im Kantonsrat führte der Direktor Departement Finanzen aus, damit seien weitreichende Folgen und ein Leistungsabbau in verschiedenen Bereichen verbunden. Als Grund erwähnte er u.a. eine starke Zunahme bei den Invalidenrenten, die auch in der zweiten Säule Anpassungen erfordere, welche auf zwei Arten vorgenommen werden könnten, nämlich entweder durch höhere Risikoprämien oder, wie nun vorgeschlagen, durch eine andere Leistungsaufteilung und allenfalls auch durch eingeschränkte Leistungen. Der Rückweisungsantrag der SP-Fraktion, welche für die Beibehaltung der bisherigen Regelung bezüglich der Invalidenrenten eintrat, wurde abgelehnt (Protokoll der Sitzung vom 30. Oktober 2006, Trakt. 105, S. 1009-1026).
3.4. Nach dem Gesagten ist Art. 32 Abs. 2 PKV/AR in dem Sinne zu verstehen, dass der Anspruch auf eine Invalidenrente mit dem Beginn der Rente der Invalidenversicherung nach <ref-law> entsteht, d.h. (seit 1. Januar 2008) frühestens sechs Monate seit der Anmeldung bei der IV zum Rentenbezug. Dies ist im vorliegenden Fall der 1. September 2009. Der angefochtene Entscheid verletzt somit Bundesrecht, soweit er für die Zeit vom 26. Februar bis 31. August 2009 den Anspruch auf eine Invalidenrente im Grundsatz bejaht.
4.
Der unterliegende Beschwerdegegner ist kostenpflichtig (Art. 66 Abs. 1 BGG). Die obsiegende Beschwerdeführerin hat praxisgemäss keinen Anspruch auf Parteientschädigung (<ref-law>; Urteil 9C_702/2011 vom 28. Februar 2012 E. 5, in: SVR 2012 BVG Nr. 30 S. 121).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen. Der Entscheid des Obergerichts Appenzell Ausserrhoden vom 20. März 2013 wird aufgehoben, soweit er den Anspruch des Beschwerdegegners auf eine Invalidenrente vor dem 1. September 2009 im Grundsatz bejaht.
2.
Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdegegner auferlegt.
3.
Dieses Urteil wird den Parteien, dem Obergericht Appenzell Ausserrhoden, 3. Abteilung, und dem Bundesamt für Sozialversicherungen, Aufsicht Berufliche Vorsorge, schriftlich mitgeteilt.
Luzern, 21. Oktober 2014
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Kernen
Der Gerichtsschreiber: Fessler