Sachverhalt:
A. A.a Der 1969 geborene B._, Paraplegiker seit 1993, arbeitete seit November 2003 in einem Vollzeitpensum bei den Schweizerischen Bundesbahnen SBB und war bei der Pensionskasse SBB für die berufliche Vorsorge versichert. Unter anderem wegen der lohnmässigen Einstufung kam es bald zu Unstimmigkeiten mit der Arbeitgeberin. Infolge einer Verschlechterung des Gesundheitszustandes ist B._ seit Mitte November 2007 in seiner Arbeitsfähigkeit erheblich eingeschränkt. Mit Vereinbarung vom 25. September 2009 beendigten B._ und die SBB das Arbeitsverhältnis gleichentags und ohne explizite schriftliche Angabe des Grundes.
A.b Die Kantonale IV-Stelle Wallis sprach B._ ab 1. August 2009 eine halbe und ab 1. Dezember 2009 eine ganze Rente der Invalidenversicherung zu (Verfügung vom 18. März 2010), nachdem sie einen Invaliditätsgrad von 50 % ab 1. November 2008 sowie von 70 % ab 1. Dezember 2009 ermittelt hatte. Die Pensionskasse SBB anerkannte mit Schreiben vom 30. Dezember 2009 einen Anspruch des B._ auf eine halbe Invalidenrente ab 1. Oktober 2009 in der Höhe von Fr. 743.95 und auf eine ganze Invalidenrente ab 1. Dezember 2009 in der Höhe von Fr. 1'487.90, berechnet je aufgrund der minimalen gesetzlichen Austrittsleistung von Fr. 40'764.15.
In der Folge entstand zwischen B._ und der Pensionskasse SBB eine Meinungsverschiedenheit über die Höhe der Invalidenrenten aus beruflicher Vorsorge. Während sich die Pensionskasse auf den Standpunkt stellte, aufgrund der Auflösung des Arbeitsvertrags in gegenseitigem Einvernehmen ständen dem Versicherten lediglich die tieferen Leistungen aus obligatorischer beruflicher Vorsorge zu, vertrat B._ die Auffassung, er habe seine Arbeitsstelle aus gesundheitlichen Gründen aufgegeben, weshalb er Anspruch auf höhere, auch den überobligatorischen Teil umfassende Invalidenleistungen habe.
B. Am 17. November 2010 liess B._ beim Kantonsgericht Wallis Klage einreichen mit dem Antrag, die Pensionskasse SBB sei zu verpflichten, ihm eine Invalidenrente von Fr. 2'324.- pro Monat zu bezahlen, "und zwar ab 1. Oktober 2009 zu 50 % und ab 1. Dezember 2009 zu 100 %". Mit Entscheid vom 3. Februar 2012 hiess das Kantonsgericht Wallis die Beschwerde (richtig: die Klage) gut und verpflichtete die Pensionskasse SBB, B._ die reglementarischen Rentenleistungen der weitergehenden Vorsorge auszuzahlen.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt die Pensionskasse SBB die Aufhebung des Entscheids vom 3. Februar 2012 und die Abweisung der Klage vom 17. November 2010 beantragen.
B._ lässt auf Abweisung der Beschwerde schliessen. Das kantonale Gericht und das Bundesamt für Sozialversicherungen verzichten auf eine Stellungnahme.

Erwägungen:
1. Es liegt eine Streitigkeit nach Art. 73 Abs. 1 BVG (SR 831.40) vor. Die zweite sozialrechtliche Abteilung des Bundesgerichts ist zuständig für die Beurteilung der vorliegenden Beschwerde (<ref-law> in Verbindung mit Art. 35 lit. e des Reglements vom 20. November 2006 für das Bundesgericht [BGerR; SR 173.110.131]).
2. 2.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann wegen Rechtsverletzungen gemäss Art. 95 f. BGG erhoben werden. Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zu Grunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2.2 Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (<ref-ruling> E. 1.2 S. 252 mit Hinweisen; <ref-ruling> E. 2.2 S. 550; <ref-ruling> E. 1.4 S. 140).
3. 3.1 Streitig und zu prüfen ist die Frage, ob der Beschwerdeführer über den Anspruch auf eine Invalidenrente aus obligatorischer beruflicher Vorsorge hinaus einen solchen auf eine reglementarische Rente hat.
3. 3.1 Streitig und zu prüfen ist die Frage, ob der Beschwerdeführer über den Anspruch auf eine Invalidenrente aus obligatorischer beruflicher Vorsorge hinaus einen solchen auf eine reglementarische Rente hat.
3.2 3.2.1 Mit Bezug auf die weitergehende berufliche Vorsorge sind die Vorsorgeeinrichtungen im Rahmen von Art. 6 und Art. 49 Abs. 2 BVG sowie der verfassungsmässigen Schranken (wie Rechtsgleichheit, Willkürverbot und Verhältnismässigkeit) in der Gestaltung ihrer Leistungen frei (Art. 49 Abs. 1 BVG; Urteil 9C_37/2010 vom 4. August 2010 E. 2.2 mit Hinweisen).
3.2.2 Die Auslegung des Reglements einer privatrechtlichen Vorsorgeeinrichtung als vorformulierter Inhalt des Vorsorgevertrages geschieht nach dem Vertrauensprinzip. Dabei sind jedoch die den Allgemeinen Versicherungsbedingungen innewohnenden Besonderheiten zu beachten, namentlich die so genannten Unklarheits- und Ungewöhnlichkeitsregeln. Nach diesen Auslegungsgrundsätzen gilt es, ausgehend vom Wortlaut und unter Berücksichtigung des Zusammenhanges, in dem eine streitige Bestimmung innerhalb des Reglements als Ganzes steht, den objektiven Vertragswillen zu ermitteln, den die Parteien mutmasslich gehabt haben. Dabei hat das Gericht zu berücksichtigen, was sachgerecht ist, weil nicht angenommen werden kann, dass die Parteien eine unvernünftige Lösung gewollt haben. Sodann sind mehrdeutige Wendungen in vorformulierten Vertragsbedingungen im Zweifel zu Lasten ihres Verfassers auszulegen (<ref-ruling> E. 6 S. 181; <ref-ruling> E. 2.2 S. 29).
3.3 Art. 33 Abs. 1 des hier anwendbaren, ab 1. Januar 2007 geltenden Vorsorgereglements der Pensionskasse SBB (nachfolgend: Reglement) lautet wie folgt: Versicherte, deren Arbeitsverhältnis wegen mangelnder medizinischer Tauglichkeit angepasst oder aufgelöst wurde und die von der IV als invalid anerkannt werden, gelten auch bei der Kasse als invalid, sofern sie bei Eintritt der Arbeitsunfähigkeit, deren Ursache zur Invalidität geführt hat, bei der Kasse versichert waren. Die Kasse kann in den 30 Tagen nach Eröffnung der IV-Verfügung Einsprache dagegen erheben (Art. 33 Abs. 2 des Reglements). Nach Art. 33 Abs. 3 des Reglements ist für die Bestimmung des Pensionsanspruchs der Invaliditätsgrad der IV massgebend. Bei einem Invaliditätsgrad zwischen 50 und 59 % beträgt der Pensionsanspruch 50 %, bei einem solchen ab 70 % besteht Anspruch auf eine ganze Pension. Der "Betrag der vollen Invalidenpension" bemisst sich nach Art. 35 des Reglements. Dessen Abs. 4 hält Folgendes fest: Erwirbt ein ehemaliger Versicherter, der bisher keinen Pensionsanspruch hatte und dessen Arbeitsverhältnis aus anderen Gründen als mangelnder medizinischer Tauglichkeit aufgelöst wurde, Anspruch auf Invalidenleistungen der Kasse im Sinne von Art. 23 BVG, so erhält er Invalidenleistungen gemäss BVG-Minimum.
3.4 Nach Art. 140 Abs. 1 des von der SBB mit mehreren Arbeitnehmerverbänden geschlossenen Gesamtarbeitsvertrags 2007-2010 vom 22. Dezember 2006 (nachfolgend: GAV) wird das Arbeitsverhältnis auf Ende der Anspruchsfrist (vgl. Art. 134 ff. GAV) angepasst, wenn innert dieser Frist mangelnde medizinische Tauglichkeit festgestellt wird und die Mitarbeiterin oder der Mitarbeiter spätestens an deren Ende bei der SBB reintegriert werden kann. Ist die berufliche Reintegration bei der SBB bis zum Ablauf der Anspruchsfrist nicht möglich oder nicht absehbar, so erfolgt die Auflösung des Arbeitsverhältnisses wegen mangelnder medizinischer Tauglichkeit (Art. 141 Abs. 1 GAV).
Die berufliche Reintegration endet insbesondere mit der Anpassung oder dem Ende des Arbeitsverhältnisses (Art. 155 Abs. 3 lit. b und c GAV). Zur Beendigung des Arbeitsverhältnisses mit der SBB führen insbesondere die Kündigung wegen mangelnder medizinischer Tauglichkeit oder die selbstverschuldete Kündigung gemäss Ziffer 158 (Art. 157 Abs. 1 GAV). Bei der einvernehmlichen Beendigung des Arbeitsverhältnisses kann die SBB der Mitarbeiterin oder dem Mitarbeiter u.a. zeitlich beschränkte Lohnausgleichszahlungen oder weitere freiwillige Leistungen gewähren (Art. 157 Abs. 2 GAV). Die SBB löst das Arbeitsverhältnis mit der betroffenen Person gestützt auf Ziffer 183 auf, wenn sie namentlich den Prozess der beruflichen Reintegration nicht aktiv unterstützt; dabei hat eine Kündigungsandrohung vorauszugehen (Art. 158 Abs. 1 lit. a und Abs. 2 GAV).
4. Das kantonale Gericht hat festgestellt, dass B._ seit November 2007 für die Arbeitgeberin nur noch eingeschränkte Arbeitsleistungen erbracht und zahlreiche krankheitsbedingte Abwesenheiten aufgewiesen habe. Aufgrund der medizinischen Probleme seien ausserdem diverse Auflagen wie erheblich längere Pausen, genügend grosse und gut zugängliche Sanitäranlagen, rollstuhlgängiger Arbeitsplatz, Einsätze von zu Hause bzw. Heimarbeit zu beachten gewesen. Ab Dezember 2008 sei der gesundheitliche Zustand des Versicherten so schlecht gewesen, dass zwingend Anpassungen an den Arbeitsplatz erforderlich gewesen waren. Die vielen krankheitsbedingten Abwesenheiten hätten die notwendigen Abstimmungen zum gegenseitigen Geschäfts- und Rollenverständnis verunmöglicht. Gesamthaft gesehen sei der Versicherte schliesslich im Zeitraum von fast zwei Jahren immer wieder entweder nur beschränkt oder zu 100 % arbeitsunfähig gewesen. Es stehe fest, dass B._ nicht mehr in der Lage gewesen sei, in seiner angestammten Funktion tätig zu sein bzw. dass das Arbeitsverhältnis aus medizinischen Gründen untragbar geworden und der Versicherte für die Tätigkeit nicht mehr tauglich gewesen sei. Zweifelsfrei sei daher der Versicherte invalid im Sinne von Art. 33 des Vorsorgereglements. Daran ändere nichts, dass das Arbeitsverhältnis nicht mittels Kündigung, sondern mittels Vereinbarung aufgelöst worden sei. Es könne daher nicht gesagt werden, das Arbeitsverhältnis sei einzig und allein wegen eines Arbeitskonflikts beendet worden. Zudem hielt es für belanglos, dass das Reintegrationsverfahren (vgl. Art. 134 ff. und 155 ff. GAV) nicht vollends abgeschlossen wurde; solches zu verlangen, entspreche nicht dem Wortlaut von Art. 33 des Reglements.
5.1 5.1.1 Eine Sachverhaltsfeststellung ist nicht schon dann offensichtlich unrichtig, wenn sich Zweifel anmelden, sondern erst, wenn sie eindeutig und augenfällig unzutreffend ist (<ref-ruling> E. 3.1 S. 44). Eine offensichtlich unrichtige Sachverhaltsfeststellung weist damit die Tragweite von Willkür auf (Botschaft des Bundesrates vom 28. Februar 2001 zur Totalrevision der Bundesrechtspflege, BBl 2001 S. 4338; MARKUS SCHOTT, Basler Kommentar, Bundesgerichtsgesetz, 2. Aufl. 2011, N. 9 f. zu <ref-law>). Es liegt noch keine offensichtliche Unrichtigkeit vor, nur weil eine andere Lösung ebenfalls in Betracht fällt, selbst wenn diese als die plausiblere erschiene (Urteil 9C_570/2007 vom 5. März 2008 E. 4.2). Eine Sachverhaltsfeststellung ist etwa dann offensichtlich unrichtig, wenn das kantonale Gericht den Sinn und die Tragweite eines Beweismittels offensichtlich falsch eingeschätzt, ohne sachlichen Grund ein wichtiges und für den Ausgang des Verfahrens entscheidendes Beweismittel nicht beachtet oder aus den abgenommenen Beweisen unhaltbare Schlüsse gezogen hat (<ref-ruling> E. 2.1 S. 9; Urteile 8C_5/2010 vom 24. März 2010 E. 1.2; 9C_368/2008 vom 11. September 2008 E. 4.2).
5.1.2 Angesichts der unangefochten gebliebenen Verfügung vom 18. März 2010, mit der die Invalidenversicherung - für die Pensionskasse SBB verbindlich (vgl. E. 5.2) - eine gesundheitlich bedingte Arbeits- und Erwerbsunfähigkeit von 50 % ab 13. November 2007 und von 70 % ab 26. September 2009 feststellte, ist namentlich die vorinstanzliche Annahme, dass das Arbeitsverhältnis wegen mangelnder medizinischer Tauglichkeit aufgelöst wurde, nicht offensichtlich unrichtig und für das Bundesgericht verbindlich (E. 2.1). Daran ändert auch das Schreiben der Arbeitgeberin vom 11. November 2011 nichts; namentlich lässt sich aus der Wendung, die vielen krankheitsbedingten Abwesenheiten hätten die notwendigen Abstimmungen zum gegenseitigen Geschäfts- und Rollenverständnis verunmöglicht, nicht auf eine mangelnde Kooperation des Beschwerdeführers als Anlass für dessen Trennung von der Arbeitgeberin schliessen. Der Umstand, dass allenfalls zusätzlich auch der aktenkundige Arbeitskonflikt als nichtmedizinischer Grund zur Beendigung des Anstellung beitrug, ist nicht anspruchsrelevant. Die Bestimmung von Art. 33 Abs. 1 des Reglements lässt sich in guten Treuen nicht so verstehen, dass die Auflösung des Arbeitsverhältnisses ausschliesslich gesundheitlich motiviert sein darf, hätte es doch sonst die Arbeitgeberin in der Hand, durch eigene Beweggründe einen anspruchsreduzierenden Zustand herbeizuführen. Es muss genügen, wenn für die Beendigung des Arbeitsverhältnisses die gesundheitlichen Gründe überwiegen und ausschlaggebend sind, was hier zutrifft: Bereits in Anbetracht des Umfangs der gesundheitlichen Einschränkung ist der Konflikt mit den Vorgesetzten von untergeordneter Bedeutung. Zudem scheinen die Auseinandersetzungen selbst resp. deren negative Entwicklung durch die verminderte Arbeitsfähigkeit (mit-)beeinflusst worden zu sein.
5.2 Soweit die Beschwerdeführerin geltend macht, die vorinstanzliche Interpretation von Art. 33 Abs. 1 des Reglements laufe auf die unzulässige Anerkennung einer Berufsinvalidität hinaus, kann sie nichts für sich ableiten. Es besteht keine Veranlassung, von der reglementarisch vorgesehenen Bindung an die Feststellungen der IV-Stelle (Art. 33 Abs. 2 und 3 des Reglements) abzusehen (vgl. <ref-ruling> E. 3.1 S. 273 f.; <ref-ruling> E. 1 in fine und 2a S. 311, je mit Hinweisen): Einerseits eröffnete die IV-Stelle die Verfügung vom 18. März 2010 auch der Pensionskasse, die dagegen kein Rechtsmittel ergriff. Anderseits ist nicht ersichtlich und wird auch nicht geltend gemacht, dass die invalidenversicherungsrechtliche Betrachtungsweise - namentlich was den Umfang der Erwerbsunfähigkeit anbelangt - als offensichtlich unhaltbar erscheinen soll. Sie beruht denn auch auf der Einschätzung des Hausarztes, wonach die Einschränkung in der Arbeitsfähigkeit nicht nur für die bisherige, sondern für jede angepasste Tätigkeit gilt, was der Regionale Ärztliche Dienst (RAD) für "medizinisch nachvollziehbar" hielt.
5.3 Weiter ist es im konkreten Fall sachfremd, für die Ausrichtung der reglementarischen Rente die Verwertung der Resterwerbsfähigkeit von lediglich 30 % bei der bisherigen Arbeitgeberin zu verlangen (vgl. SZS 2007 S. 375, B 12/06 E. 3.2): Die Eingliederung in diesem Umfang kann von vornherein den maximalen Rentenanspruch nicht berühren, zumal eine Verbesserung des Gesundheitszustandes laut Stellungnahme des RAD vom 20. November 2011 nicht in Aussicht steht; zudem war resp. ist in der konkreten Situation eine künftige Schlechterstellung der Pensionskasse ausgeschlossen. Die Vorinstanz hat zutreffend darauf hingewiesen, dass der klare Wortlaut von Art. 33 des Reglements ein Reintegrationsverfahren nicht einmal nenne. Invalidenversicherungsrechtlich ist denn auch nur - aber immerhin - verlangt, dass zumutbare, die Erwerbsfähigkeit verbessernde Eingliederungsmassnahmen durchgeführt wurden (vgl. <ref-law> [SR 830.1] und <ref-law>); es ist indessen nicht ersichtlich und wird auch nicht dargelegt, dass solche im konkreten Fall noch möglich gewesen sein sollten. Ausserdem ist eine bestimmte Minimaldauer des Reintegrationsverfahrens im GAV nicht vorgeschrieben und lässt sich auch aus den Bestimmungen zur Anspruchsfrist (Art. 134 ff. GAV) nicht ableiten. Zudem verpflichtete sich die Arbeitgeberin in der Vereinbarung vom 25. September 2009 zur Bezahlung einer "freiwilligen" einmaligen Leistung von Fr. 109'000.-, während eine Kündigungsandrohung nicht aktenkundig ist. Diese Umstände (vgl. Art. 157 Abs. 2 und 158 Abs. 2 GAV) sprechen ebenfalls dafür, dass das Arbeitsverhältnis aus gesundheitlichen Gründen beendet wurde und dem Beschwerdeführer nicht mangelnde Kooperation oder fehlender Reintegrationswille vorzuwerfen ist.
5.4 Nach dem Gesagten sind die Vorbringen der Beschwerdeführerin nicht stichhaltig. Im Übrigen wird nach dem klaren Wortlaut von Art. 33 Abs. 1 des Reglements - nebst einer Invalidität im Sinne der Invalidenversicherung - nicht zwingend eine Auflösung des Arbeitsverhältnisses verlangt, sondern genügt auch dessen Anpassung wegen mangelnder medizinischer Tauglichkeit. Dass eine solche unabdingbar gewesen wäre, steht ausser Frage. Eine Fortführung des Arbeitsverhältnisses (unter veränderten Bedingungen) hätte somit nichts am Rentenanspruch geändert. Entgegen der Formulierung in Art. 33 Abs. 1 des Reglements ist denn auch nicht erforderlich, dass das Arbeitsverhältnis tatsächlich angepasst oder aufgelöst "wurde": Nach der expliziten Regelung von Art. 34 des Reglements entsteht der Anspruch gleichzeitig mit jenem gegenüber der Invalidenversicherung, was auch vor einer formellen Anpassung oder Auflösung des bisherigen Arbeitsverhältnisses der Fall sein kann; die Auszahlung wird indessen aufgeschoben, solange die versicherte Person Lohn oder Lohnersatzleistungen bezieht. Ist der Rentenanspruch mithin am 1. November 2008 entstanden, spricht auch Art. 35 Abs. 4 des Reglements (e contrario) dagegen, lediglich eine obligatorische statt einer reglementarischen Rente auszurichten. Die Beschwerde ist unbegründet.
6. Dem Ausgang des Verfahrens entsprechend hat die Beschwerdeführerin die Gerichtskosten zu tragen (<ref-law>). Der obsiegende, anwaltlich vertretene Beschwerdegegner hat Anspruch auf eine Parteientschädigung (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat den Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 2'500.- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Kantonsgericht Wallis, Sozialversicherungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 12. September 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Die Gerichtsschreiberin: Dormann