Sachverhalt:
A. Der 1968 geborene A._ war ab April 1990 bei den Schweizerischen Bundesbahnen (SBB) öffentlich-rechtlich angestellt und übte verschiedene Funktionen aus. Nachdem die SBB seine Stelle im Rahmen einer Reorganisation aufgehoben hatten, wurde A._ ab 1. April 2009 von der SBB-internen Organisationseinheit "Neuorientierung und Arbeit" (NOA) begleitet. Einen Übertritt lehnte die NOA aber ab. Die Führungsverantwortung lag weiterhin bei der Division Personenverkehr, Operating. Mit Verfügung vom 24. August 2009 sprachen die SBB, Division Personenverkehr, Operating, die fristlose Auflösung des Anstellungsverhältnisses per 26. August 2009 aus. Begründet wurde dies namentlich damit, dass A._ Lohn nicht deklariert habe und der Arbeit unentschuldigt ferngeblieben sei. Die von A._ hiegegen erhobene Einsprache und interne Beschwerde wiesen die SBB, Konzernrecht, mit Entscheid vom 26. November 2009 ab.
B. A._ führte Beschwerde. Das Bundesverwaltungsgericht hiess diese gut, soweit es darauf eintrat (Dispositiv-Ziff. 1). Es entschied, das Arbeitsverhältnis werde per 31. Dezember 2009 aufgelöst (Dispositiv-Ziff. 2), und wies die SBB an, A._ den Lohn bis dahin (Dispositiv-Ziff. 3) sowie eine Entschädigung in Höhe von zwei Monatslöhnen (Dispositiv-Ziff. 4) auszurichten (Entscheid vom 23. August 2010).
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ beantragen, in Aufhebung der Ziffern 2 und 3 des vorinstanzlichen Entscheides sei festzustellen, dass das Anstellungsverhältnis mit den SBB nach dem 31. Dezember 2009 weiter bestehe, und es seien die SBB anzuweisen, ihm "die bis heute ausstehenden Lohnzahlungen - unter Anrechnung seines Zwischenverdienstes - rückwirkend auszurichten" sowie eine zumutbare Arbeit zuzuweisen.
SBB und Vorinstanz schliessen je auf Abweisung der Beschwerde.
D. Das Bundesgericht hat am 28. Juni 2011 eine öffentliche Urteilsberatung durchgeführt.
Erwägungen:
1. 1.1 Gegen den angefochtenen Entscheid steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen (Art. 82 ff. BGG). Die übrigen Voraussetzungen für das Eintreten auf die Beschwerde sind ebenfalls erfüllt.
1.2 Mit der Beschwerde kann u.a. die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG). Der Beschwerdeführer macht geltend, die Vorinstanz habe Bestimmungen des Bundespersonalrechts und den verfassungsrechtlichen Verhältnismässigkeitsgrundsatz verletzt, indem sie einen Anspruch auf Weiterführung des Anstellungsverhältnisses bei den SBB und entsprechenden Lohn über den 31. Dezember 2009 hinaus verneinte.
1.3 Grundsätzlich wendet das Bundesgericht das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist somit weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden. Es kann unter Berücksichtigung der den Parteien obliegenden Begründungs- resp. Rügepflicht eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen oder mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (BGE 134 V 250 E. 1.2 S. 252 mit Hinweisen, 369 E. 2 S. 371; 133 II 249 E. 1.4.1 S. 254). Hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht gilt eine qualifizierte Rügepflicht. Das Bundesgericht prüft eine solche Rüge nur insofern, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG; BGE 136 I 49 E. 1.4.1 S. 53).
Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG), es sei denn, dieser sei offensichtlich unrichtig oder beruhe auf einer Rechtsverletzung im Sinne von Art. 95 BGG (Art. 97 Abs. 1, Art. 105 Abs. 2 BGG).
2. Das Bundesverwaltungsgericht hat erkannt, die fristlose Kündigung auf den 26. August 2009 sei an sich nichtig im Sinne von Art. 14 Abs. 1 und 2 des Bundespersonalgesetzes vom 24. März 2000 (BPG) in Verbindung mit der entsprechenden Regelung des GAV-SBB. Es liege auch keine formgerechte ordentliche Kündigung vor. Grundsätzlich wäre der Beschwerdeführer daher weiter zu beschäftigen.
Diese Beurteilung ist nicht umstritten.
3. Streitig und zu prüfen ist, ob ein Anspruch auf Weiterbeschäftigung nach dem 31. Dezember 2009 besteht.
Die Vorinstanz hat hiezu erwogen, gemäss dem Urteil des Bundesgerichts 1C_277/2007 vom 30. Juni 2008 könne es angezeigt sein, im Falle der Aufhebung der Kündigungsverfügung in sinngemässer Anwendung von Art. 19 BPG anstatt auf eine Weiterbeschäftigung auf Zusprechung einer Entschädigung zu erkennen. Das sei hier der Fall. Denn die beruflichen Verhältnisse des Beschwerdeführers hätten sich seit Einreichung der Beschwerde beim Bundesverwaltungsgericht geändert, indem er seit Januar 2010 eine feste Anstellung bei der X._ AG innehabe. Die Anordnung der Weiterbeschäftigung eines Arbeitnehmers, der ein neues Anstellungsverhältnis bei einer anderen Arbeitgeberin aufgenommen und zudem in seiner Beschwerdeführung auch nie die Weiterbeschäftigung verlangt habe, erscheine unangemessen. Das Arbeitsverhältnis zwischen den Parteien sei daher als aufgelöst zu betrachten, und zwar auf den 1. Januar 2010. Bis dahin hätten die SBB dem Beschwerdeführer Lohn auszurichten. Zudem hätten sie ihm wegen nichtiger Kündigung in Anwendung von Art. 14 Abs. 5 in Verbindung mit Art. 19 BPG und Art. 79 der Bundespersonalverordnung vom 3. Juli 2001 (BPV) eine Entschädigung in Höhe der von ihm als Minimum verlangten zwei Monatslöhne zu bezahlen.
4. Der Beschwerdeführer bringt zunächst vor, er habe entgegen der im angefochtenen Entscheid vertretenen Auffassung im Verfahren vor dem Bundesverwaltungsgericht auch die Weiterbeschäftigung bei den SBB geltend gemacht.
In der Einsprache/internen Beschwerde und in der vorinstanzlichen Beschwerde wurde die Nichtigerklärung der Kündigung und die Zusprechung einer Entschädigung beantragt. In der Einsprache/internen Beschwerde führte der Beschwerdeführer hiezu aus, nachdem er auf der Feststellung der Nichtigkeit der Kündigung beharre und damit auch Anspruch auf die volle Lohnzahlung habe, erscheine eine Entschädigung von mindestens zwei Monatslöhnen statt der möglichen sechs Monatslöhne angemessen. Aus diesen Vorbringen des Beschwerdeführers geht hervor, dass er auch die Weiterbeschäftigung zu erreichen suchte resp. diese als selbstverständliche Folge der Nichtigerklärung der Kündigung erwartete.
Die SBB hatten gemäss Einsprache-/Beschwerdeeentscheid vom 26. November 2009 den Antrag auf Nichtigerklärung der Kündigung ebenfalls im Sinne eines Begehrens auf Weiterbeschäftigung verstanden. Das geht namentlich daraus hervor, dass sie ausführten, einer allfälligen Beschwerde sei mangels eines nicht wieder gut zu machenden Nachteils die aufschiebende Wirkung entzogen worden; denn bei Obsiegen des Beschwerdeführers vor Gericht wäre der Lohn rückwirkend auszurichten.
Nicht anders sah dies das Bundesverwaltungsgericht, indem es erwog, nach Sinn und Zweck von Art. 14 Abs. 1 und 2 BPG vermöge eine nichtige Kündigung das Arbeitsverhältnis grundsätzlich nicht zu beenden, sondern habe die Weiterbeschäftigung der betroffenen Person zur Folge. Neu und insofern unerwartet hat die Vorinstanz dann aber den Anspruch auf Weiterbeschäftigung befristet. Es ging nicht mehr um die Frage der Nichtigkeit der Kündigung und die daraus folgende Weiterbeschäftigung, sondern um die Frage des nachträglichen Wegfalls des Weiterbeschäftigungsanspruchs nach Antritt einer anderen Stelle. Dass der Beschwerdeführer erstmals vor Bundesgericht den Antrag auf Weiterbeschäftigung als eigenes Rechtsbegehren gestellt hat, stellt unter diesen Umständen denn auch keine Änderung des beim Bundesverwaltungsgericht gestellten Antrags dar, sondern ist die Reaktion auf den vorinstanzlichen Entscheid, der ein von beiden Verfahrensparteien nicht erwartetes und nicht beantragtes Element, nämlich den nachträglichen Wegfall des Weiterbeschäftigungsanspruchs, in das Verfahren eingebracht hat.
Im Lichte dieser Ausführungen kann dem Beschwerdeführer nicht entgegengehalten werden, er habe im vorinstanzlichen Verfahren nicht die Weiterbeschäftigung verlangt.
5. Das Bundesverwaltungsgericht geht davon aus, gestützt auf das Urteil 1C_277/2007 sei im vorliegenden Fall ein Weiterbeschäftigungsanspruch über den 31. Dezember 2009 hinaus zu verneinen. Als entscheidenden Gesichtspunkt sieht es dabei die im Januar 2010 angetretene neue Stelle an.
5.1 Dem Beschwerdeführer ist zuzustimmen, dass die Umstände der ihm gegenüber ausgesprochenen Kündigung nicht derart waren, dass sie - wie im Urteil 1C_277/2007 - eine Ausnahme von der Weiterbeschäftigungspflicht des Arbeitgebers rechtfertigen könnten. Im Urteil 1C_277/2007 wurde die Aufhebung einer als unbegründet erachteten Kündigung für nicht angemessen erachtet, weil die betroffene Person durch ihr Verhalten einen Kündigungsgrund gesetzt hatte und das Verschulden des Arbeitgebers in Anbetracht der Umstände nicht als hoch eingestuft wurde. Dies bewog das Bundesgericht dazu, die Aufhebung der Kündigung als unangemessen zu betrachten und deswegen davon abzusehen. Im vorliegenden Fall soll hingegen nach Auffassung der Vorinstanz der Umstand, dass der Beschwerdeführer im Januar 2010 eine neue Stelle bei einem anderen Arbeitgeber angetreten hat, eine Befristung des grundsätzlich gegebenen Weiterbeschäftigungsanspruchs rechtfertigen. Die Ausgangslage ist mithin eine wesentlich andere als im Urteil 1C_277/2007, da es hier bei der Feststellung der Nichtigkeit der ausgesprochenen Kündigung bliebe und diese lediglich verzögert wirksam würde. Gestützt auf das Urteil 1C_277/2007 lässt sich daher der hier streitige Weiterbeschäftigungsanspruch nicht verneinen.
5.2 Zu prüfen ist, ob der Antritt der neuen Stelle im Januar 2010 dem Weiterbeschäftigungsanspruch überhaupt entgegengehalten werden kann. Dabei steht fest und ist unbestritten, dass dieser Anspruch infolge nichtiger Kündigung grundsätzlich besteht. Umstritten ist, ob er aufgrund der neuen Anstellung zu befristen ist.
Gemäss Bundespersonalrecht besteht bei nichtiger Kündigung ein Anspruch auf Weiterbeschäftigung (Art. 14 Abs. 1 und 2 BPG). Eine Ausnahme von diesem Grundsatz bei Antritt einer anderen Stelle oder eine diesfalls zulässige Befristung des Anspruchs ist nicht vorgesehen. Der Beschwerdeführer verweist auch zu Recht darauf, dass der entlassene Arbeitnehmer zur Wahrung des Anspruchs auf Arbeitslosenentschädigung gehalten ist, sich rasch beim Regionalen Arbeitsvermittlungszentrum zu melden und Arbeitsmöglichkeiten anzunehmen (Art. 8 Abs. 1 lit. f und g, Art. 15-17 AVIG). Würde die Annahme einer anderen Stelle dennoch zur Befristung der Weiterbeschäftigung führen, hätte dies eine vom Gesetzgeber nicht gewollte Schwächung dieses bundespersonalrechtlichen Anspruchs zur Folge. Damit wäre ein entlassener Arbeitnehmer, der durch Suchen und Annahme einer neuen Stelle zur Schadenminderung beiträgt und so auch im Interesse des entlassenden Arbeitgebers handelt, überdies schlechter gestellt als ein Arbeitnehmer, der keine solchen Vorkehrungen trifft. Das kann nicht Sinn und Zweck der bundespersonalrechtlichen Regelung sein. Der Antritt der neuen Stelle vermag daher eine Befristung des Anspruchs auf Weiterbeschäftigung - ob mit oder ohne Zusprechung einer Entschädigung wegen nichtiger Kündigung - nicht zu rechtfertigen.
5.3 Die SBB machen vor Bundesgericht geltend, der Beschwerdeführer habe sich in beruflicher Neuorientierung bei der NOA befunden. Nach Art. 172 des Gesamtarbeitsvertrages SBB setze sich die NOA zum Ziel, dass Betroffene durchschnittlich innert eines Jahres, spätestens innert zwei Jahren, eine (unbefristete oder befristete) Stelle bei den SBB anträten oder eine neue Tätigkeit ausserhalb den SBB aufnähmen. Wäre dem Beschwerdeführer die Stelle bei der X._ AG durch die NOA vermittelt worden, hätte er im Falle einer Kündigung durch den neuen Arbeitgeber keine Rückkehrgarantie gehabt. Dies müsse ebenfalls gelten, wenn der Beschwerdeführer über die regionale Arbeitsvermittlung zur neuen Stelle gelangt sei.
Gemäss Art. 38 Abs. 1 BPG schliessen u.a. die SBB für ihren Bereich mit den Personalverbänden Gesamtarbeitsverträge ab (vgl. auch Art. 15 Abs. 2 des Bundesgesetzes über die Schweizerischen Bundesbahnen, SBBG). Ziff. 171 ff. des Gesamtarbeitsvertrages SBB (in der vom 1. Januar 2007 bis 31. Dezember 2010 gültig gewesenen Fassung; nachfolgend: GAV-SBB) regeln die berufliche Neuorientierung für Mitarbeiterinnen und Mitarbeiter, die ihre Stelle aufgrund von Reorganisations- und Rationalisierungsprojekten verlieren. Nach Lage der Akten ist der Beschwerdeführer aber gar nicht in die berufliche Neuorientierung gemäss Ziff. 171 ff. GAV-SBB eingetreten. Das ergibt sich u.a. aus dem Einsprache-/Beschwerdeentscheid der SBB vom 26. September 2009. Dort wurde ausgeführt, die Organisationseinheit NOA habe einen Übertritt insbesondere aus medizinischen Gründen abgelehnt; die Führungsverantwortung habe weiterhin die Division Personenverkehr innegehabt. Es bestehen im Übrigen auch keine Anhaltspunkte dafür, dass mit dem Beschwerdeführer eine Zumutbarkeitsvereinbarung im Sinne von Ziff. 173 und Anhang 9 Ziff. 7 GAV-SBB abgeschlossen wurde. Die Regelung über die berufliche Neuorientierung kann daher von vornherein keine Anwendung finden. Das gilt auch für Ziff. 174 Abs. 1 GAV-SBB, wonach u.a. die Beendigung des Arbeitsverhältnisses beim Antritt einer unselbstständigen oder selbstständigen Tätigkeit ausserhalb der SBB zur Beendigung der beruflichen Neuorientierung führt. Damit kann offenbleiben, ob andernfalls die GAV-Bestimmungen zur beruflichen Neuorientierung eine Befristung des Weiterbeschäftigungsanspruchs zu stützen vermöchten.
Selbst wenn dies zu bejahen wäre, könnte eine solche GAV-Regelung im Übrigen nicht analog angewendet werden, wenn die neue Stelle durch das Regionale Arbeitsvermittlungszentrum (RAV) vermittelt oder auch von der betroffenen Person selber gefunden worden wäre. Es besteht keine rechtliche Grundlage für einen solchen Analogieschluss.
5.4 Zusammenfassend hat das Bundesverwaltungsgericht den Anspruch auf Weiterbeschäftigung zu Unrecht befristet. Antragsgemäss haben die SBB dem Beschwerdeführer eine zumutbare Arbeit zuzuweisen.
Damit muss nicht auf das Vorbringen des Beschwerdeführers eingegangen werden, das Arbeitsverhältnis bei der X._ AG sei zwischenzeitlich durch von dieser ausgesprochene Kündigung beendet worden.
6. Die Bejahung des (unbefristeten) Weiterbeschäftigungsanspruchs führt dazu, dass der zugesprochenen Entschädigung die Rechtsgrundlage entzogen ist. Der angefochtene Entscheid ist auch diesbezüglich aufzuheben.
7. Der Beschwerdeführer hat weitgehend obsiegt. Dies rechtfertigt, die Gerichtskosten den SBB aufzuerlegen und diese zur Bezahlung einer Parteientschädigung an den Beschwerdeführer zu verpflichten (Art. 66 Abs. 1, Art. 68 Abs. 1 und 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird in dem Sinne gutgeheissen, dass Ziff. 2-4 des Entscheids des Bundesverwaltungsgerichts vom 23. August 2010 und der Einspracheentscheid der Schweizerischen Bundesbahnen vom 26. November 2009 aufgehoben werden, und festgestellt wird, dass das Anstellungsverhältnis des Beschwerdeführers mit den Schweizerischen Bundesbahnen nach dem 31. Dezember 2009 weiter besteht und die Schweizerischen Bundesbahnen verpflichtet werden, dem Beschwerdeführer eine zumutbare Arbeit zuzuweisen.
2. Die Gerichtskosten von Fr. 2'000.- werden den Schweizerischen Bundesbahnen auferlegt.
3. Die Schweizerischen Bundesbahnen haben den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 3'781.- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Bundesverwaltungsgericht schriftlich mitgeteilt.
Luzern, 28. Juni 2011
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Der Gerichtsschreiber: Lanz