Auflösung des Dienstverhältnisses, hat sich ergeben:
A.- A._ trat am 1. Juli 1989 in den Bundesdienst ein und wurde als Angestellter im Probeverhältnis mit einem Beschäftigungsgrad von 100 % im Bundesamt X._ (im Folgenden: Bundesamt) beschäftigt. Auf den 1. Januar 1990 wurde er zum ständigen Angestellten ernannt. Er übt als Adjunkt in der Besoldungsklasse 24 die Funktion des Stellvertreters des Geschäftsstellenleiters des Y._amtes beim Bundesamt aus. Sein Pflichtenheft umfasst neben der Stellvertretungsfunktion insbesondere die Erarbeitung und den Vollzug von Ausführungsbestimmungen für den "Y._Bereich", die Vorbereitung und Durchführung von Übungen, Fachkursen und Seminaren.
Die ersten Leistungsbeurteilungen nahm der damalige Geschäftsstellenleiter B._ vor: Am 8. November 1989 erkannte er A._ das Potential für die ihm gestellten Aufgaben zu. In der folgenden Beurteilung vom 27. August 1990 hielt er fest, dass sich der Bedienstete gut und planmässig einarbeite. In beiden Leistungsbeurteilungen erhielt A._ im Bereich "Korrespondenz und Berichterstattung (schriftlich)" jedoch lediglich die Bewertung "C", was bedeutet, dass er die Anforderungen nur teilweise erfüllte. Die Beurteilung vom 19. Juli 1991 war nahezu identisch mit der vorangegangenen. In seiner letzten Leistungsbeurteilung vom 22. September 1993 bemerkte B._, dass A._ wegen seiner vorhandenen Qualitäten immer mehr Führungsaufgaben übertragen worden seien.
Ausserdem habe sich der Bedienstete intensiv weitergebildet, und sein schriftlicher Ausdruck habe sich verbessert.
Der Nachfolger des pensionierten B._, C._, qualifizierte in der Leistungsbeurteilung vom 21. November 1995 den schriftlichen Ausdruck von A._ als verbesserungsfähig; er bot ihm die Möglichkeit, Sprachkurse zu besuchen. In der nächsten Beurteilung vom 15./30. Dezember 1997 hielt C._ fest, dass A._ das Ziel nach mehr Effizienz nicht erfüllt habe. Erneut bemängelte er den sprachlichen Ausdruck; zudem konstatierte er, dass A._ nicht über die nötige "Motor"-Funktion verfüge, die gegenüber den Vertretern der Wirtschaft im Y._amt nötig wäre; ausserdem sei die Stellvertretungsfunktion zu verstärken und die Zusammenarbeit mit dem Vorgesetzten zu verbessern. A._ akzeptierte diese Leistungsbeurteilung nicht und verlangte eine Überprüfung durch den stellvertretenden Direktor des Bundesamtes, D._, den nächsthöheren Vorgesetzten. Dieser schloss sich am 23. Februar 1998 der Qualifikation durch C._ im Wesentlichen an. In der Leistungsbeurteilung vom 20. April/20.
Mai 1999 wurde festgestellt, dass sich die Situation seit der letzten Beurteilung kaum verändert habe; die Effizienz sei weiterhin nicht genügend; zudem habe der Bedienstete Mühe, konstruktive Kritik anzunehmen. Der stellvertretende Direktor des Bundesamtes hielt am 2. November 1999 im Rahmen der Überprüfung dieser Beurteilung fest, es sei in Bezug auf die Effizienz seit der vorausgegangenen Überprüfung keine nennenswerte Verbesserung zu erkennen.
B.- Das Bundesamt sprach am 26. November 1999 ein erstes Mal die Kündigung gegen A._ aus, hob diese aber nach Einreichung eines Rekurses wiedererwägungsweise auf.
Darauf wurde mit dem Bediensteten vereinbart, dass er während eines Zeitraums von drei Monaten durch seinen Vorgesetzten C._ intensiv betreut und in seiner Arbeit begleitet werde. Von Februar bis Anfang Mai 2000 wurden gemeinsam wöchentliche Arbeitsplanungen und Zielvereinbarungen ausgearbeitet. Nach Ansicht des Vorgesetzten C._ ergaben sich dabei jedoch keine wesentlichen Verbesserungen in der Effizienz der Arbeitsweise von A._.
C.- Mit Verfügung vom 25. Juli 2000 sprach das Bundesamt X._ gegenüber A._ die ordentliche Kündigung gemäss Art. 76 der Angestelltenordnung vom 10. November 1959 (AngO; SR 172. 221.104) unter Einhaltung einer Kündigungsfrist von sechs Monaten aus. Der Bedienstete habe ungenügende Leistungen erbracht, weshalb ein triftiger Grund gegeben sei, der die ausgesprochene Kündigung rechtfertige.
Die Leistungsbeurteilungen hätten ergeben, dass die Leistungen von A._ dem Anforderungsprofil der Tätigkeit weder zeitlich, qualitativ noch quantitativ entsprechen würden.
Insbesondere sei er nicht in der Lage, den Geschäftsstellenleiter des Y._amtes zu vertreten und die ihm übertragenen Geschäfte termingerecht zu erledigen.
Eine von A._ erhobene Beschwerde wies das Eidgenössische Departement Z._ am 6. März 2001 ab.
Nach Durchführung einer Instruktionsverhandlung und Befragung von acht Zeugen bestätigte die Eidgenössische Personalrekurskommission am 8. Oktober 2001 diesen Entscheid.
D.- Mit Verwaltungsgerichtsbeschwerde vom 8. November 2001 ist A._ an das Bundesgericht gelangt. Er beantragt, den Entscheid der Eidgenössischen Personalrekurskommission vom 8. Oktober 2001 aufzuheben, eventuell diesen Entscheid aufzuheben und die Sache "zurückzuweisen zur Durchführung der Massnahmen gemäss der Verordnung vom 18. Oktober 1995 über Personalmassnahmen bei Umstrukturierungen in der allgemeinen Bundesverwaltung (SR 172. 221.104. 0)".
Das Eidgenössische Departement Z._ verweist bloss auf den angefochtenen Entscheid und schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde. Die Eidgenössische Personalrekurskommission hat auf Vernehmlassung verzichtet.
E.- Der Präsident der II. öffentlichrechtlichen Abteilung hat am 12. November 2001 superprovisorisch alle Vollziehungsvorkehrungen untersagt.

Das Bundesgericht zieht in Erwägung:
1.- a) Die Verwaltungsgerichtsbeschwerde ist gemäss Art. 97 OG in Verbindung mit <ref-law> zulässig gegen Verfügungen, die sich auf öffentliches Recht des Bundes stützen oder hätten stützen sollen, sofern diese von den in Art. 98 OG genannten Vorinstanzen erlassen worden sind und keiner der in Art. 99 ff. OG oder in der Spezialgesetzgebung vorgesehenen Ausschlussgründe vorliegt. Der angefochtene Entscheid geht von der Eidgenössischen Personalrekurskommission aus, welche Vorinstanz des Bundesgerichts im Sinne von Art. 98 lit. e OG ist. Er stützt sich auf öffentliches Recht des Bundes, nämlich die Angestelltenordnung.
Ein Ausschlussgrund ist nicht gegeben (vgl. Art. 100 Abs. 1 lit. e OG). Auf die Verwaltungsgerichtsbeschwerde ist demnach einzutreten.
b) Mit der Verwaltungsgerichtsbeschwerde kann die Verletzung von Bundesrecht einschliesslich Überschreitung oder Missbrauch des Ermessens gerügt werden. An die Feststellung des Sachverhalts ist das Bundesgericht gebunden, wenn wie im vorliegenden Fall eine richterliche Behörde als Vorinstanz entschieden hat, sofern der Sachverhalt nicht offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensvorschriften ermittelt worden ist (Art. 105 Abs. 2 OG). Ausgeschlossen ist die Rüge, der angefochtene Entscheid sei unangemessen (Art. 104 lit. c OG).
c) Weder zu dem vom Beschwerdeführer begehrten zweiten Schriftenwechsel noch zu einer mündlichen Parteiverhandlung besteht Anlass (vgl. Art. 110 Abs. 4 und Art. 112 OG).
2.- a) Der Beschwerdeführer rügt, sein Anspruch auf rechtliches Gehör sei im Verfahren der Personalrekurskommission in mehrerer Hinsicht verletzt worden. Der verfassungsrechtliche Gehörsanspruch (<ref-law>) gibt dem Betroffenen das Recht, sich vor Erlass eines in seine Rechtsstellung eingreifenden Entscheides zu äussern, erhebliche Beweise beizubringen, Einsicht in die Akten zu nehmen, mit erheblichen Beweisanträgen gehört zu werden und an der Erhebung wesentlicher Beweise entweder mitzuwirken oder sich zumindest zum Beweisergebnis zu äussern, wenn dieses geeignet ist, den Entscheid zu beeinflussen (<ref-ruling> E. 2b S. 56; <ref-ruling> E. 2 S. 242). Dem Mitwirkungsrecht entspricht die Pflicht der Behörde, die Argumente und Verfahrensanträge der Partei entgegenzunehmen und zu prüfen sowie die ihr rechtzeitig und formrichtig angebotenen Beweismittel abzunehmen, es sei denn, diese beträfen eine nicht erhebliche Tatsache oder seien offensichtlich untauglich, über die streitige Tatsache Beweis zu erbringen (BGE <ref-ruling> E. 2 S. 242, mit Hinweisen), oder der Richter habe seine Überzeugung aufgrund bereits abgenommener Beweise willkürfrei schon bilden können (<ref-ruling> E. 5b S. 285; <ref-ruling> E. 4a S. 469; <ref-ruling> E. 5b/bb S. 505 f.).
b) Der Beschwerdeführer macht zunächst geltend, sein Anwalt habe erst am späteren Nachmittag des Vortages der Instruktionsverhandlung die Dokumente erhalten, welche die Zeugen C._ und D._ (Vorgesetzte des Beschwerdeführers) an der Instruktionsverhandlung vorgelegt hätten. Die Vorbereitungszeit sei zu kurz gewesen.
Diese Rüge ist unbegründet. Wohl kann es den Anspruch auf rechtliches Gehör verletzen, wenn dem Betroffenen nicht ausreichend Zeit für die Vorbereitung zur Verfügung steht. Es geht hier allerdings nur um Dokumente, welche die Vorgesetzten als Beispiele für die ungenügende Arbeit des Beschwerdeführers an der Instruktionsverhandlung auf Anweisung des Präsidenten der Personalrekurskommission vorzulegen hatten. Der Anwalt des Beschwerdeführers erhielt diese Dokumente am Vortag. An der Verhandlung selber hat er zwar zu Protokoll gegeben, dass die ihm zur Verfügung stehende Zeit für die Vorbereitung ungenügend gewesen sei. Einen Antrag auf Aussetzung der Verhandlung hat er aber nicht gestellt.
Im Übrigen lässt sich nicht sagen, dass die neuen Unterlagen besonders umfangreich gewesen wären. Jedenfalls stand dem Anwalt genügend Zeit zur Verfügung, sie mit seinem zur Verhandlung geladenen und erschienenen Klienten vorgängig zu besprechen, und er konnte dazu auch Stellung nehmen.
c) Der Beschwerdeführer erachtet den Gehörsanspruch auch deshalb als verletzt, weil die von ihm an der Verhandlung beantragten Beweise nicht abgenommen worden sind. Es geht dabei darum, dass die Zeugen E._ und F._ über schlechte Arbeiten des Beschwerdeführers berichtet haben, die Beispiele aber an der Verhandlung nicht vorlegen konnten. Nach Meinung des Beschwerdeführers hätten sie verpflichtet werden müssen, entsprechende Dokumente zu den Akten zu geben. Ferner ist der Beschwerdeführer der Meinung, dass die Pflichtenhefte sämtlicher Angestellter des Y._amtes hätten beigezogen werden müssen.
Die Personalrekurskommission hat diese Beweisanträge in antizipierter Würdigung abgewiesen (vgl. angefochtener Entscheid, S. 6 lit. I, sowie S. 13 E. 3e/dd), ohne allerdings explizit die Gründe zu nennen. Bezüglich der Edition der Pflichtenhefte der anderen Angestellten des Y._amtes ist augenscheinlich, dass die Leistungsbeurteilung des Beschwerdeführers davon nicht abhängen kann.
Dem Beschwerdeführer scheint es mit den Pflichtenheften darum zu gehen, eine Umstrukturierung im Bundesamt zu belegen, um hieraus unter Anwendung der Verordnung vom 18. Oktober 1995 über Personalmassnahmen bei Umstrukturierungen in der allgemeinen Bundesverwaltung (SR 172. 221.104. 0) einen Anspruch zu begründen, wonach ihm eine andere Stelle in der Bundesverwaltung anzubieten wäre. Die Personalrekurskommission erachtet diese Verordnung jedoch nicht für anwendbar, wenn die Stelle eines Bediensteten nicht abgebaut, sondern nur das Pflichtenheft angepasst wird und die Gründe der Entlassung in der individuellen Leistung und dem Verhalten des Bediensteten liegen (angefochtener Entscheid, S. 11/12 E. 3e/aa). Trifft diese Rechtsauffassung zu, was noch zu prüfen ist (vgl. unten E. 4), war die Personalrekurskommission mangels Relevanz nicht gehalten, die Ausgestaltung der Pflichtenhefte abzuklären. Was die Beweisanträge betreffend Beizug von Dokumenten bei den Zeugen E._ und F._ betrifft, so durfte davon abgesehen werden, weil die Personalrekurskommission aufgrund der bereits abgenommenen Beweise willkürfrei zur Überzeugung gelangt ist, dass die Leistungen des Beschwerdeführers in einem Masse zu wünschen übrig liessen, das eine Entlassung zu rechtfertigen vermag.
Weitere Beweismassnahmen konnte es daher zulässigerweise für entbehrlich erachten.
3.- a) Gemäss Art. 8 Abs. 2 lit. a AngO kann das Dienstverhältnis nach zehnjähriger Dauer auf das Ende des sechsten der Kündigung folgenden Monats gekündigt werden.
Das öffentliche Dienstrecht des Bundes enthält für die ordentliche Kündigung keine nähere Bestimmungen über die Gründe, aus denen das Angestelltenverhältnis gekündigt werden darf. Die Kündigung durch den staatlichen Arbeitgeber stellt aber eine Verfügung dar, welche im Rahmen des freien (aber pflichtgemässen) Ermessens erfolgt, was bedeutet, dass es eines zureichenden sachlichen Grundes für die Kündigung bedarf. Dabei genügt, dass sich die Kündigung im Rahmen des der Verwaltung zustehenden Ermessens hält und angesichts der Leistungen und des Verhaltens des Bediensteten sowie der personellen und sonstigen betrieblichen Gegebenheiten als vertretbare Massnahme erscheint. Nur sachlich nicht haltbare, willkürliche Kündigungen seitens der Verwaltung sind im verwaltungsgerichtlichen Beschwerdeverfahren aufzuheben (<ref-ruling> E. 2 S. 210; vgl. auch <ref-ruling> E. 4b S. 166 f.; <ref-ruling> E. 3 S. 236 f.).
b) Dem Beschwerdeführer ist gekündigt worden, weil seine Leistungen nach der Auffassung seiner Vorgesetzten zu wünschen übrig liessen. Die Personalrekurskommission hat dies überprüft. Auf Grundlage der Akten, der durchgeführten Verhandlung und der Einvernahme von acht Zeugen ist sie zu dem Ergebnis gelangt, dass die Leistungen des Beschwerdeführers in den letzten Jahren qualitativ und quantitativ nicht (mehr) genügten und ihm darüber hinaus die Zusammenarbeit mit seinem direkten Vorgesetzten wie auch den Milizangehörigen des Bundesamtes Probleme bereitet. Er bekunde auch Mühe mit der Entgegennahme von Kritik und versuche, jeden kritisierten Punkt umzudrehen. Ohne eine enge und pausenlose Führung sei er nicht in der Lage, die von ihm erwarteten Ergebnisse zu erzielen (angefochtenes Urteil, S. 11 E. 3c).
Diese Feststellungen der Personalrekurskommission sind für das Bundesgericht verbindlich, es sei denn, sie wären offensichtlich unrichtig (Art. 105 Abs. 2 OG; oben E. 1b). Das aber ist nicht der Fall. Die Personalrekurskommission konnte von den Leistungsbeurteilungen der Vorgesetzten ausgehen, wie sie in den Akten ausführlich und umfassend dokumentiert sind. Die Beurteilung der Frage, ob ein Beamter ungenügende Leistungen erbringt, ist in erster Linie Sache der unmittelbaren Vorgesetzten, die dessen tägliche Arbeit am zuverlässigsten einschätzen können (vgl. <ref-ruling> E. 4b S. 166; <ref-ruling> E. 2b S. 421). Die Personalrekurskommission ist nach Durchführung umfangreicher Beweismassnahmen zum Schluss gelangt, dass die Leistungsbeurteilungen der Vorgesetzten durch den Beschwerdeführer nicht entkräftet werden konnten. Hierin liegt - entgegen der Meinung des Beschwerdeführers - keine Umkehr der Beweislast, vielmehr nur die Feststellung, dass der von der Verwaltung aufgrund der Beurteilung der Vorgesetzten und der vorgelegten Dokumente erbrachte Hauptbeweis für die ungenügenden Leistungen durch Gegenbeweise des Beschwerdeführers nicht erschüttert worden ist (vgl. <ref-ruling> E. 4b S. 397).
Die Personalrekurskommission hat nicht verkannt, dass einige Angehörige der Milizorganisation (nämlich die Zeugen G._, I._ und H._) sowie der Chef der Sektion Recht im Bundesamt, der Zeuge K._, die Zusammenarbeit mit dem Beschwerdeführer positiv beurteilen (vgl. angefochtener Entscheid, S. 10 E. 3b). Wenn die Personalrekurskommission auf diese Aussagen nicht entscheidend abgestellt hat, so liegt hierin noch nicht eine willkürliche Beweiswürdigung, denn dies wäre erst der Fall, wenn dem Entscheid Feststellungen zugrunde gelegt würden, die mit den Akten in klarem Widerspruch stehen (<ref-ruling> E. 1b S. 30, mit Hinweisen). Davon lässt sich aber um so weniger sprechen, als auch der Zeuge K._, der die Entlassung als unangemessen erachtet, dennoch festhält, dass der Beschwerdeführer beim Eintritt in das Amt vom ehemaligen Sektionschef überschätzt wurde und dass es "einen Mann mit Führungspersönlichkeit" brauchen würde. Damit aber wird indirekt bestätigt, dass die Führungsfunktion als Stellvertreter des Geschäftsstellenleiters den Beschwerdeführer überfordert, eine Einschätzung, die sich mit der in der Personalbeurteilung bemängelten ungenügenden "Motor"-Funktion (vgl. Sachverhalt lit. A) deckt.
c) Sind die tatsächlichen Feststellungen der Personalrekurskommission nicht offensichtlich unrichtig und somit für das Bundesgericht verbindlich, so ist die Entlassung rechtlich nicht zu beanstanden. Die ungenügenden Leistungen des Beschwerdeführers sind ein triftiger Grund, der die Entlassung gestützt auf Art. 8 Abs. 2 lit. a AngO unter Einhaltung der sechsmonatigen Kündigungsfrist zu rechtfertigen vermag.
4.- Der Beschwerdeführer ist der Meinung, es hätte ihm unter Anwendung der Verordnung vom 18. Oktober 1995 über Personalmassnahmen bei Umstrukturierungen in der allgemeinen Bundesverwaltung (SR 172. 221.104. 0) eine andere Stelle angeboten werden müssen. Nach Art. 1 Abs. 2 dieser Verordnung gilt als Umstrukturierung jegliche Reorganisation einer Verwaltungseinheit oder eines Tätigkeitsgebietes, durch die Aufgaben abgebaut oder Stellen aufgehoben werden.
Die Stelle des Beschwerdeführers ist indessen nicht abgebaut worden. Sie wird vielmehr beibehalten. Dass zuvor ein anderer Mitarbeiter pensioniert und dessen Stelle nicht wieder besetzt wurde, führte zwar zu einer teilweisen Erweiterung des Pflichtenhefts des Beschwerdeführers. Der Beschwerdeführer wurde jedoch nicht wegen Umstrukturierung entlassen, sondern wegen ungenügender Leistungen, so dass die fragliche Verordnung nicht anzuwenden war. Damit brauchte den entsprechenden Beweisanträgen des Beschwerdeführers (vgl. oben E. 2c) auch nicht mehr nachgegangen zu werden.
5.- Die Verwaltungsgerichtsbeschwerde erweist sich damit als unbegründet. Sie ist abzuweisen. Das vom Beschwerdeführer gestellte Gesuch um aufschiebende Wirkung wird mit dem Entscheid in der Sache selbst gegenstandslos.
Dem Verfahrensausgang entsprechend hat der Beschwerdeführer die bundesgerichtlichen Kosten zu tragen (Art. 156 Abs. 1 in Verbindung mit Art. 153 und 153a OG; <ref-ruling> E. 6 S. 208). Eine Parteientschädigung ist nicht geschuldet (Art. 159 Abs. 2 OG).

Demnach erkennt das Bundesgericht:
1.- Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
2.- Die Gerichtsgebühr von Fr. 3'000.-- wird dem Beschwerdeführer auferlegt.
3.- Dieses Urteil wird dem Beschwerdeführer und dem Eidgenössischen Departement Z._ sowie der Eidgenössischen Personalrekurskommission schriftlich mitgeteilt.
_
Lausanne, 12. Dezember 2001
Im Namen der II. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: