zieht in Erwägung:
_
1.- Im Beschwerdeverfahren gemäss <ref-law> sind neue Begehren, Tatsachen, Bestreitungen und Beweismittel unzulässig, wenn im kantonalen Verfahren Gelegenheit zum Vorbringen bestand (Art. 79 Abs. 1 OG). Der Beschwerdeführer hat vor der unteren Aufsichtsbehörde verlangt, es sei die Nichtigkeit der Kostenverfügung vom 17. August 2000 festzustellen; eventuell sei die Verfügung aufzuheben bzw. zu korrigieren.
Vor der oberen Aufsichtsbehörde hielt er an diesen Anträgen insoweit fest, als diesen im Entscheid der Vorinstanz nicht entsprochen wurde. Wenn der Beschwerdeführer im vorliegenden Beschwerdeverfahren beantragt, das Konkursamt sei zur Zahlung von Fr. 13'301. 30 nebst Zins zu verpflichten, stellt dies eine Erhöhung des Begehrens dar. Soweit der Beschwerdeführer mehr als die im vorinstanzlichen Verfahren anbegehrte Aufhebung der Kostenpflicht verlangt, ist sein Begehren neu und daher unzulässig (Poudret/Sandoz-Monod, Commentaire de la LOJ, N. 1.3.1 zu Art. 79).
2.- a) Der Beschwerdeführer macht zunächst im Wesentlichen geltend, dem Beschwerdeführer als Ersteigerer könnten lediglich diejenigen Kosten belastet werden, welche in Art. 49 Abs. 1 lit. a und b VZG vorgesehen seien, also insbesondere die Grundbuchkosten, nicht aber andere Verwertungs- und Verteilungskosten. Die Steigerungsbedingungen würden in Ziff. 8a, wonach die Verwertungs- und Verteilungskosten vom Ersteigerer ohne Abrechnung am Zuschlagspreis zu tragen seien, im Widerspruch zu <ref-law> sowie <ref-law> stehen. Soweit der Beschwerdeführer geltend macht, die angefochtene Kostenverfügung des Konkursamtes stütze sich auf rechtswidrige Steigerungsbedingungen, können die Vorbringen nicht gehört werden: Durch das Mitbieten an der Versteigerung hat der Beschwerdeführer als Ersteigerer die zu Beginn verlesenen Steigerungsbedingungen stillschweigend anerkannt, so dass ihm nicht erlaubt ist, diese nach dem Zuschlag in Frage zu stellen (<ref-ruling> E. 3 S. 409; <ref-ruling> E. 2b S. 27); er kann nach erfolgtem Zuschlag an ihn die Steigerungsbedingungen auch nicht mit dem Hinweis anfechten, ihm seien andere als die in Art. 49 Abs. 1 lit. a und b VZG genannten Lasten überbunden worden (60 III 31 E. 2 S. 34; Gilliéron, Commentaire de la LP, N. 22 zu Art. 134, m.H.; Häusermann/Stöckli/Feuz, in: Kommentar zum SchKG, N. 11 u. 14 zu Art. 134, m.H.).
b) Vor der oberen Aufsichtsbehörde hat der Beschwerdeführer u.a. Einwendungen gegen einzelne Positionen der Kostenrechnung des Konkursamtes erhoben. Er bringt im vorliegenden Verfahren vor, dass sämtliche Ausgabenposten, abgesehen von denjenigen, die mit der Grundbuchanmeldung bzw. Eigentumsübertragung zu tun hätten, nicht zu seinen Lasten gehen dürften. Soweit der Beschwerdeführer erstmals Positionen der Kostenrechnung in Frage stellt, auf die er im kantonalen Verfahren nicht hingewiesen hat, handelt es sich indessen um neue Bestreitungen, welche im Beschwerdeverfahren gemäss <ref-law> unzulässig sind (Art. 79 Abs. 1 OG; <ref-ruling> E. 3 S. 14 f.; Poudret/Sandoz-Monod, a.a.O., N. 1.3.2 zu Art. 79).
c) Der Beschwerdeführer kritisiert, die obere Aufsichtsbehörde hätte ihn informieren sollen, ob ein Disziplinarverfahren gegen das Konkursamt eingeleitet worden sei. Da er diesbezüglich in keiner Weise darlegt, inwiefern die obere Aufsichtsbehörde Bundesrecht verletzt habe, kann er mit seinem Vorbringen nicht gehört werden (Art. 79 Abs. 1 OG); im Übrigen hält er selber zu Recht fest, dass die Betreibungs- und Konkursbeamten nicht der Disziplinargewalt des Bundes unterstehen (vgl. Amonn/Gasser, Grundriss des Schuldbetreibungs- und Konkursrechts, 6. Aufl. 1997, § 5 Rz. 3).
d) Die obere Aufsichtsbehörde hat festgehalten, der Beschwerdeführer habe bereits vor der unteren Aufsichtsbehörde eine Rechtsverweigerung bzw. -verzögerung durch das Konkursamt gerügt. Da die Erstinstanz die Beschwerde in diesem Punkt als gegenstandslos bezeichnet habe, weil dem Beschwerdeführer die detaillierte Kostenverfügung sowie eine anfechtbare Verfügung zugestellt worden seien, könne auf die blossen Wiederholungen seiner Einwände nicht eingetreten werden. Der Beschwerdeführer macht geltend, die untere Aufsichtsbehörde sei zu Unrecht auf seine Argumente nicht eingegangen, weshalb er sie habe wiederholen müssen; dies sei von der oberen Aufsichtsbehörde scheinbar nicht verstanden worden. Diese Vorbringen sind unbehelflich. Zum einen kann die sinngemäss vorgebrachte Rüge einer Verletzung des Anspruchs auf rechtliches Gehör (<ref-law>) im Beschwerdeverfahren gemäss <ref-law> nicht gehört werden (Art. 43 Abs. 1 i.V.m. Art. 81 OG; <ref-ruling> E. 1 S. 35). Zum anderen legt der Beschwerdeführer in keiner Weise dar (Art. 79 Abs. 1 OG), inwiefern die obere Aufsichtsbehörde die bundesrechtlichen Anforderungen an den Inhalt seiner Beschwerdeschrift (vgl. Gilliéron, a.a.O., N. 234 zu Art. 17) unrichtig angewendet habe, wenn sie auf seine erneuerten Vorbringen betreffend Rechtsverweigerung bzw. -verzögerung nicht eingetreten ist.
3.- Welche Gebühren und Auslagen im Einzelfall zu belasten sind und wie sie zu bemessen sind, bestimmt ausschliesslich der SchKG-Tarif (<ref-law>; Gebührenverordnung zum SchKG vom 23. September 1996 [GebVSchKG; SR 281. 35]).
Die Aufsichtsbehörden haben die Einhaltung des Tarifs zu überwachen (Art. 2 GebVSchKG). Reine Bemessungsfragen können nicht mit Beschwerde gemäss <ref-law> überprüft werden; das Bundesgericht greift nur ein, wenn die Vorinstanz ihr Ermessen überschritten (oder missbraucht) hat, namentlich wenn sie sachwidrige Gesichtspunkte berücksichtigt oder sachgemässe unberücksichtigt gelassen hat (<ref-law>; <ref-ruling> E. 2 S. 100).
a) Die obere Aufsichtsbehörde hat festgehalten, dass zwei Verrichtungen des Konkursamtes (Telefonat vom 5. März 1999 und Akteneinsicht vom 10. März 1999) länger als eine halbe Stunde gedauert hätten, weil nur diesbezüglich in der Kostenrechnung der Zusatz "30" erscheine; eine andere Erklärung sei unwahrscheinlich, ansonsten der Zeitaufwand bei jeder Verrichtung erschienen wäre. Das Konkursamt habe insofern zu Recht eine Gebührenerhöhung gemäss Art. 12 Abs. 2 GebVSchKG vorgenommen. Der Beschwerdeführer macht selber keine Verletzung der GebVSchKG geltend, sondern rügt die Interpretation der oberen Aufsichtsbehörde, dass die beiden Verrichtungen länger als 30 Minuten gedauert hätten. Dass die beiden Verrichtungen länger als 30 Minuten dauerten, stellt indessen einen Schluss dar, den die obere Aufsichtsbehörde in tatsächlicher Hinsicht gezogen hat und der für die erkennende Kammer verbindlich ist (Art. 63 Abs. 2 i.V.m. Art. 81 OG). Der Vorwurf des Beschwerdeführers, die obere Aufsichtsbehörde habe diesbezüglich die Kostenrechnung falsch interpretiert, kann im Beschwerdeverfahren gemäss <ref-law> nicht gehört werden, denn sie stellt Kritik an der Beweiswürdigung dar, für welche die staatsrechtliche Beschwerde wegen Verletzung von <ref-law> vorbehalten bleibt (Art. 43 Abs. 1 i.V.m. Art. 81 OG; <ref-ruling> E. 3a S. 116; <ref-ruling> E. 3 S. 32).
b) Die obere Aufsichtsbehörde hat unter Hinweis auf die Erwägung Ziff. 7.6. des erstinstanzlichen Entscheides erklärt, das Konkursamt habe unter der Kostenposition "Überbringung des Checks und Wegentschädigung" für den Weg (18 km) zur Bank X._ eine Wegentschädigung von Fr. 36.-- (Art. 14 GebVSchKG; Fr. 2.--/km) und für das Überbringen und Einlösen des Checks des Beschwerdeführers als einer nicht tarifierten Verrichtung Fr. 50.-- in Rechnung stellen dürfen (Art. 1 Abs. 2 GebVSchKG; max. Fr. 150.--).
aa) Der Beschwerdeführer macht geltend, dass vorliegend im "Überbringen" des Checks, der Bedeutung des Wortes entsprechend, in erster Linie die Dislokation des Überbringers abgegolten werde. Dieser Einwand geht fehl. Der Beschwerdeführer verkennt, dass in der Gebühr die Entschädigung für Auslagen nicht enthalten ist: Die Gebühr stellt einzig das Entgelt für die Inanspruchnahme amtlicher Tätigkeit dar, und die Entschädigung ist als Vergütung für die Auslagen, die mit der Amtshandlung verbunden sind, geschuldet (Fritzsche/ Walder, Schuldbetreibung und Konkurs nach schweizerischem Recht, Bd. I, 3. Aufl. 1984, § 15 Rz. 4). Wenn die obere Aufsichtsbehörde zur Auffassung gelangt ist, die Wegentschädigung gemäss Art. 14 GebVSchKG sei zusätzlich zur Gebühr für das "Überbringen und Einlösen des Checks" des Beschwerdeführers bei der Bank geschuldet, ist in keiner Weise ersichtlich, inwiefern die obere Aufsichtsbehörde einen doppelten Bezug von in der GebVSchKG vorgesehenen Gebühren und Auslagen geschützt habe.
bb) Was den vom Konkursamt für ca. 2 Monate bei der Bank X._ deponierten Betrag des Beschwerdeführers von 1 Mio. betrifft, so hat die obere Aufsichtsbehörde festgehalten, dass aufgrund der Akten nicht ersichtlich sei, inwiefern der Zinsertrag zehnmal mehr als Fr. 244. 35 betragen soll.
Dass die obere Aufsichtsbehörde eine bestimmte Aktenstelle unrichtig (d.h. nicht in ihrer wahren Gestalt, insbesondere nicht mit ihrem wirklichen Wortlaut) wahrgenommen habe, behauptet der Beschwerdeführer selber nicht; im Übrigen deutet nichts auf ein offensichtliches Versehen der oberen Aufsichtsbehörde hin (vgl. Art. 63 Abs. 2 i.V.m. Art. 81 OG; <ref-ruling> E. 2b S. 162; <ref-ruling> E. 3b S. 74). Sodann legt der Beschwerdeführer in keiner Weise dar (Art. 79 Abs. 1 OG), inwiefern die obere Aufsichtsbehörde in diesem Zusammenhang den rechtlich relevanten Sachverhalt (<ref-law>) nicht festgestellt oder in anderer Weise gegen Bundesrecht verstossen habe.
c) Die für die Erstellung der Kostenrechnung erhobene Gebühr von Fr. 16.-- hat die obere Aufsichtsbehörde in Anwendung von Art. 9 Abs. 1 lit. a GebVSchKG bestätigt. Unbehelflich ist, wenn der Beschwerdeführer vorbringt, er habe für die angeblich fehlerhafte Kostenrechnung keine Gebühren zu bezahlen, denn die Überprüfung der Kostenrechnung ist Gegenstand der vorliegenden Beschwerde. Einzig für die Erstellung einer zu berichtigenden Kostenrechnung könnte nicht erneut Gebühr erhoben werden.
d) Der Beschwerdeführer rügt in mehrfacher Hin- sicht, es seien für bestimmte, nicht tarifierte Verrichtungen Fr. 150.-- überschreitende Gebühren erhoben worden, ohne dass indessen die untere Aufsichtsbehörde diese Gebühren im Voraus festgesetzt habe; insoweit sei Art. 1 Abs. 2 GebVSchKG verletzt worden. Die untere Aufsichtsbehörde habe sich mit den betreffenden ausserordentliche Gebühren erst im Beschwerdeverfahren befasst.
aa) Gemäss Art. 1 Abs. 2 GebVSchKG kann die Aufsichtsbehörde für nicht tarifierte Verrichtungen Gebühren festsetzen, die höher als Fr. 150.-- sind, wenn die Schwierigkeit der Sache, der Umfang der Bemühungen oder der Zeitaufwand es rechtfertigt; in diesen Fällen hat der Beamte bei der Aufsichtsbehörde Antrag auf Festsetzung einer ausserordentlichen Gebühr zu stellen und ihr zu diesem Zweck die Akten einzusenden (vgl. Art. 11 Abs. 2 GebTSchKG vom 7. Juli 1971; <ref-ruling> E. 4b S. 46; Straessle/Krauskopf, Erläuterungen zum Gebührentarif zum SchKG vom 7. Juli 1971, Burgdorf 1972, S. 19; Joos, Handbuch für die Betreibungsbeamten der Schweiz, Wädenswil 1964, S. 73).
bb) Die obere Aufsichtsbehörde hat festgehalten, dass die Erstinstanz den in der Kostenrechnung für die Archivierung, Lagerung und Entsorgung in Rechnung gestellten Betrag von Fr. 200.-- und andere ausserordentliche Gebühren für nicht tarifierte Verrichtungen nicht beanstandet, sondern vielmehr als korrekt erachtet habe und sich der Beschwerdeführer mit den erstinstanzlichen Erwägungen nicht auseinander gesetzt habe. Aus dieser Erwägung ist zu schliessen, dass die untere Aufsichtsbehörde nicht vorgängig auf Antrag hin, sondern das Konkursamt - entgegen Art. 1 Abs. 2 GebVSchKG - selbst in der angefochtenen Kostenrechnung die betreffende Gebühren festgesetzt hat; andernfalls hätte die untere Aufsichtsbehörde keinen Anlass gehabt, die betreffenden Gebühren im vorliegenden Verfahren zu prüfen. Da der Beschwerdeführer in diesem Zusammenhang nichts anderes als die Anordnung der Überprüfung und Festsetzung ausserordentlicher Gebühren für nicht tarifierte Verrichtungen durch die Aufsichtsbehörde anstreben kann, fehlt der Beschwerde ein praktischer Verfahrenszweck (<ref-law>; Gilliéron, a.a.O., N. 156 zu Art. 17):
Aus dem angefochtenen Entscheid geht hervor, dass die untere Aufsichtsbehörde die erwähnten ausserordentlichen Gebühren betreffend Berechtigung und Höhe bereits geprüft und gebilligt hat, und der Beschwerdeführer behauptet selber nicht, die Kostenrechnung enthalte ausserordentliche Gebühren für nicht tarifierte Verrichtungen, die von der Aufsichtsbehörde nicht geprüft worden seien. Auf die Vorbringen des Beschwerdeführers kann daher nicht eingetreten werden, zumal er die überprüften und gebilligten Gebühren als solche nicht in Frage stellt.
e) Schliesslich macht der Beschwerdeführer geltend, die obere Aufsichtsbehörde habe Art. 28 GebVSchKG verletzt, weil die darauf gestützte Gebühr für die Schätzung als solche, und nicht für die blosse Erteilung des Schätzungsauftrages oder das Studium der von einem Dritten erstellten und separat zu bezahlenden Gutachten erhoben werden könne. Diese Vorbringen sind unbehelflich. Aus Art. 28 GebVSchKG geht eindeutig hervor, dass für die Schätzung von Pfändern eine Gebühr zu erheben ist; diese stellt das für die veranlasste Amtshandlung (Schätzung von Pfändern) geschuldete Entgelt dar (vgl. E. 3b/aa). Die Honorare von Sachverständigen sind hingegen als allgemeine Auslagen gestützt auf Art. 13 GebVSchKG zu ersetzen. Vor diesem Hintergrund ist in keiner Weise zu beanstanden, wenn die obere Aufsichtsbehörde unter Verweis auf die Erwägung der Vorinstanz festgehalten hat, die Gebühr von Art. 28 GebVSchKG sei nebst den Auslagen für die Gutachten geschuldet. Im Übrigen behauptet der Beschwerdeführer selber nicht, dass die in Rechnung gestellte Gebühr von Fr. 400.-- nicht der in Art. 20 GebVSchKG vorgesehenen Abstufung entspreche.
f) Die Beschwerde erweist sich somit insgesamt als unbegründet; sie ist abzuweisen, soweit darauf eingetreten werden kann.
4.- Das Beschwerdeverfahren ist grundsätzlich kostenlos (<ref-law>), und es darf keine Parteientschädigung zugesprochen werden (Art. 62 Abs. 2 GebVSchKG).

Demnach erkennt
die Schuldbetreibungs- und Konkurskammer:
_
1.- Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.- Dieses Urteil wird dem Beschwerdeführer, dem Konkursamt Z._ und dem Obergericht des Kantons Luzern (Schuldbetreibungs- und Konkurskommission) als oberer kantonaler Aufsichtsbehörde über Schuldbetreibung und Konkurs schriftlich mitgeteilt.
_
Lausanne, 15. Juni 2001
Im Namen der Schuldbetreibungs- und Konkurskammer
des SCHWEIZERISCHEN BUNDESGERICHTS
Die Präsidentin:
Der Gerichtsschreiber: