Sachverhalt:
A. Die X._ Sarl (vormals mit Sitz in Zug) war bis zum 30. Juni 2005 im Register der Mehrwertsteuerpflichtigen eingetragen. Die Eidgenössische Steuerverwaltung verlangte für die Abrechnungsperioden 2. bis 4. Quartal 2004 von der Gesellschaft Mehrwertsteuern im Betrag von Fr. 294'000.-- und setzte diese in Betreibung (Ergänzungsabrechnung vom 11. März 2005; Zahlungsbefehl des Betreibungsamtes Zug vom 28. April 2005). Mit Entscheid vom 31. Oktober 2005 hob die Eidgenössische Steuerverwaltung den Rechtsvorschlag der Schuldnerin auf und bestätigte die Steuerforderung. Dagegen erhob die X._ Sarl in Liquidation am 30. November 2005 Einsprache.
Am 18. August 2006 wurde über die X._ Sarl in Liquidation der Konkurs eröffnet und das Konkursamt Zug mit dem Vollzug beauftragt.
Am 23. Oktober 2006 wies die Eidgenössische Steuerverwaltung die Einsprache vom 30. November 2005 ab und bestätigte die für den Zeitraum vom 1. April 2004 bis zum 31. Dezember 2004 geschuldeten Mehrwertsteuern.
B. Das Konkursamt Zug in Vertretung der X._ Sarl in Liquidation erhob am 2. November 2006 Beschwerde bei der Eidgenössischen Steuerrekurskommission. Es beantragte, der Einspracheentscheid vom 23. Oktober 2006 sei aufzuheben und das Beschwerdeverfahren sei gestützt auf Art. 207 SchKG einzustellen, "bis die Gläubiger im Rahmen des Zirkulars zum Beschwerdeverfahren Stellung nehmen und sich das Verfahren allfällig abtreten lassen können". Innert angesetzter Frist reichte das Konkursamt am 23. November 2006 eine verbesserte Beschwerde ein. Die Eidgenössische Steuerverwaltung beantragte in ihrer Vernehmlassung (vom 30. Januar 2007) unter anderem, das Verfahren sei "infolge Konkurseröffnung der Beschwerdeführerin zu sistieren".
In der Folge verfügte das (am 1. Januar 2007 an die Stelle der Eidgenössischen Steuerrekurskommission getretene) Bundesverwaltungsgericht am 8. Februar 2007, dass die Beschwerdeführerin in Anwendung von Art. 63 Abs. 4 VwVG bis zum 1. März 2007 einen Kostenvorschuss von Fr. 1'500.-- zu bezahlen habe; die Frist wurde dann antragsgemäss bis zum 12. März 2007 erstreckt (Verfügung vom 5. März 2007).
C. Das Konkursamt Zug hat am 9. März 2007 Beschwerde beim Schweizerischen Bundesgericht in Lausanne eingereicht. Es beantragt unter anderem, die Zwischenverfügung des Bundesverwaltungsgerichts vom 8. Februar 2007 sei aufzuheben. Ferner sei das Beschwerdeverfahren in der Hauptsache in Anwendung von Art. 207 SchKG einzustellen, bis die Gläubiger im Rahmen des Konkursverfahrens dazu Stellung genommen und über eine allfällige Abtretung des Verfahrens entschieden hätten; bis dahin sei auf die Erhebung eines Kostenvorschusses zu verzichten. Eventualiter sei eine neue Frist zur Leistung des Kostenvorschusses anzusetzen und das Bundesverwaltungsgericht anzuweisen, vor einer allfälligen Sistierung des Verfahrens einen Kostenentscheid zu erlassen; subeventualiter sei eine neue Frist zur Leistung eines Kostenvorschusses anzusetzen. Gerügt wird eine Verletzung von Bundesrecht (Art. 95 lit. a BGG).
Das Bundesverwaltungsgericht und die Eidgenössische Steuerverwaltung haben auf eine Vernehmlassung verzichtet.
D. Das Konkursamt Zug hat dem Bundesgericht am 29. März 2007 unaufgefordert einen Entscheid des Bundesverwaltungsgerichts in einem andern Verfahren "mit analoger Ausgangslage" zugestellt.

Das Bundesgericht zieht in Erwägung:
1. Auf den 1. Januar 2007 ist das Bundesgesetz vom 17. Juni 2005 über das Bundesgericht in Kraft getreten (Bundesgerichtsgesetz, BGG; SR 173.110). Der angefochtene Entscheid ist nach diesem Datum ergangen, nämlich am 8. Februar / 5. März 2007; die Beschwerde des Konkursamtes wurde am 9. März 2007 eingereicht. Auf das vorliegende Verfahren sind deshalb die Bestimmungen des BGG anwendbar (Art. 132 Abs. 1 BGG).
2. Das Bundesgericht prüft seine Zuständigkeit und die Zulässigkeit eines Rechtsmittels von Amtes wegen und mit freier Kognition (Art. 29 Abs. 1 BGG; <ref-ruling> E. 2 S. 188, mit Hinweisen).
2.1 Angefochten ist eine Kostenvorschuss-Verfügung des Bundesverwaltungsgerichts in einem Mehrwertsteuerstreit, somit ein Entscheid in einer Angelegenheit des öffentlichen Rechts. Bei dem vom Konkursamt Zug eingelegten Rechtsmittel handelt es sich also um eine Beschwerde in öffentlich-rechtlichen Angelegenheiten im Sinn der Art. 82 ff. BGG.
2.2 Die angefochtene Kostenvorschuss-Verfügung ist ein selbständig eröffneter Zwischenentscheid im Sinn des Art. 93 BGG. Gegen einen solchen Entscheid ist die Beschwerde nur unter eingeschränkten Voraussetzungen zulässig, nämlich, wenn der Entscheid einen nicht wieder gutzumachenden Nachteil bewirken kann oder wenn die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (Art. 93 Abs. 1 BGG).
Vorliegend enthält die angefochtene Verfügung die Androhung, dass auf die Beschwerde nicht eingetreten werde, falls der Kostenvorschuss nicht fristgerecht bezahlt werden sollte. Damit kann der Zwischenentscheid für die Beschwerdeführerin einen nicht wieder gutzumachenden Nachteil zur Folge haben; die Beschwerde ist insofern zulässig.
2.3 Die übrigen Voraussetzungen sind ebenfalls erfüllt: Ausschlussgründe gemäss Art. 83 BGG liegen keine vor. Die Rechtsschrift genügt den gesetzlichen Anforderungen (vgl. Art. 42 BGG) und wurde rechtzeitig eingereicht (vgl. Art. 100 BGG). Die Beschwerdelegitimation im Sinn von Art. 89 BGG ist gegeben. Auf die Beschwerde ist einzutreten.
2.4 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann unter anderem geltend gemacht werden, der angefochtene Entscheid verletze Bundesrecht (einschliesslich Bundesverfassungsrecht), Völkerrecht sowie kantonale verfassungsmässige Rechte (Art. 95 BGG). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinn von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG).
3. Vorliegend ist einzig die von der Vorinstanz verfügte Bezahlung des Kostenvorschusses von Fr. 1'500.-- für ein hängiges Beschwerdeverfahren in einer Mehrwertsteuersache strittig.
3.1 Das Bundesverwaltungsgericht hat den umstrittenen Kostenvorschuss in Anwendung von Art. 63 Abs. 4 VwVG (SR 172.021) verfügt. Nach dieser Bestimmung erhebt die Beschwerdeinstanz von der Beschwerdeführerin einen Kostenvorschuss in der Höhe der mutmasslichen Verfahrenskosten; wenn besondere Gründe vorliegen, kann auf die Erhebung des Vorschusses ganz oder teilweise verzichtet werden.
Die im Gesetz erwähnten "besonderen Gründe" müssen im Zusammenhang mit der Leistung des Kostenvorschusses stehen und von der Beschwerdeführerin dargetan werden; allfällige Besonderheiten des Rechtsstreits oder des diesem zugrunde liegenden Sachverhalts sind dagegen nicht massgebend. Keinen "besonderen Grund" im Sinn von Art. 63 Abs. 4 VwVG stellt nach der Rechtsprechung die Prozessarmut von natürlichen oder die Zahlungsunfähigkeit von juristischen Personen dar. Ein Verzicht auf den Kostenvorschuss wird unter Umständen dann als angezeigt erachtet, wenn die Beschwerdeführerin aus irgendeinem Grund die Verfahrenskosten selbst dann nicht zu tragen hätte, wenn sie unterliegen sollte, oder wenn es an der erforderlichen Liquidität fehlt (vgl. Urteil 2A.488/2006 vom 1. September 2006, E. 3.1, mit Hinweisen; vgl. zum Anspruch von juristischen Personen auf unentgeltliche Prozessführung eingehend <ref-ruling> E. 5.2 S. 326 f., mit Hinweisen; vgl. auch unten E.4.2).
3.2 Das beschwerdeführende Konkursamt Zug bestreitet die Zulässigkeit der Kostenvorschusserhebung nicht grundsätzlich; es beantragt vielmehr, auf einen Kostenvorschuss sei aufgrund der besonderen Umstände des Falles einstweilen zu verzichten. Ein einstweiliger Verzicht auf den Kostenvorschuss ist aber weder im Gesetz vorgesehen, noch erscheint er vorliegend aufgrund der geltend gemachten speziellen Umstände als angezeigt. Das Konkursamt nennt als besondere Gründe ausschliesslich solche, die sich auf das (Haupt-)Verfahren beziehen: es habe kein Sistierungsbegehren gestellt werden können; zur Wahrung der Gläubigerinteressen habe ein Rechtsmittel ergriffen werden müssen, das allerdings nur summarisch habe begründet werden können. Solche Gründe, die nicht im Zusammenhang mit der Leistung des Kostenvorschusses als solchem stehen, vermögen nach der dargestellten Rechtsprechung einen Verzicht auf einen Kostenvorschuss nicht zu rechtfertigen.
4. Das beschwerdeführende Konkursamt rügt im Weiteren eine "de facto"-Verletzung der Rechtsweggarantie von Art. 29a BV.
4.1 Soweit das Konkursamt die behauptete Bundesrechtsverletzung darin erblickt und damit begründet, dass die Eidgenössische Steuerverwaltung das Einspracheverfahren in Anwendung von Art. 207 SchKG hätte einstellen müssen, argumentiert es an der Streitfrage vorbei: Zu prüfen ist hier nicht, ob die Eidgenössische Steuerverwaltung in konstanter Praxis ihr Ermessen im Zusammenhang mit der Konkurseinstellung wahrnimmt oder nicht, sondern es ist lediglich zu klären, ob ein besonderer Grund für die Nichterhebung des Kostenvorschusses durch das Bundesverwaltungsgericht gegeben ist. Ein Zusammenhang zwischen der Nichteinstellung des Verfahrens im Sinn von Art. 207 SchKG und dem umstrittenen Kostenvorschuss ist weder ersichtlich noch dargetan. Im Übrigen wäre die angeblich bundesrechtswidrige Praxis nachzuweisen und nicht bloss zu behaupten. Zudem ist darauf hinzuweisen, dass Art. 207 SchKG mit Bezug auf die Einstellung von Verwaltungsverfahren eine blosse "Kann-Vorschrift" ist (vgl. Abs. 2); dies im Gegensatz zur Einstellung von Zivilprozessen (vgl. Abs. 1).
4.2 Art. 29a BV gewährleistet im Sinn einer Institutsgarantie den Anspruch auf Beurteilung von Rechtsstreitigkeiten durch eine richterliche Behörde (Rechtsweggarantie). Sie ist von dem in Art. 29 Abs. 3 BV umschriebenen Anspruch auf unentgeltliche Rechtspflege abzugrenzen. Eine selbständige Bedeutung käme Art. 29a BV im vorliegenden Zusammenhang nur dann zu, wenn der Kostenvorschuss derart hoch angesetzt wäre, dass der faktische Zugang zum Gericht übermässig erschwert würde.
Juristische Personen können grundsätzlich weder die unentgeltliche Prozessführung noch eine Verbeiständung beanspruchen. Ausnahmsweise kann ihnen ein Anspruch auf unentgeltliche Rechtspflege zustehen, wenn ihr einziges Aktivum im Streit liegt und ausser der juristischen Person auch die wirtschaftlich Beteiligten mittellos sind; dazu zählen neben den Gesellschaftern auch die Organe der juristischen Person und gegebenenfalls interessierte Gläubiger (<ref-ruling> E. 5.2.2 S. 327, mit Hinweisen).
4.3 Vorliegend macht das beschwerdeführende Konkursamt zu Recht nicht geltend, dass die umschriebenen Voraussetzungen für die Gewährung der unentgeltlichen Rechtspflege erfüllt seien, noch behauptet es, dass ihm wegen des verlangten Kostenvorschusses der Zugang zum Gericht übermässig erschwert werde. Die Rüge, dass durch die Erhebung eines Kostenvorschusses die Rechtsweggarantie verletzt werde, erweist sich somit als nicht stichhaltig. In der Beschwerde wird denn auch kein Grund genannt, weshalb der - im Hinblick auf den nicht unbedeutenden Streitwert von Fr. 294'000.-- massvoll festgesetzte - Kostenvorschuss von Fr. 1'500.-- nicht durch das Konkursamt vorgeschossen oder durch die allenfalls interessierten Gläubiger bezahlt werden könnte.
5. Nach dem Gesagten ist die Beschwerde abzuweisen. Dem Ausgang des Verfahrens entsprechend wird die Beschwerdeführerin kostenpflichtig (Art. 65 BGG); ihrer finanziellen Lage wird bei der Festsetzung der Gerichtsgebühr Rechnung getragen (vgl. Art. 65 Abs. 2 BGG). Es ist keine Parteientschädigung auszurichten (Art. 68 Abs. 3 BGG).
Die Vorinstanz hat der Beschwerdeführerin eine angemessene neue Frist zur Bezahlung des Kostenvorschusses anzusetzen.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen.
2. Die Gerichtsgebühr von Fr. 500.-- wird der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird der Beschwerdeführerin, der Eidgenössischen Steuerverwaltung und dem Bundesverwaltungsgericht, Abteilung I, schriftlich mitgeteilt.
Lausanne, 17. August 2007
Im Namen der II. öffentlich-rechtlichen Abteilung des
Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber: