Sachverhalt: A. Die X._ GmbH führte an der R._-Strasse in Zürich einen Imbissladen (Take away). Sie wurde von der Eidgenössischen Steuerverwaltung (ESTV) rückwirkend per 1. März 1999 in das Register der Mehrwertsteuerpflichtigen eingetragen, wobei ihr die Möglichkeit eingeräumt wurde, sich der Abrechnungsmethode Saldosteuersätze zu unterstellen. Sie beantragte in der Folge mittels des entsprechenden Formulars als "Betrieb ohne Sitzplatzgelegenheit" den für Take away-Betriebe geltenden Saldosteuersatz von 0.5 %. Die Abrechnung nach der Saldosteuersatzmethode wurde von der ESTV bewilligt, jedoch mit dem für gastgewerbliche Betriebe geltenden höheren Satz von 5,1 %. B. Mit Ergänzungsabrechnung Nr. 305'573 vom 25. Juni 2003 forderte die ESTV bei der X._ GmbH für die Zeit vom 1. März 1999 bis zum 31. Dezember 2000 gestützt auf eine Umsatzschätzung Fr. 38'725.-- Mehrwertsteuern zuzüglich Zins nach. Mit Entscheid vom 4. Juli 2003 bestätigte die ESTV ihre Steuernachforderung. Eine dagegen eingereichte Einsprache wies sie am 31. Januar 2005 ab. Die X._ GmbH erhob gegen den Einspracheentscheid Beschwerde an die Eidgenössische Steuerrekurskommission. Das Bundesverwaltungsgericht, welches das Verfahren übernommen hatte, wies die Beschwerde mit Urteil vom 23. Oktober 2007 ab. C. Mit Beschwerde an das Bundesgericht beantragt die inzwischen in Liquidation getretene X._ GmbH die Aufhebung der Steuernachforderung. Die ESTV beantragt die Abweisung der Beschwerde, während das Bundesverwaltungsgericht auf Vernehmlassung verzichtet hat.