Erwägungen:
1. X._ focht den Einspracheentscheid der Eidgenössischen Steuerverwaltung vom 25. Mai 2011 betreffend Mehrwertsteuer 2004 - 2008 mit Beschwerde beim Bundesverwaltungsgericht an. Dieses verpflichtete ihn mit Zwischenverfügung vom 29. Juni 2011 zur Leistung eines Kostenvorschusses bis spätestens 20. Juli 2011, unter Androhung des Nichteintretens im Säumnisfall. Diese Verfügung wurde gemäss Track & Trace-Auszug der Post mit Abholungseinladung im Postfach des Vertreters der Beschwerdeführer avisiert, wurde indessen innert sieben Tagen nicht abgeholt, sodass sie ans Bundesverwaltungsgericht zurückgelangte. Dieses erachtete die Zahlungsaufforderung gestützt auf die bei Einschreibesendungen oder Gerichtsurkunden geltende Zustellungsfiktion als gültig eröffnet und trat mit Urteil vom 15. September 2011 mangels Leistung des Kostenvorschusses auf die Beschwerde nicht ein.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 14. Oktober 2011 beantragt X._ dem Bundesgericht, das Urteil des Bundesverwaltungsgerichts sei aufzuheben und dieses sei anzuweisen, nochmals Frist zur Kostenvorschuss-Leistung anzusetzen. Er macht geltend, im Postfach seines Vertreters sei keine Abholungseinladung betreffend die fragliche Zahlungsaufforderung vorgefunden worden.
2. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist gemäss Art. 86 Abs. 1 lit. a BGG zulässig gegen Entscheide des Bundesverwaltungsgerichts, insbesondere auch gegen Nichteintretensentscheide. Art. 86 BGG liegt der Gedanke zugrunde, dass das Bundesgericht mit einer Angelegenheit nicht befasst werden soll, wenn die erhobenen Rügen vollumfänglich noch einer seiner Vorinstanzen wirksam vorgetragen werden können. Die Vorbringen des Beschwerdeführers laufen vorliegend auf die Geltendmachung eines Fristwiederherstellungsgrundes hinaus, will er doch unverschuldet von der Leistung des Kostenvorschusses abgehalten worden sein. Dazu beruft er sich auf neue Tatsachen, die das Bundesgericht zwar wohl zu prüfen gehalten wäre (Art. 99 Abs. 1 BGG). Da aber mit einem Fristwiederherstellungsgesuch gemäss Art. 24 Abs. 1 VwVG bei der Behörde selber, vor welcher eine Frist versäumt wurde, diesbezügliche Entschuldigungsgründe wirksam vorgebracht werden können und wenn wie vorliegend keine über das Thema Fristversäumnis hinausgehenden Rügen erhoben werden, ist grundsätzlich zuerst von diesem speziellen Rechtsbehelf Gebrauch zu machen, bevor der Weg ans Bundesgericht beschritten wird. Dies entspricht der Praxis des Bundesgerichts zum Verhältnis zwischen Beschwerde in öffentlich-rechtlichen Angelegenheiten und kantonalem Fristwiederherstellungsgesuch (Urteile 2C_345/2011 vom 10. Mai 2010 E. 2 sowie 2C_ 862/2010 vom 10. November 2010 E. 4 am Ende). Es besteht kein Grund, es hinsichtlich eines Fristwiederherstellungsgesuchs gemäss Art. 24 VwVG anders zu halten (vgl. im Übrigen zur Frage der möglichen Zuständigkeit des Bundesverwaltungsgerichts zur Behandlung von Rügen gegen eigene Entscheidungen Urteil 2C_214/2009 vom 11. Juni 2009 E. 2, publ. in StR 64/2009).
Auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist mithin mit Entscheid des Einzelrichters im Verfahren nach Art. 108 BGG nicht einzutreten. Die Sache ist zuständigkeitshalber an das Bundesverwaltungsgericht weiterzuleiten.
Unter den gegebenen Umständen ist auf die Erhebung von Gerichtskosten zu verzichten (Art. 66 Abs. 1 zweiter Satz BGG).
Demnach erkennt der Präsident:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Rechtsschrift vom 14. Oktober 2011 wird zwecks Behandlung als Fristwiederherstellungsgesuch an das Bundesverwaltungsgericht, Abteilung I, weitergeleitet.
3. Es werden keine Kosten erhoben.
4. Dieses Urteil wird den Parteien und dem Bundesverwaltungsgericht, Abteilung I, schriftlich mitgeteilt.
Lausanne, 17. Oktober 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Feller