Sachverhalt:
A. Der als selbständiger Augenarzt tätige X._ reichte für die Steuerperioden 1989/90 bis 1997/98 keine Steuererklärungen ein und wurde nach Ermessen veranlagt. Gegen die Veranlagungen für die Perioden 1995/96 und 1997/98, mit denen sein steuerbares Einkommen auf 3,7 bzw. 3,4 Mio Franken festgelegt wurde, sprach er ein und reichte dazu Geschäftsabschlüsse für die Jahre 1993 bis 1996 ein. In der Folge schöpften die Steuerbehörden Verdacht, die früheren Ermessensveranlagungen seien möglicherweise zu tief ausgefallen. Am 17. Dezember 1999 eröffneten sie ein Nachsteuer- und Hinterziehungsverfahren gegen X._.
Am 22. April 2005 wurden die Nachsteuerverfügung und die Bussenverfügung eröffnet. X._ sprach dagegen ein, worauf am 8. Juli 2005 die Einspracheverfügungen ergingen. X._ rekurrierte dagegen; in Bezug auf die Steuerhinterziehung verlangte er die gerichtliche Beurteilung.
Am 7. Februar 2006 eröffnete der Kantonale Untersuchungsrichter 5 die gerichtliche Strafverfolgung gegen X._ wegen Steuerhinterziehung und -betrugs.
Am 20. Dezember 2007 wurde die Strafverfolgung gegen X._ teilweise aufgehoben. Wegen Steuerhinterziehung zwischen 1989 und 1994 wurde er indessen ans Einzelgericht Bern überwiesen.
Am 13. Januar 2011 gab der Gerichtspräsident dem Verfahren gegen X._ wegen Verjährung keine weitere Folge. Er wies den Antrag der Steuerverwaltung um Zusprechung einer Parteientschädigung ab und auferlegte die gesamten Verfahrenskosten von Fr. 50'822.35 X._. Dieser focht den Entscheid an. In der Folge berichtigte der Gerichtspräsident seinen Entscheid, indem er das Urteilsdispositiv um eine Ziffer ergänzte, mit welcher er den Antrag von X._ um Zusprechung einer Parteientschädigung abwies.
Am 23. Mai 2011 wies die Beschwerdekammer in Strafsachen des Obergerichts des Kantons Bern die Beschwerde von X._ ab, mit welcher er im Wesentlichen beantragt hatte, die Verfahrenskosten der Voruntersuchung und der Hauptverhandlung auf die Staatskasse zu nehmen und ihm eine angemessene Parteientschädigung zuzusprechen.
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt X._, diesen obergerichtlichen Beschluss aufzuheben, die Verfahrenskosten der Voruntersuchung und der Hauptverhandlung auf die Staatskasse zu nehmen und ihm für die Voruntersuchung sowie die Hauptverhandlung des Steuerstrafverfahrens eine angemessene Parteientschädigung zu bezahlen. Eventuell sei der obergerichtliche Beschluss aufzuheben und die Sache zur richtigen Feststellung des Sachverhalts im Sinne der Erwägungen und zu neuem Beschluss über den Beschwerdegegenstand an die Vorinstanz zurückzuweisen.
C. Das Obergericht verzichtet auf Vernehmlassung. Die Staatsanwaltschaft beantragt, die Beschwerde abzuweisen. X._ hält in seiner Replik an der Beschwerde fest.
Erwägungen:
1. Angefochten ist ein Rechtsmittelentscheid über die Kosten- und Entschädigungsregelung eines erstinstanzlichen Gerichtsentscheids, mit welchem dem Strafverfahren gegen den Beschwerdeführer keine weitere Folge gegeben und es damit abgeschlossen wurde. Es handelt sich um den Endentscheid der obergerichtlichen Beschwerdekammer in Strafsachen, mithin einer letzten kantonalen Instanz, gegen den die Beschwerde in Strafsachen zulässig ist (Art. 78 Abs. 1, Art. 80 Abs. 1, Art. 90 BGG). Dem Beschwerdeführer wurden Kosten überbunden und eine Entschädigung verweigert, womit er befugt ist, sie zu erheben (Art. 81 Abs. 1 BGG). Die übrigen Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass, sodass auf die Beschwerde einzutreten ist. Unbeachtlich sind allerdings Rügen, die nicht in der Beschwerdeschrift selber, sondern mit unzulässigem Verweis auf frühere Eingaben begründet sind (Art. 42 Abs. 2 BGG; BGE 134 II 244 E. 2.1; 133 II 396 E. 3.2). Das trifft auf das Vorbringen zu, die (überhöhten) Verfahrenskosten seien durch die Strafverfolgungsbehörden verursacht worden (Beschwerde Ziff. 4.10 S. 8).
2. Der angefochtene Entscheid erging am 23. Mai 2011 und damit nach dem Inkrafttreten der Schweizerischen Strafprozessordnung (StPO; SR 312.0). Bezüglich der Kosten- und Entschädigungsfolgen erfolgt indessen eine sogenannte "unechte Nachwirkung" der altrechtlichen Vorschriften, soweit sie wie hier Verfahrenshandlungen betreffen, die vor dem Inkrafttreten der StPO vorgenommen wurden (Urteil 1B_275/2011 vom 2. September 2011 E. 1.2). Das Obergericht hat die Kosten- und Entschädigungsregelung somit zu Recht nach dem überkommenen bernischen Verfahrensrecht beurteilt.
3. 3.1 Nach Art. 389 i.V.m. Art. 390 Abs. 1 Ziff. 2 des hier noch anwendbaren Berner Gesetzes über das Strafverfahren vom 15. März 1995 (StrV) konnten dem Angeschuldigten im Fall, dass dem Verfahren keine weitere Folge gegeben wurde, die Verfahrenskosten ganz oder teilweise auferlegt werden, wenn er in rechtlich vorwerfbarer Weise das Verfahren veranlasst oder dessen Durchführung erschwert hatte. Unter den gleichen Voraussetzungen konnte ihm auch eine Parteientschädigung verweigert werden (Art. 401 Abs. 1 Ziff. 2 StrV).
Nach der Rechtsprechung des Bundesgerichts zu Art. 32 Abs. 1 BV und Art. 6 Ziff. 2 EMRK dürfen einem Angeschuldigten bei Freispruch oder Einstellung des Verfahrens nur dann Kosten auferlegt werden, wenn er durch ein unter rechtlichen Gesichtspunkten vorwerfbares Verhalten die Einleitung eines Strafverfahrens veranlasst oder dessen Durchführung erschwert hat. Bei der Kostenpflicht des freigesprochenen oder aus dem Verfahren entlassenen Angeschuldigten handelt es sich nicht um eine Haftung für ein strafrechtliches Verschulden, sondern um eine zivilrechtlichen Grundsätzen angenäherte Haftung für ein fehlerhaftes Verhalten, durch das die Einleitung oder Erschwerung eines Strafverfahrens verursacht wurde (BGE 119 Ia 332 E. 1b S. 334; Pra 2008 Nr. 34 E. 4.2). Wie das Bundesgericht festgehalten hat, ist es mit Art. 32 Abs. 1 BV und Art. 6 Ziff. 2 EMRK vereinbar, einem nicht verurteilten Angeschuldigten die Kosten aufzuerlegen, wenn er in zivilrechtlich vorwerfbarer Weise gegen eine Verhaltensnorm, die sich aus der Gesamtheit der schweizerischen Rechtsordnung ergeben kann, klar verstossen und dadurch das Strafverfahren veranlasst oder dessen Durchführung erschwert hat (BGE 119 Ia 332 E. 1b S. 334; 116 Ia 162 E. 2a S. 166, je mit Hinweisen). Dabei darf sich die Kostenauflage in tatsächlicher Hinsicht nur auf unbestrittene oder bereits klar nachgewiesene Umstände stützen (BGE 112 Ia 371 E. 2a; Pra 2010 Nr. 48 S. 351 nicht publ. E. 1.2). Hingegen verstösst eine Kostenauflage bei Freispruch oder Einstellung des Strafverfahrens gegen den Grundsatz der Unschuldsvermutung, wenn dem Angeschuldigten in der Begründung des Kostenentscheids direkt oder indirekt vorgeworfen wird, er habe sich strafbar gemacht bzw. es treffe ihn ein strafrechtliches Verschulden (BGE 120 Ia 147 E. 3b S. 155; 6B_86/2009 vom 29. Oktober 2009 E. 9.3).
3.2 Dem Beschwerdeführer wurden sowohl die Untersuchungskosten von Fr. 49'322.35 als auch die gerichtlichen Kosten von pauschal Fr. 1'500.--, insgesamt Fr. 50'822.35, auferlegt. Die Höhe der Kosten ist unbestritten. Gegen den Umstand, dass die Untersuchungs- und Gerichtskosten gemeinsam verlegt wurden, erhebt der Beschwerdeführer keine substanziierten Einwände.
3.3 Unbestritten ist, dass der Beschwerdeführer aufgrund der einschlägigen Bestimmungen (Art. 119, 120) des damals in Kraft stehenden Berner Steuergesetzes vom 29. Oktober 1944 (aStG) verpflichtet gewesen wäre, für die von den Tatvorwürfen betroffenen Steuerperioden die Steuererklärung einschliesslich der zugehörigen Einlageblätter und Belege vollständig und wahrheitsgetreu auszufüllen und fristgerecht einzureichen. Er war zudem verpflichtet, der Veranlagungsbehörde alle für die Veranlagung erforderlichen Auskünfte zu erteilen und ihr Einsicht in die Geschäftsbücher und andere massgebliche Urkunden zu gewähren (Art. 95). Unter der Geltung von Art. 89 Abs. 3 des Bundesratsbeschlusses vom 9. Dezember 1940 über die Erhebung einer direkten Bundessteuer (BdBSt) war der Beschwerdeführer als Selbständigerwerbender mit Roheinnahmen von (weit) über 100'000 Franken zudem verpflichtet, "seine Einnahmen und Ausgaben, das Vermögen und die Schulden vollständig aufzuzeichnen". Diese steuerrechtliche Aufzeichnungspflicht entsprach im Wesentlichen der obligationenrechtlichen Buchführungspflicht (ERNST KÄNZIG/URS BEHNISCH, Die direkte Bundessteuer, III. Teil, 2.A. Basel 1992, N. 19 zu Art. 89 BdBSt).
Unbestritten ist weiter, dass für die Bemessungsperioden 1987/88, 1989/90 und 1991/92 keine Buchhaltungsabschlüsse vorliegen. Für die Steuerperioden 1989/90, 1991/92 und 1993/94 reichte der Beschwerdeführer keine Steuererklärungen ein, womit er seine gesetzlichen Mitwirkungspflichten nach Art. 119 f. aStG verletzte. Für die Jahre 1989 bis 1994 hat er nach den unwiderlegten Ausführungen der Staatsanwaltschaft, auf die sich der Gerichtspräsident des Regionalgerichts Bern-Mittelland im erstinstanzlichen Entscheid stützte, keine brauchbare Buchhaltung erstellt und eingereicht.
3.4 Wer als Selbständigerwerbender in den komfortablen wirtschaftlichen Verhältnissen des Beschwerdeführers - für 1995/96 und 1997/98 wurde sein steuerbares Einkommen nach Ermessen auf 3,7 bzw. 3,4 Mio Franken eingeschätzt - unter Verletzung klarer gesetzlicher Pflichten jahrelang keine brauchbare Buchhaltung führt und keine Steuerklärungen einreicht, erweckt beinahe zwangsläufig den Verdacht, seinen steuerlichen Verpflichtungen nicht vollumfänglich nachkommen zu wollen. Der Beschwerdeführer hat durch die anhaltende Verletzung grundlegender verwaltungsrechtlicher Pflichten offensichtlich den Verdacht erweckt, möglicherweise Steuerdelikte begangen zu haben. Er hat die Einleitung des Steuerstrafverfahrens klarerweise schuldhaft verursacht, womit nicht zu beanstanden ist, dass ihm dessen Kosten auferlegt wurden.
Die steuerrechtliche Aufzeichnungspflicht dient im Übrigen vorab der zuverlässigen Feststellung des Steuersubstrates und damit auch der Verhinderung von Steuerverkürzungen. Es handelt sich um eine Norm mit jedenfalls teilweise fiskalischer Zwecksetzung, deren Verletzung durch den Beschwerdeführer auch nach der von ihm angerufenen "Schutznormtheorie" die Kostenauflage in einem Strafverfahren wegen Steuerdelikten rechtfertigen würde.
4. Die Beschwerde ist unbegründet und somit abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Verfahrenskosten (Art. 66 Abs. 1 BGG). Er hat keinen Anspruch auf eine Parteientschädigung (Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten in Höhe von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, der Staatsanwaltschaft des Kantons Bern, Wirtschaftsdelikte, dem Obergericht des Kantons Bern, Strafabteilung, Beschwerdekammer in Strafsachen, schriftlich mitgeteilt.
Lausanne, 8. Dezember 2011
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Störi