Sachverhalt:
A. X._ führte in Biel ein Ingenieur- und Planungsbüro im Rahmen einer Einzelfirma. Mit Veranlagungsverfügung vom 23. März 1998 veranlagte die Steuerverwaltung X._ für die direkte Bundessteuer 1995/1996 mit einen steuerbaren Einkommen von Fr. 25'565.--.
Am 23. Juli 2002 fanden bei der X._ AG, X._ und bei weiteren Personen Hausdurchsuchungen statt, die vom Untersuchungsrichter I in Biel wegen Verdachts auf Pfändungsbetrug, Gläubigerschädigung durch Vermögensverminderung, ungetreue Geschäftsbesorgung und Steuerbetrug angeordnet worden waren.
Mit Schreiben vom 15. November 2004 leitete die Steuerverwaltung des Kantons Bern, welcher die beschlagnahmten Akten übergeben worden waren, zwecks Prüfung, ob allenfalls Steuerdelikte begangen worden waren, ein Nachsteuer- und Steuerhinterziehungsverfahren u.a. gegen X._ ein. Am 9. Januar 2009 erliess die Steuerverwaltung des Kantons Bern, Abteilung Erbschafts-, Schenkungs- und Nachsteuern, eine Nachsteuerverfügung u.a. für die direkte Bundessteuer 1995/96 mit einer Nachsteuer im Betrag von Fr. 176'891.-- und Verzugszins von Fr. 88'180.10. Eine Einsprache von X._ wies sie mit Verfügung vom 24. März 2009 vollumfänglich, das heisst auch für die direkten Bundessteuern, ab.
B. X._ führte Rekurs und Beschwerde bei der Steuerrekurskommission des Kantons Bern. Diese erkannte mit Entscheid vom 14. Dezember 2010 für die hier fragliche Steuerperiode 1995/96 der direkten Bundessteuer wie folgt:
"1. ...
2. ...
3. Die Beschwerde betreffend die direkte Bundessteuer der Steuerperiode 1995/1996 wird abgewiesen.
4. Der Rekurs und die Beschwerde betreffend die Gebühr von Fr. 20'000.-- für das Nachsteuerverfahren werden abgewiesen.
5. Die Kosten des Verfahrens vor der Steuerrekurskommission, bestimmt auf eine Pauschalgebühr von Fr. 6'000.--, werden dem Rekurrenten anteilmässig im Betrag von Fr. 870.-- zur Bezahlung auferlegt."
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 4. Februar 2011 beantragt X._ dem Bundesgericht:
Die Ziffern 3 und 4 sowie, soweit darin dem Beschwerdeführer anteilmässige Verfahrenskosten im Betrag von Fr. 870.-- auferlegt wurden, die Ziffer 5 des Entscheids der Steuerrekurskommission des Kantons Bern vom 14. Dezember 2010 seien aufzuheben und die Einspracheverfügung der Steuerverwaltung des Kantons Bern vom 24. März 2009 sei, soweit die direkte Bundessteuer betreffend, ersatzlos aufzuheben."
Die Steuerverwaltung und die Steuerrekurskommission des Kantons Bern schliessen auf Abweisung der Beschwerde. Die Eidgenössische Steuerverwaltung äusserte sich nach Fristablauf.
Mit Eingabe vom 9. Januar 2012 teilte der Beschwerdeführer dem Bundesgericht mit, dass per Ende 2011 die absolute Verjährung eingetreten sei, was von Amtes wegen zu berücksichtigen sei.
Erwägungen:
1. 1.1 Angefochten ist der Entscheid einer kantonalen Steuerrekurskommission in einer Angelegenheit des öffentlichen Rechts, die unter keinen Ausschlussgrund gemäss Art. 83 BGG fällt und daher mit Beschwerde an das Bundesgericht weitergezogen werden kann (Art. 82 lit. a BGG; vgl. auch Art. 146 des Bundesgesetzes vom 14. Dezember 1990 über die direkte Bundessteuer [DBG; SR 642.11]).
1.2 Streitig ist die direkte Bundessteuer für die Steuerperiode 1995/96. Die Steuerrekurskommission des Kantons Bern beurteilt bis zum Steuerjahr 2000 Beschwerden nach Art. 140 ff. DBG als einzige kantonale Instanz (vgl. Art. 9 Abs. 2 der bernischen Verordnung vom 18. Oktober 2000 über den Vollzug der direkten Bundessteuer [BstV; BSG 668.11] in der Fassung vom 4. August 2004). Der angefochtene Entscheid ist mithin kantonal letztinstanzlich im Sinne von Art. 86 Abs. 1 lit. d BGG.
Die sich nach der Rechtsprechung aus der Steuerharmonisierung ergebende Verpflichtung der Kantone, für Beschwerden betreffend die direkte Bundessteuer eine zweite kantonale Gerichtsinstanz vorzusehen (vgl. Art. 145 DBG), wenn, wie im Kanton Bern, für die direkten kantonalen Steuern ein zweifacher kantonaler Instanzenzug besteht (BGE 130 II 65 ff.), kommt vorliegend noch nicht zur Anwendung. Die den Kantonen eingeräumte Frist zur Anpassung ihrer Gesetzgebungen an die harmonisierten Gesetze war in dieser Periode noch nicht abgelaufen (vgl. Art. 72 Abs. 1 des Bundesgesetzes vom 14. Dezember 1990 über die Harmonisierung der direkten Steuern der Kantone und Gemeinden [StHG; SR 642.14]). Art. 146 DBG bildet die nach Art. 86 Abs. 2 BGG erforderliche spezialgesetzliche Grundlage, um während der Übergangsfrist die Beschwerde in öffentlich-rechtlichen Angelegenheiten ausnahmsweise gegen den Entscheid einer unteren richterlichen Behörde zuzulassen (Urteil 2C_686/2008 vom 5. August 2009 E. 1.1; 2C_685/2008 vom 27. Mai 2009 E. 1.1; s.a. Esther Tophinke, in: Basler Kommentar, Bundesgerichtsgesetz, 2. Aufl. 2011, N. 15 zu Art. 86 BGG mit Hinweis auf die Botschaft vom 28. Februar 2001 in: BBl 2001 S. 4326 f. ad Art. 80 Abs. 2).
Für die kantonalen Steuern führt der Rechtsweg über das kantonale Verwaltungsgericht.
1.3 Auf die im Übrigen form- und fristgerecht eingereichte Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen das angefochtene Urteil der Steuerrekurskommission des Kantons Bern ist grundsätzlich einzutreten. Nicht einzutreten ist auf das Rechtsmittel, soweit damit auch die Aufhebung der Einspracheverfügung der kantonalen Steuerverwaltung verlangt wird, da die Beschwerde nur gegen letztinstanzliche kantonale Akte zulässig ist (Art. 86 Abs. 1 lit. d BGG).
2. Der Beschwerdeführer macht u.a. geltend, die Steuern der Jahre 1995 und 1996 seien verjährt. Nach seiner Ansicht trat die Verjährung im bundesgerichtlichen Verfahren ein. Die Verjährungseinrede ist vorab zu prüfen.
2.1 Nach Art. 152 Abs. 3 DBG erlischt das Recht, die Nachsteuer festzusetzen, 15 Jahre nach Ablauf der Steuerperiode, auf die sie sich bezieht. Es handelt sich um die absolute Veranlagungsverjährung, wie sie nach Art. 120 Abs. 4 DBG auch für die Veranlagung der Steuer im ordentlichen Verfahren gilt. In gleicher Weise regelt auch das Bundesgesetz über die Harmonisierung der direkten Steuern der Kantone und Gemeinden vom 14. Dezember 1990 (StHG; SR 642.14) die absolute Veranlagungsverjährung für die kantonalen Steuern und Nachsteuern vom Einkommen und Vermögen (Art.47 Abs. 1, Art. 53 Abs. 3 StHG).
2.2 Nach der bundesgerichtlichen Rechtsprechung ist die Frage der Verjährung materiell-rechtlicher Natur (BGE 126 II 1 E. 2b S. 3; 123 III 213 E. 5c S. 219; Urteil 2C_724/2010 vom 27. Juli 2011 E. 6, in: StR 66/2011 S. 871; 2C_227/2010 vom 5. August 2010 E. 2.5). Im Zivilrecht darf der Richter die Verjährung nach ausdrücklicher Vorschrift nicht von Amtes wegen berücksichtigen (Art. 142 OR; BGE 129 V 237 E. 4 S. 241). Nur wenn die Einrede fristgerecht erhoben worden ist, greift der Grundsatz der Rechtsanwendung von Amtes wegen ein und ist sie unter allen rechtlichen Aspekten zu prüfen (Urteil 4A_56/2008 vom 8. Oktober 2009 E. 9; Urteil des Bundesgerichts vom 1. Juli 1986 E. 3e, in: SJ 1987 S. 33 ff., S. 42).
Demgegenüber ist im öffentlichen Recht die Frage der Verjährung von Amtes wegen zu berücksichtigen, sofern das Gemeinwesen Gläubiger der Forderung ist (vgl. BGE 133 II 366 E. 3.3 S. 368; 106 Ib 357 E. 3a S. 364; 101 Ib 348; Urteil 2C_724/2010 vom 27. Juli 2011 E. 6, in StR 66/2011 S. 871).
3. Grundsätzlich läuft eine Verjährungsfrist auch während eines gerichtlichen Verfahrens. Anders verhält es sich nur, wenn das Gesetz ausdrücklich anordnet, dass die Verjährung ruht (BGE 123 III 213 E. 3 S. 216), was aber für die absolute Verjährung nach Art. 120 Abs. 4 und 152 Abs. 3 DBG nicht der Fall ist. Fraglich ist, ob die Verjährung auch dann zu berücksichtigen ist, wenn sie nicht im kantonalen Verfahren, sondern erst während des bundesgerichtlichen Verfahrens eintritt.
3.1 Im Zivilrecht, wo die Verjährung nur auf Einrede hin zu berücksichtigen ist, ist deren rechtzeitige Abgabe eine Sachverhaltsfrage (Urteil 5A_586/2008 vom 22. Oktober 2008, E. 5). Eine erst im bundesgerichtlichen Verfahren erhobene Einrede der Verjährung ist, ob als neue Tatsache (Art. 99 Abs. 1 BGG) oder als neues Rechtsbegehren (Art. 99 Abs. 2 BGG), nicht zulässig (BGE 134 V 223 E. 2.2.1 und 2.2.2; Urteil 9C_614/2007 vom 19. Juni 2008 E. 5). Trotzdem kann auch dort die Verjährung vor Bundesgericht geltend gemacht werden, wenn sie erst nach dem angefochtenen Entscheid eingetreten ist (BGE 134 V 223 E. 2.2.2 S. 227; 123 III 213 E. 5b S. 218; Urteil 9C_566/2007 vom 3. Januar 2008 E. 3.1; 4A_56/2008 vom 8. Oktober 2009 E. 9.4).
3.2 Das muss erst recht im öffentlichen Recht gelten, wo die Verjährung von Amtes wegen zu beachten ist. Dass der Sachverhalt für das Bundesgericht durch den vorinstanzlichen Entscheid grundsätzlich bindend festgelegt ist (Art. 105 Abs. 1 BGG) und das Novenverbot sowohl für neue Tatsachen wie auch Rechtsbegehren gilt, steht dem nicht entgegen. Es bedarf hier keiner Einrede. Es gibt folglich auch keine Sachverhaltsfeststellung darüber, ob eine solche vorliegt. Der Zeitablauf selbst bedarf als allgemein bekannte Tatsache keines besonderen Beweises. Weitere Tatfragen sind im Zusammenhang mit Art. 152 Abs. 3 und Art. 120 Abs. 4 DBG nicht zu beantworten: Für jede Steuerperiode kann abstrakt, ohne jegliche Sachverhaltsfeststellungen, beurteilt werden, wann die absolute Verjährung eintritt. Das ist eine reine Rechtsfrage. Neue Rechtsvorbringen sind vor Bundesgericht möglich, wenn die letzte kantonale Instanz volle Rechtskognition hatte und das Recht von Amtes wegen anzuwenden war (Art. 110 BGG; Meyer/Dormann in: Basler Kommentar, Bundesgerichtsgesetz, 2. Aufl. 2011, N. 23 zu Art. 99 BGG; Urteil 6B_1099/2010 vom 28. März 2011 E. 2.1 mit Hinweis auf BGE 131 I 31 E. 2.1.1 S. 33). Das trifft hier zu.
3.3 Der Eintritt der Veranlagungsverjährung ist zu berücksichtigen, bis die Steuer im Sinne von Art. 120 Abs. 4 und Art. 152 Abs. 3 DBG veranlagt oder festgesetzt ist. Die Steuer oder Nachsteuer ist dann veranlagt bzw. festgesetzt, wenn der letztinstanzliche Entscheid in Rechtskraft erwachsen ist. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht ist ein ordentliches, devolutives und grundsätzlich reformatorisches (Art. 107 Abs. 2 BGG) Rechtsmittel (Urteil 8C_741/2009 vom 11. Mai 2010 E. 4.2.1). Die Rechtskraft tritt daher erst mit dem bundesgerichtlichen Urteil ein. Anders verhielt es sich noch bei der staatsrechtlichen Beschwerde als einem ausserordentlichen und prinzipiell kassatorischen Rechtsmittel, das dem Eintritt der Rechtskraft des kantonalen Entscheides nicht entgegenstand und bei welcher folglich die Veranlagungsverjährung nicht weiter lief (Urteil 2P.296/2006 vom 28. März 2007 E. 2, in: StR 62/2007 S. 472; 2P.3/1995 vom 21. März 1995 E. 4b, in: StR 52/1997 S. 41).
Der Beschwerde in öffentlich-rechtlichen Angelegenheiten kommt zwar in der Regel keine aufschiebende Wirkung zu (Art. 103 Abs. 1 BGG). Doch wirkt diese nur der sofortigen Vollstreckbarkeit des angefochtenen Entscheids entgegen. Auf den Eintritt der Rechtskraft hat eine Verfügung über die aufschiebende Wirkung grundsätzlich keinen Einfluss, ausser es ist ausdrücklich angeordnet worden oder ergibt sich aus der Natur der Sache (Meyer/Dormann, in: Basler Kommentar, Bundesgerichtsgesetz, 2. Aufl. 2011, N. 5 und 6 zu Art. 103 BGG; BGE 106 Ia 155 E. 4 f. S. 158 f.; s. auch Urteil 5A_3/2009 vom 13. Februar 2009 E. 2.3; 6B_440/2008 vom 11. November 2008 E. 3.3; 5A_613/2007 vom 29. November 2007 E. 3).
3.4 Tritt die Verjährung erst während des bundesgerichtlichen Verfahrens ein, ist sie daher auch ohne diesbezügliche Einrede zu berücksichtigen. In diesem Sinn hat das Bundesgericht bereits entschieden (Urteil 2C_88/2011 vom 3. Oktober 2011 E. 2.3.1; 2C_724/2010 vom 27. Juli 2011 E. 6.1, in: StR 66/2011 S. 871). Anders verhält es sich, wenn sich die Verjährung ausschliesslich auf kantonales Recht stützt (Urteil 2C_790/2008 vom 18. November 2009 E. 7), was hier nicht zutrifft.
3.5 Anzumerken bleibt, dass in Steuerhinterziehungsverfahren - anders als im Nachsteuerverfahren - aufgrund der Revision des Allgemeinen Teils des Strafgesetzbuches (StGB) eine Verfolgungsverjährung nicht mehr eintritt, wenn vor Ablauf der Verjährungsfrist ein erstinstanzliches Urteil ergangen ist (Botschaft des Bundesrats vom 2. März 2012 zum Bundesgesetz über eine Anpassung des DBG und des StHG an die Allgemeinen Bestimmungen des StGB, BBl 2012 2869 Ziff. 1.2.2 und S. 2884 ad Art. 189 Abs. 2 DBG und Art. 60 Abs. 2 StHG).
4. Der vorliegend angefochtene Entscheid betrifft die Nachsteuer für die direkte Bundessteuer der Periode 1995/96. Die Frist gemäss Art. 152 Abs. 3 DBG von 15 Jahren ist somit am 31. Dezember 2011 abgelaufen. Das angefochtene Urteil datiert vom 14. Dezember 2010 und wurde dem Beschwerdeführer am 5. Januar 2011 zugestellt. Am 4. Februar 2011 erhob der Beschwerdeführer Beschwerde an das Bundesgericht. Die absolute Verjährung trat somit nach dem Urteil der Steuerrekurskommission des Kantons Bern und vor der Rechtshängigkeit des Verfahrens beim Bundesgericht ein. Sie ist im vorliegenden Verfahren zu berücksichtigen.
Die Beschwerde ist folglich gutzuheissen, und es ist festzustellen, dass das Recht zur Festsetzung der Nachsteuer für die direkte Bundessteuer 1995/96 verjährt ist.
5. 5.1 Da die Verjährung durch das Bundesgericht verschuldet worden ist, sind keine Kosten zu erheben und ist dem Beschwerdeführer eine Parteientschädigung aus der Bundesgerichtskasse zu bezahlen.
5.2 Was die Kosten des Verfahrens vor der kantonalen Rekurskommission betrifft, so war zu diesem Zeitpunkt die Veranlagungsverjährung noch nicht eingetreten. Wie eine summarische Prüfung der Beschwerde in öffentlichrechtlichen Angelegenheiten ergibt, hätte diese bei materieller Beurteilung der streitigen Punkte nicht gutgeheissen werden können: Die Rüge, dem Beschwerdeführer sei der Bericht des Sachverständigen der Rekurskommission vorgängig nicht zur Stellungnahme unterbreitet worden (Rüge der Verletzung des rechtlichen Gehörs), hat sich bereits im Parallelverfahren betreffend die Aktiengesellschaft als unbegründet erwiesen. Es kann auf die entsprechenden Ausführungen im Urteil 2C_136/2011 vom 30. April 2012 E. 2 verwiesen werden. Für die vom Beschwerdeführer freiwillig eingereichten Jahresabschlüsse gelten die gleichen Vorbehalte, wie sie auch im Urteil 2C_136/2011 E. 3 gegenüber der Buchhaltung der Gesellschaft vorgebracht wurden, was eine Einschätzung der massgebenden Faktoren nach pflichtgemässem Ermessen notwendig machte (Art. 153 Abs. 3 in Verbindung mit Art. 130 Abs 2 DBG). Hinsichtlich der ermessensweise festgelegten Faktoren ergeben sich im vorliegenden Verfahren keine Gesichtspunkte, die nicht bereits im Verfahren 2C_136/2011 behandelt worden und in die Beurteilung eingeflossen wären (Urteil, a.a.O. E. 5). Die Kostenauflage für das Nachsteuerverfahren wird ausschliesslich damit angefochten, dass die Nachsteuer zu Unrecht erhoben worden ist, was nach dem Gesagten gerade nicht zutrifft. Das rechtfertigt die Auflage der Kosten des kantonalen Verfahrens an den Beschwerdeführer. Insoweit erweisen sich die Dispositivziffern 4 und 5 des angefochtenen Entscheids - soweit die direkte Bundessteuer betreffend - als rechtsbeständig.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, der Entscheid der Steuerrekurskommission des Kantons Bern vom 14. Dezember 2010 in der Dispositivziffer 3 aufgehoben, und es wird festgestellt, dass das Recht zur Veranlagung der Nachsteuer für die direkte Bundessteuer 1995/1996 verjährt ist. Im Übrigen wird die Beschwerde abgewiesen.
2. Es werden keine Kosten erhoben.
3. Dem Beschwerdeführer wird für das bundesgerichtliche Verfahren eine Parteientschädigung von Fr. 5'000.-- aus der Bundesgerichtskasse bezahlt.
4. Dieses Urteil wird dem Beschwerdeführer, der Steuerverwaltung des Kantons Bern, der Steuerrekurskommission des Kantons Bern und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 30. April 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Wyssmann