Sachverhalt:
A. X._ meldete sich am 15. Oktober 1994 bei der Einwohnerkontrolle Q._ ins Ausland ab. Am 25. Januar 1997 meldete er sich schriftlich unter Beilage seiner Schriften bei der Einwohnerkontrolle Q._ zurück. Diese gab der Anmeldung keine Folge. Eine telefonische Anfrage, eine Vorsprache im Frühjahr 1997 sowie eine weitere Anfrage von X._ am 13. Januar 1998 bei der Einwohnerkontrolle blieben ohne Ergebnis.
Im April 2008 stellten die Einwohnerdienste der Stadt Q._ anhand des Telefonverzeichnisses fest, dass X._ in Q._ (Ortschaft R._) wohnhaft ist, und forderten ihn schriftlich auf, sich anzumelden. Mit Brief vom 17. Mai 2008 teilte X._ den Einwohnerdiensten mit, dass er sich in den Jahren 1997 und 1998 wiederholt und im Jahre 2000 erneut bemüht habe, eine Anmeldebestätigung zu erhalten, allerdings ohne Erfolg. Mit Schreiben vom 29. Mai 2008 bestätigten die Einwohnerdienste Q._ den Zuzug per 1. März 1996.
In der Folge leitete die Steuerverwaltung des Kantons Thurgau ein Nachsteuerverfahren ein und auferlegte X._ am 3. Oktober 2008 mit zwei Verfügungen Nachsteuern samt Verzugszinsen für die Staats- und Gemeindesteuern sowie für die direkte Bundessteuer der Jahre 1999 bis 2006. Eine Einsprache wies sie ab.
Die darauf von X._ angerufene Steuerrekurskommission des Kantons Thurgau stellte fest, dass für die Steuerperioden 2003 bis 2006 die Veranlagungsverjährung noch nicht eingetreten sei, weshalb die Steuern dieser Jahre noch im ordentlichen Verfahren veranlagt werden könnten. Die diesbezüglichen Nachsteuerverfügungen seien als ordentliche Veranlagungsverfügungen zu betrachten; aus der Wahl des falschen Verfahrens sei dem Steuerpflichtigen kein Rechtsnachteil erwachsen. In Bezug auf die früheren Jahre (1999 bis 2002) seien die Nachsteuerverfügungen zu bestätigen, da die Steuerbehörden von der Steuerpflicht keine Kenntnis gehabt hätten und es Sache des Steuerpflichtigen gewesen wäre, bei der zuständigen Behörde die Steuerformulare anzufordern. Der Steuerpflichtige, der bereits früher in in der Gemeinde wohnhaft war, sei sich dessen bewusst gewesen. Demgemäss wies die Steuerrekurskommission die Rekurse ab.
B. Im Verfahren vor dem Verwaltungsgericht des Kantons Thurgau anerkannte X._ seine Steuerpflicht in Q._ für die Steuerjahre 2003 bis 2006, bestritt jedoch weiterhin seine Nachsteuerpflicht und insbesondere das Vorhandensein neuer Tatsachen als Voraussetzungen für die Einleitung eines Nachsteuerverfahrens für die Steuerjahre 1999 bis 2002.
Am 24. März 2010 wies das Verwaltungsgericht in zwei Entscheiden die Beschwerden für die Staats-, Gemeinde- und die direkte Bundessteuer ab. Es hielt fest, auch wenn der Steuerpflichtige geltend mache, sich mehrfach bei der Gemeinde gemeldet zu haben, habe er dennoch seine Mitwirkungspflichten nicht in genügendem Ausmass wahrgenommen. Er hätte seine Pflichten nur erfüllt, wenn er jedes Jahr bei der Steuerbehörde ein entsprechendes Formular eingeholt hätte. Entgegen seiner Meinung müssten sich die Steuerbehörden das Wissen anderer Amtsstellen nicht anrechnen lassen. Es lägen neue Tatsache vor, was die Durchführung eines Nachsteuerverfahrens rechtfertige.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt X._, der Entscheid des Verwaltungsgerichts des Kantons Thurgau vom 24. März 2010 betreffend die direkte Bundessteuer 1999 bis 2002 und die diesbezüglichen Nachsteuerverfügungen der Steuerverwaltung seien aufzuheben.
Eine weitere Beschwerde mit gleichlautenden Anträgen reichte der Steuerpflichtige auch gegen den Entscheid des Verwaltungsgerichts vom 24. März 2010 betreffend die Staats- und Gemeindesteuern 1999 bis 2002 und die entsprechenden Nachsteuerverfügungen ein.
Die Kantonale Steuerverwaltung Thurgau und das Verwaltungsgericht des Kantons Thurgau beantragen, die beiden Beschwerden abzuweisen. Die Eidgenössische Steuerverwaltung schliesst auf Abweisung der Beschwerde betreffend die direkte Bundessteuer.
Mit Eingabe vom 23. Oktober 2010 nahm der Beschwerdeführer Stellung zu den Vernehmlassungen der beiden Steuerverwaltungen.

Erwägungen:
1. Die beiden Beschwerden und angefochtenen Urteile betreffen den gleichen Sachverhalt und werfen die gleichen Fragen auf. Es ist angezeigt, die beiden Verfahren zu vereinigen (<ref-law> in Verbindung mit <ref-law>).
2. Die Beschwerden in öffentlich-rechtlichen Angelegenheiten sind zulässig, der Beschwerdeführer ist zur Ergreifung der Rechtsmittel legitimiert (Art. 82 lit. a, Art. 89 Abs. 1 BGG). Nicht einzutreten ist indessen auf die Beschwerden, soweit damit auch die Aufhebung der Nachsteuerverfügungen beantragt wird, da die Beschwerde nur gegen letztinstanzliche kantonale Akte zulässig ist (<ref-law>).
3. Gemäss <ref-law> (SR 642.11) sind die natürlichen Personen aufgrund persönlicher Zugehörigkeit steuerpflichtig, wenn sie ihren steuerrechtlichen Wohnsitz oder Aufenthalt in der Schweiz haben (Abs. 1). Den steuerrechtlichen Wohnsitz in der Schweiz hat eine Person, wenn sie sich hier mit der Absicht dauernden Verbleibens aufhält (Abs. 2). Die Absicht dauernden Verbleibens ist nicht abhängig von einer ausdrücklichen Willenserklärung oder von der polizeilichen Anmeldung (<ref-ruling> E. 4.1; Urteil 2A.118/1993 vom 13. Februar 1995, ASA 64 S. 401 E. 3a). Unabhängig davon, aus welchem Grund die Einwohnerkontrolle die Anmeldung des Beschwerdeführers nicht registrierte, war der Beschwerdeführer in den fraglichen Jahren aufgrund persönlicher Zugehörigkeit in Q._ steuerpflichtig. Die unbeschränkte Steuerpflicht in der Schweiz ist für den fraglichen Zeitraum denn auch unbestritten.
4. Nach <ref-law> ist ein Nachsteuerverfahren u.a. dann durchzuführen, wenn sich aufgrund von Tatsachen oder Beweismitteln, die der Steuerbehörde nicht bekannt waren, ergibt, dass eine Veranlagung zu Unrecht unterblieben oder eine rechtskräftige Veranlagung unvollständig ist; die zu Unrecht nicht erhobene Steuer wird samt Zins als Nachsteuer eingefordert (Abs. 1). Eine Veranlagung unterbleibt namentlich dann, wenn ein Steuerpflichtiger nicht veranlagt wird, weil er der Steuerbehörde nicht bekannt ist. Ist zum Zeitpunkt, da die Steuerbehörde von der Person des Steuerpflichtigen Kenntnis erhält, das Recht zur Vornahme der ordentlichen Veranlagung nach <ref-law> (in der Regel fünf Jahre) bereits abgelaufen, so kann die Veranlagung nur noch im Rahmen eines Nachsteuerverfahrens vorgenommen werden. Voraussetzung ist gemäss <ref-law>, dass sich die Steuerpflicht aus neuen Tatsachen oder Beweismitteln ergibt. Als neu gelten Tatsachen und Beweismittel, die während der Frist zur Vornahme der ordentlichen Veranlagung aus den Akten, die den Steuerbehörden vorlagen, nicht hervorgingen und welche erst mit oder nach Ablauf der Frist der Steuerbehörde zur Kenntnis gelangten (Urteil 2A.182/2002 vom 25. April 2003, ASA 73 S. 482 E. 3.3). Nur unter dieser Voraussetzung darf die Steuer nachträglich noch erhoben werden. Ein Verschulden des Steuerpflichtigen ist nicht erforderlich (Urteil 2C_879/2008 vom 20. April 2009 E. 5.2, StE 2009 B 92.3 Nr. 17 = RDAF 2009 II S. 386).
5. Gemäss <ref-law> führen die Veranlagungsbehörden ein Verzeichnis der mutmasslich steuerpflichtigen Personen, das sog. Steuerregister (Abs. 1). Die zuständigen Behörden der Kantone und Gemeinden übermitteln den mit dem Vollzug des Gesetzes betrauten Behörden die nötigen Angaben aus den Kontrollregistern (Abs. 2). Für die Vorbereitungsarbeiten können die Veranlagungsbehörden auch die Mithilfe der Gemeindebehörden in Anspruch nehmen (Abs. 3). Das Steuerregister hat aktuell und vollständig zu sein, damit möglichst alle präsumtiv steuerpflichtigen Personen erfasst werden können, es hat aber keine für die Steuerpflicht präjudizierende oder konstitutive Wirkung. Der Umstand, dass ein Steuerpflichtiger im Steuerregister nicht eingetragen war, hat keinen Einfluss auf die Steuerpflicht. Ob der fehlende Eintrag auf Versehen oder Unterlassung beruht, ist unerheblich.
Zu den massgebenden Unterlagen, die der Steuerbehörde bekannt sein müssen, zählen nach einer kantonalen Praxis auch die aus dem Steuerregister ersichtlichen Tatsachen (vgl. RICHNER/FREI/KAUFMANN/ MEUTER, Handkommentar zum DBG, 2. Aufl. 2009, N. 24 zu <ref-law> mit Hinweis auf ein Urteil des Verwaltungsgerichts des Kantons Zürich). Da der Beschwerdeführer im Steuerregister des Gemeindesteueramtes Q._ nicht eingetragen war, obschon er in der Gemeinde Wohnsitz hatte und steuerpflichtig war, unterblieben die Veranlagungen. Es handelt sich um eine neue Tatsache, welche den Steuerbehörden im Zeitpunkt der Veranlagungen nicht bekannt war, und welche bewirkte, dass diese im Sinne von <ref-law> zu Unrecht unterblieben. Die Voraussetzung für die Erhebung der Steuern als Nachsteuern samt Zins sind damit erfüllt.
6. Der Beschwerdeführer wendet ein, dass er sich bei seiner Rückkehr in die Schweiz bei der Einwohnerkontrolle der Gemeinde angemeldet habe. Aus Gründen, die er nicht zu vertreten habe, habe die Gemeinde seine Anmeldung nicht bestätigt. Die Gemeinde habe aber von seiner Anwesenheit Kenntnis gehabt. Dieses Wissen habe sich das Gemeindesteueramt anrechnen zu lassen. Insofern fehle es an einer neuen Tatsache, um ein Nachsteuerverfahren einleiten zu können.
Dieser Argumentation kann nicht gefolgt werden. Das Gesetz geht nicht von der Fiktion aus, dass sich die Veranlagungsbehörde das Wissen anderer Verwaltungseinheiten anrechnen lassen müsse. Vielmehr unterscheidet der Bundessteuererlass (<ref-law>) strikt zwischen den Veranlagungsbehörden einerseits und den "zuständigen Behörden der Kantone und Gemeinden" andererseits. Letztere müssen denn auch den mit dem Vollzug des Steuergesetzes betrauten Behörden alle nötigen Anlagen übermitteln (s. auch StE 2008 B 97.41 Nr. 22 und dort E. 3.3 des Entscheids des Verwaltungsgerichts Basel-Stadt vom 27. Juli 2007). Geht aber das Gesetz selbst von verschiedenen Behörden aus, kann das Wissen der einen nicht automatisch der anderen Behörde zugerechnet werden.
Dabei hilft dem Beschwerdeführer auch die Berufung auf das Prinzip von Treu und Glauben nicht. Dieser in Art. 5 Abs. 3 und Art. 9 BV verankerte Grundsatz, der für das gesamte staatliche Handeln gilt, bedeutet, dass der Rechtsverkehr zwischen Bürger und Verwaltung von gegenseitigem Vertrauen getragen sein muss und berechtigtes Vertrauen Schutz verdient. Unter bestimmten Voraussetzungen kann sich der Private darauf berufen, dass sich die staatlichen Organe an gegebene Zusicherungen halten müssen (<ref-ruling> E. 7.1; <ref-ruling> E. 4a). Vorliegend ist indessen nicht ersichtlich, auf welches Vertrauen begründende Verhalten einer Behörde der Beschwerdeführer sich berufen kann. Es geht hier nicht um die Pflichten der Steuerbehörden und der steuerpflichtigen Person, die sich loyal verhalten müssen, sondern allein um die Frage, ob aufgrund neuer Tatsachen die Einleitung eines Nachsteuerverfahrens gerechtfertigt war oder nicht. Diese Frage ist aber klarerweise zu bejahen.
Unbehelflich ist schliesslich die Rüge, die Vorinstanz gehe willkürlich davon aus, dass die Meldung an die Veranlagungsbehörde (Steuerbehörde) unterblieben sei. Nach allgemeiner Erfahrung hätte der Beschwerdeführer die Steuererklärungsformulare erhalten, wenn die Meldung erfolgt und er im Steuerregister eingetragen gewesen wäre.
7. Die Steuerpflichtigen werden gemäss <ref-law> durch öffentliche Bekanntgabe oder Zustellung des Formulars aufgefordert, die Steuererklärung einzureichen (erster Satz); Steuerpflichtige, die kein Formular erhalten, müssen es bei der zuständigen Behörde verlangen (zweiter Satz). Diese öffentlichen Aufforderungen zur Einreichung der Steuererklärung sind in den hier fraglichen Jahren gemäss den Ausführungen des Beschwerdeführers unterblieben. Es fragt sich, welche Folgen sich hieraus für den Beschwerdeführer im Hinblick auf die Steuerpflicht und die Nachbesteuerung ergeben.
Die öffentliche Publikation bewirkt, dass gegenüber dem Kreis der betroffenen Steuerpflichtigen das Veranlagungsverfahren eingeleitet wird und diese zur Einreichung der Steuererklärung verpflichtet werden (RICHNER ET AL., a.a.O., N. 7 zu <ref-law>). Unterbleibt die öffentliche Aufforderung und reicht der Steuerpflichtige keine Steuererklärung ein, so kann er erst bestraft werden, wenn er gemahnt worden ist (<ref-law>; MARTIN ZWEIFEL in: Kommentar zum Schweizerischen Steuerrecht I/2a, 2. Aufl. 2008, N. 36 zu <ref-law>; so bereits KÄNZIG/BEHNISCH, Die direkte Bundessteuer, III. Teil, 2. Aufl. 1992, N. 12 und 20 zu Art. 82 BdBSt, für den Bundesratsbeschluss über die direkte Bundessteuer vom 9. Dezember 1940). Hier geht es indessen nicht um ein Strafverfahren, sondern um das Nachsteuerverfahren. Die Mitwirkungspflicht ist nicht Prozessgegenstand. In Frage steht allein die im Nachsteuerverfahren zu erhebende Steuer. An der grundsätzlichen Steuerpflicht und Pflicht zur Bezahlung der geschuldeten Steuer ändert eine allenfalls unterbliebene Publikation daher nichts.
8. Die Nachsteuerforderungen selbst werden in der Höhe nicht bestritten. Die Beschwerde für die direkte Bundessteuer ist abzuweisen (soweit darauf einzutreten ist).
9. Die massgebenden Bestimmungen des Steuergesetzes des Kantons Thurgau vom 14. September 1992 (StG) stimmen mit dem Recht der direkten Bundessteuer in den hier massgeblichen Punkten überein (vgl. § 7 Abs. 1 und 2, § 148, 155 Abs. 1 und 3, § 204 Abs. 1). Inwiefern die Vorinstanz kantonales materielles oder Verfahrensrecht willkürlich angewendet oder in anderer Weise verfassungswidrig gehandhabt haben könnte, ist nicht zu sehen. Die (allfällige) Verletzung von Mitwirkungspflichten steht hier nicht in Frage, sondern allein die Frage, welche Voraussetzungen erfüllt sein müssen, um die entgangene Steuer im Nachsteuerverfahren erfassen zu können. Es kann auf das für die direkte Bundessteuer Gesagte verwiesen werden. Die Rügen wegen Verletzung des Willkürverbots erweisen sich von vornherein als unbegründet (sofern der Beschwerde eine der Vorschrift von <ref-law> genügende Begründung überhaupt entnommen werden kann). Die Berufung auf den Anspruch auf ein faires Verfahren (<ref-law>) erschöpft sich im Wesentlichen in dem, was bereits zur direkten Bundessteuer zum Vertrauensgrundsatz vorgetragen wurde, und vermag auch hier nicht durchzudringen. Die Beschwerde betreffend die kantonalen Steuern ist abzuweisen, soweit darauf einzutreten ist.
10. Entsprechend diesem Verfahrensausgang wird der Beschwerdeführer kostenpflichtig (Art. 65 und 66 BGG).

Demnach erkennt das Bundesgericht:
1. Die beiden Verfahren 2C_533/2010 und 2C_534/2010 werden vereinigt.
2. Die Beschwerde betreffend die direkte Bundessteuer wird abgewiesen, soweit darauf einzutreten ist.
3. Die Beschwerde betreffend die Staats- und Gemeindesteuern wird abgewiesen, soweit darauf einzutreten ist.
4. Die Gerichtskosten von Fr. 2'500.-- werden dem Beschwerdeführer auferlegt.
5. Dieses Urteil wird dem Beschwerdeführer, der Steuerverwaltung des Kantons Thurgau, dem Verwaltungsgericht des Kantons Thurgau sowie der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 16. Februar 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Wyssmann