Sachverhalt:
A. Mit Vertrag vom 30. Juni 1997 kaufte die Y._ AG von X._ 877 eigene Aktien zum Preis von Fr. 4'250'000.--. Sie überschritt damit die gemäss Art. 659 Abs. 1 OR zulässige Limite von 10 % des Aktienbestandes um 6,87 % bzw. um 357 Aktien. Das kantonale Steueramt Solothurn nahm an, es liege in diesem Umfang eine Teilliquidation vor, und leitete deshalb gegen X._ ein Nachsteuerverfahren betreffend die Staatssteuer 1999 und die Bundesteuer 1999/2000 ein. Mit Verfügung vom 4. September 2002 besteuerte es den Liquidationsüberschuss aus den erwähnten 357 Aktien in der Höhe von Fr. 2'606'600.-- als ausserordentlichen Ertrag. Dagegen erhob X._ Einsprache, worüber noch nicht befunden worden ist. Diese Angelegenheit bildet nicht Gegenstand des vorliegenden Verfahrens.
B. Am 17. Oktober 2000 nahm die Y._ AG eine Kapitalherabsetzung vor, wobei sie 800 Aktien aus dem Eigenbestand vernichtete. Die Veranlagungsbehörde Olten-Gösgen erblickte auch darin einen Liquidationstatbestand und besteuerte den Liquidationsüberschuss aus 443 (800 minus die bereits in der Periode 1999 besteuerten 357 Y._-Aktien) bei X._ sowohl bei der kantonalen wie bei der direkten Bundessteuer des Übergangsjahrs 2000 als ausserordentlichen Ertrag in der Höhe von Fr. 2'112'700.--. Die dagegen erhobene Einsprache wurde mit Verfügung vom 16. Juni 2005 abgewiesen.
C. X._ focht den Einspracheentscheid beim Steuergericht des Kantons Solothurn mit Rekurs und Beschwerde an, wobei er im Wesentlichen geltend machte, er sei nie zivilrechtlicher Eigentümer der an die Y._ AG verkauften Aktien gewesen bzw. er habe diese Aktien nur treuhänderisch gehalten. Mit Urteil vom 7. Mai 2007 wies das Steuergericht die Rechtsmittel ab.
D. Gegen diesen Entscheid hat X._ beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten sowie subsidiäre Verfassungsbeschwerde erhoben. Er beantragt, das angefochtene Urteil sowie der Einspracheentscheid der Veranlagungsbehörde Olten-Gösgen seien aufzuheben und die Sache sei zu neuem Entscheid an das Steuergericht Solothurn zurückzuweisen; eventuell sei festzustellen, dass der Beschwerdeführer nie Eigentümer von 877 Namenaktien der Y._ AG gewesen und deshalb gar nicht in der Lage und verpflichtet gewesen sei, den angeblichen Liquidationsüberschuss wegen Kapitalherabsetzung zu deklarieren und zu versteuern; eventuell seien überdies das zuständige Bundesamt für Verrechnungssteuer und die Y._ AG zu verpflichten, alle Akten betreffend sämtliche Verrechnungssteuern dem Gericht und den Parteien vorzulegen.
Das Steueramt Solothurn (an Stelle der Veranlagungsbehörde Olten-Gösgen) und das Steuergericht beantragen die Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Eidgenössische Steuerverwaltung beantragt, die Beschwerde in öffentlich-rechtlichen Angelegenheiten sei abzuweisen und auf die subsidiäre Verfassungsbeschwerde sei nicht einzutreten.
E. In einer ergänzenden Stellungnahme vom 18. Januar 2008 beantragt der Beschwerdeführer zusätzlich, die Gerichtsakten seien zur Ergänzung und administrativen Verbesserung an das Steuergericht zurückzuweisen, die von ihm vorgelegten Urkunden seien "zu den Akten zu erkennen", sämtlich Akten der Eidgenössischen Steuerverwaltung und der Y._ AG seien zu edieren und es sei ihm das Recht zur Ergänzung seiner Beschwerde einzuräumen.
Erwägungen:
1. 1.1 Die Beschwerde richtet sich gegen einen letztinstanzlichen kantonalen Entscheid in einer Angelegenheit des öffentlichen Rechts. Eine Ausnahme im Sinne von Art. 83 BGG ist nicht gegeben. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist daher zulässig (Art. 82 Abs. 1 lit. a, Art. 86 Abs. 1 lit. d BGG). Da mit diesem Rechtsmittel gemäss Art. 95 lit. a BGG namentlich die Verletzung von Bundesrecht gerügt werden kann und zum Bundesrecht im Sinne dieser Bestimmung auch das Verfassungsrecht gehört, entfällt damit die subsidiäre Verfassungsbeschwerde (Art. 113 BGG).
1.2 Auf die Beschwerde kann jedoch nicht eingetreten werden, soweit sie sich auch gegen den Einspracheentscheid richtet, da dieser nicht letztinstanzlich ist. Er ist durch das angefochtene Urteil des Verwaltungsgerichts ersetzt worden (sog. Devolutiveffekt); immerhin gilt er als inhaltlich mitangefochten (vgl. BGE 129 II 438 E. 1 S. 441; 125 II 29 E. 1c S. 33, mit Hinweisen). Auch auf das Feststellungsbegehren ist nicht einzutreten; über die Steuerpflicht des Beschwerdeführers kann ein Leistungsentscheid gefällt werden, weshalb kein schutzwürdiges Interesse an der verlangten Feststellung besteht (vgl. statt vieler BGE 126 II 300 E. 2c S. 303 f.).
2. 2.1 Der Beschwerdeführer macht vorab geltend, die kantonalen Akten seien unvollständig und administrativ in einem desolaten Zustand, weshalb sie vorerst zu ergänzen seien und ihm sodann Gelegenheit zu geben sei, dazu Stellung zu nehmen. Soweit er damit beanstanden will, dass ihm (bzw. seinem früheren Rechtsvertreter) die von ihm selbst eingereichten Akten wieder zurückgesandt worden sind, ist nicht zu sehen, inwiefern er dadurch benachteiligt worden sein könnte, hatte er doch die Möglichkeit, diese Akten dem Bundesgericht wieder einzureichen; von dieser Möglichkeit hat er denn auch Gebrauch gemacht. Soweit der Beschwerdeführer die Akten der Veranlagungsbehörde, namentlich diejenigen des Einspracheverfahrens, als unvollständig erachtet, hätte er dies mit seinem Rekurs an das Steuergericht rügen können und müssen, was er indessen nicht getan hat. Dass die Akten des vorinstanzlichen Verfahrens sonstwie unvollständig seien, behauptet der Beschwerdeführer nicht. Soweit er das Fehlen eines Verfahrensprotokolls rügt, sagt er nicht, welche Verfahrensbestimmungen die Vorinstanz damit verletzt haben könnte. Ohnehin ergibt sich aus den Akten und dem angefochtenen Entscheid, welche Verfahrensschritte diese Instanz vorgenommen hat.
Im Übrigen führen Verfahrensfehler bei der Ermittlung des Sachverhalts nur dann zur Aufhebung des angefochtenen Entscheids, wenn der Mangel für den Ausgang des Verfahrens entscheidend sein kann, was vom Beschwerdeführer darzutun ist (Seiler/von Werdt/Güngerich, Bundesgerichtsgesetz [BGG], Bern 2007, Art. 97 N 26). An dieser Voraussetzung fehlt es im vorliegenden Fall. Zu einer Rückweisung an die Vorinstanz zwecks Ergänzung der Akten besteht jedenfalls kein hinreichender Anlass, auch wenn festzuhalten ist, dass die Aktenführung der kantonalen Behörde kaum als vorbildlich bezeichnet werden kann.
2.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 97 Abs. 1 BGG). Soweit sich der Beschwerdeführer damit begnügt, den tatsächlichen Feststellungen der Vorinstanz seine eigene Tatbestandsschilderung entgegenzuhalten, ist die offensichtliche Unrichtigkeit dieser Feststellungen nicht dargetan.
2.3 Im Übrigen beanstandet der Beschwerdeführer unter diesem Gesichtspunkt vor allem, dass die Vorinstanz die Verrechnungssteuerakten der Y._ AG nicht beigezogen hat.
2.3.1 Diese Akten betreffen indessen ein anderes Steuersubjekt und stehen dem Beschwerdeführer schon aus Gründen des Steuergeheimnisses (vgl. Art. 37 des Bundesgesetzes über die Verrechnungssteuer vom 13. Oktober 1965 [VstG, SR 642.21]) nicht offen.
2.3.2 Immerhin befindet sich bei den Akten die Veranlagung der Eidgenössischen Steuerverwaltung vom 15. Dezember 2000, mit der die Y._ AG zur Bezahlung einer Verrechnungssteuer von insgesamt Fr. 1'651'755.-- (Fr. 912'310.-- aus der Teilliquidation vom Jahre 1998 und Fr. 739'445.-- aus derjenigen vom Jahre 2000) verpflichtet wurde. Darin wurde unter anderem festgestellt, dass die Y._ AG dem Beschwerdeführer im Jahre 2000 im Zusammenhang mit der Kapitalherabsetzung als Liquidationsüberschuss eine geldwerte Leistung von Fr. 1'373'300.-- erbracht habe; da die Steuer nicht überwälzt worden sei, werde die Verrechnungssteuer von Fr. 2'112'700.-- erhoben (sogenannte Aufrechnung ins Hundert).
2.3.3 Ferner hat die Eidgenössische Steuerverwaltung im Rekursverfahren einen Buchhaltungsauszug eingereicht, aus dem sich ergibt, dass die Y._ AG die ihr auferlegte Verrechnungssteuer tatsächlich bezahlt hat. Soweit der Beschwerdeführer in diesem Zusammenhang rügt, dass die Eidgenössische Steuerverwaltung am Rekursverfahren beteiligt war, ist auf Art. 142 Abs. 1 zweiter Satz des Bundesgesetzes vom 14. Dezember 1990 über die direkte Bundessteuer (DBG; SR 642.11) zu verweisen, wo ausdrücklich festgehalten wird, dass der Eidgenössischen Steuerverwaltung in diesem Verfahren Gelegenheit zur Stellungnahme gegeben werden muss.
2.3.4 Sodann verkennt der Beschwerdeführer, dass seine eigene Veranlagung nicht davon abhängt, ob die Verrechnungssteuer von der Y._ AG zu Recht erhoben worden ist. Auch von daher gesehen besteht kein Grund, die Verrechnungssteuerakten beizuziehen.
2.3.5 Soweit der Beschwerdeführer auf das von der Rechtsnachfolgerin der Z._ AG eingereichte Rückerstattungsbegehren verweist, so musste er als deren Organ über das Schicksal dieses Begehrens selbst am besten Bescheid wissen. Dass er insofern in seinen Rechten beeinträchtigt worden sein sollte, ist daher von vornherein nicht ersichtlich.
2.4 Der Vollständigkeit halber rechtfertigt sich der Hinweis darauf, dass der Beschwerdeführer seinen im kantonalen Verfahren gestellten Antrag auf Rückerstattung der Verrechnungssteuer vor Bundesgericht nicht wieder aufgenommen hat. Ausführungen dazu erübrigen sich daher.
2.5 Wenn schliesslich die Vorinstanz in antizipierter Beweiswürdigung darauf verzichtete, lic. iur. A._ als Zeuge einzuvernehmen, ist dies nicht zu beanstanden. Nach der Darstellung des Beschwerdeführers war lic. iur. A._ sein früherer Anwalt. Ein unbeeinflusstes Zeugnis war von ihm deshalb nicht zu erwarten. Schon deswegen durfte seine Einvernahme unterbleiben. Im Übrigen weist die Vorinstanz im angefochtenen Entscheid darauf hin, dass in der Rekursschrift keine Angaben darüber gemacht worden seien, welche Behauptungen mittels des beantragten Zeugenbeweises hätten nachgewiesen werden sollen. Dagegen wird in der Beschwerde nichts vorgebracht. Damit fehlt es aber auch am Nachweis dafür, dass die Aussagen des Zeugen für den Ausgang des Verfahrens hätten entscheidend sein können (Art. 97 Abs. 1 BGG). Eine Rechtsverletzung im Sinne von Art. 95 BGG liegt daher auch in diesem Punkt nicht vor.
3. 3.1 Nach Art. 20 Abs. 1 lit. c DBG sind bei der direkten Bundessteuer als Erträge aus beweglichem Vermögen unter anderem Liquidationsüberschüsse steuerbar. Ein bei der Rückgabe von Beteiligungsrechten im Sinne von Art. 4a des Bundesgesetzes vom 13. Oktober 1965 über die Verrechnungssteuer (VStG; SR 642.21) an die Kapitalgesellschaft erzielter Liquidationsüberschuss gilt als in dem Jahre realisiert, in welchem die Verrechnungssteuerforderung entsteht. Das ist für die im vorliegenden Verfahren streitige Kapitalherabsetzung das Jahr 2000. Da der Kanton Solothurn per 1. Januar 2001 auf das System der einjährigen Steuerperiode mit Gegenwartsbemessung gewechselt hat (vgl. § 275 des solothurnischen Gesetzes über die Staats- und Gemeindesteuern vom 1. Dezember 1985 [StG]), fiel das betreffende Einkommen an sich in die Bemessungslücke. Im Jahre 2000 erzielte ausserordentliche Einkünfte, wozu namentlich auch aperiodische Vermögenserträge gehören, unterliegen jedoch einer vollen Jahressteuer zum Satz, der sich für diese Einkünfte allein ergibt (Art. 218 Abs. 2 und 3 DBG).
3.2 Diese Grundsätze sind nicht umstritten. Der Beschwerdeführer macht nicht geltend, dass der im Zusammenhang mit der Kapitalherabsetzung der Y._ AG erzielte Liquidationsüberschuss als ausserordentliche Einkunft der Besteuerung nicht unterliege. Er beanstandet auch die Höhe der Steuerforderung nicht. Der Streit dreht sich einzig um die subjektive Seite der Steuerpflicht, d.h. darum, ob die Steuer beim Beschwerdeführer erhoben werden durfte.
4. 4.1 Nach den Feststellungen der Vorinstanz hat der Beschwerdeführer die Aktien, die Gegenstand der Kapitalherabsetzung vom 17. Oktober 2000 bildeten, mit Kaufvertrag vom 30. Juni 1997, worin er als deren Alleineigentümer bezeichnet wird, an die Y._ AG verkauft. Er hat damit als Empfänger des Liquidationsüberschusses zu gelten und diesen als Einkunft zu versteuern. Der Beschwerdeführer macht jedoch geltend, er sei nie zivilrechtlicher Eigentümer der Aktien gewesen; er habe diese nur treuhänderisch für die Z._ AG bzw. deren Rechtsnachfolgerin, die B._ AG, gehalten. Dieser Standpunkt ist widersprüchlich, zeichnet sich das Treuhandverhältnis doch gerade dadurch aus, dass der Treuhänder zivilrechtlich das volle Eigentum am Treugut erwirbt und er gegenüber dem Treugeber nur obligatorisch verpflichtet ist, dieses in bestimmter Weise zu gebrauchen (vgl. z.B. BGE 130 III 417 E. 3.4; 117 II 429 E. 2a; 109 II 239 E. 2b).
4.2 Nach feststehender Praxis sind die Steuerbehörden bei der direkten Bundessteuer berechtigt, Rechtsverhältnisse und Rechtsgeschäfte - unter Vorbehalt des Gegenbeweises - demjenigen zuzuschreiben, auf dessen Namen sie lauten. Ein im eigenen Namen abgeschlossenes Rechtsgeschäft wird nach dem gewöhnlichen Lauf der Dinge auch auf eigene Rechnung getätigt. Liegt ausnahmsweise ein Treuhandverhältnis vor, obliegt dessen Nachweis als steuermindernde Tatsache nach den allgemeinen Beweisregeln dem Steuerpflichtigen. Die Behauptung, ein im eigenen Namen abgeschlossenes Rechtsgeschäft sei treuhänderisch für einen Dritten abgeschlossen worden, darf unberücksichtigt gelassen werden, wenn das Treuhandverhältnis nicht einwandfrei nachgewiesen ist (ASA 68 S. 746 E. 3a, 49 S. 211 E. 1a).
4.3 Gemäss dem Merkblatt der Eidgenössischen Steuerverwaltung vom Oktober 1967 (publiziert in: Peter Locher, Kommentar zum DBG, Bundesgesetz über die direkte Bundessteuer, Bd. 1, Therwil/Basel 2001, N 152 der Vorbemerkungen), worauf entgegen der Auffassung des Beschwerdeführers als Ausdruck des Praxisüblichen abgestellt werden darf (vgl. ASA 49 S. 211 E. 1a), müssen für die Anerkennung eines Treuhandverhältnisses folgende formellen Voraussetzungen erfüllt sein:
1. Es müssen schriftliche Abmachungen aus der Zeit der Begründung der Treuhand vorliegen.
2. Das Treugut muss im Vertrag genau umschrieben sein (z.B. Bezeichnung der Wertschriften mit Nummern).
3. Dem Treuhänder dürfen aus der Anlage, Verwaltung und Veräusserung des Treugutes keine Risiken erwachsen.
4. Der Treuhänder soll vom Treugeber eine Entschädigung (Treuhandkommission) erhalten, die den für derartige Dienstleistungen handelsüblichen Ansätzen entspricht und im Vertrag genau festzuhalten ist.
5. Das Treugut muss in der Bilanz des Treuhänders klar als solches ersichtlich sein.
6. Über das Treugut sowie die Ansprüche und Verpflichtungen des Treugebers sind in der Buchhaltung des Treuhänders besondere Konti zu eröffnen und zu führen.
4.4 Der Beschwerdeführer beruft sich auf einen zwischen der Z._ AG und C._ als Treugeber und ihm als Treuhänder abgeschlossenen Treuhandvertrag vom 14. Dezember 1993, wonach er zum Zweck der Sanierung der Z._ AG von den Treuhändern 1'437 C._ gehörende, aber an die Z._ AG verpfändete Aktien der Y._ AG sowie eine Forderung der Z._ AG gegen C._ in der Höhe von Fr. 5'250'414.20 übernommen habe.
4.5 Nach der Auffassung der Vorinstanz erfüllt der Treuhandvertrag die von der Eidgenössischen Steuerverwaltung geforderten formellen Anforderungen an einen rechtsgültigen Treuhandvertrag nur teilweise. So seien beispielsweise die übernommenen Aktien nicht mit Nummern identifiziert worden. Sodann sei der Vertrag seitens der Z._ AG nur von C._ unterzeichnet worden, der aber damals nur kollektivunterschriftsberechtigt gewesen sei. Der eingereichte Treuhandvertrag sei daher ungültig. Dass mit der Replik ein vom Beschwerdeführer für die Z._ AG wahrscheinlich nachträglich ebenfalls unterzeichnetes Exemplar des Vertrags eingereicht worden sei, ändere daran nichts. Überdies sei dem ausdrücklichen Ziel des Treuhandvertrags, die Z._ AG wirtschaftlich zu sanieren, kaum nachgelebt worden. Obschon gemäss dem Vertrag das gesamte Paket von 1'437 Aktien fiduziarisch auf den Beschwerdeführer übertragen worden sein sollte, habe C._ am 7. Juli 1994 560 Aktien für 1'400'000.-- an die Y._ AG verkauft, ohne die fidiuziarische Übertragung an den Beschwerdeführer auch nur ansatzweise zu erwähnen. C._ habe sodann am 16. Oktober 1995 die verbleibenden 877 Aktien an den Beschwerdeführer zediert, ohne dass auf die 560 bereits zuvor an die Y._ AG verkauften Aktien Bezug genommen worden wäre. Weiter habe der Beschwerdeführer bestätigt, dass 30 Aktien zur Absicherung einer Unterhaltsforderung von Fr. 370'000.-- zeitweise an seine Ehefrau abgetreten worden seien, was Sinn und Zweck des Treuhandvertrags klar widerspreche. Nachdem die 877 Aktien der Y._ AG hätten verkauft werden können, seien mit dem Verkaufserlös von Fr. 4'250'000.-- in erster Linie Schulden des Beschwerdeführers im Umfang von Fr. 3'880'000.-- bei der D._ AG und die erwähnte Unterhaltsforderung der Ehefrau im Betrag von Fr. 370'000.-- beglichen worden. Der Beschwerdeführer habe die übernommenen Aktien damit vor allem im eigenen Interesse und nicht primär im Interesse der Z._ AG verwendet. Unter diesen Umständen sei das Treuhandverhältnis nicht einwandfrei nachgewiesen, weshalb es für die Steuerbehörden unbeachtlich sei.
4.6 Mit diesen Ausführungen setzt sich der Beschwerdeführer nur summarisch auseinander. Auch wenn von der Gültigkeit des Treuhandvertrags ausgegangen wird, lässt sich nicht bestreiten, dass dieser nicht nur im Interesse der Treugeber, sondern gerade auch in demjenigen des Beschwerdeführers abgewickelt worden ist.
4.6.1 Schon die Ausgangslage ist nicht eindeutig. Während die 1'437 Aktien der Y._ AG gemäss dem Treuhandvertrag der Z._ AG für eine Forderung gegen C._ verpfändet worden waren, sollten sie gemäss der in der Beschwerdeschrift wiedergegebenen ursprünglichen Sachdarstellung des Beschwerdeführers als Pfand für ein Darlehen des Beschwerdeführers an die Z._ AG dienen (nach einer vom Beschwerdeführer eingereichten der Bilanz der Z._ AG bzw. deren Rechtsnachfolgerin hatte dieser noch am 1. Januar 1997 eine Forderung gegen die Gesellschaft in der Höhe von Fr. 3'843'257.-- gehabt, nach einer anderen Version dieses Abschlusses wenigstens eine solche in der Höhe von Fr. 2'906'287.--). Sodann mag es zwar zutreffen, dass der Beschwerdeführer nicht Schuldner der D._ AG war. Nach seiner eigenen Darstellung hatte diese ihm nahestehende Firma vielmehr seine Forderung gegenüber der Z._ AG übernommen und wurde der Erlös aus dem Verkauf der 877 Y._-Aktien der E._-Bank zuhanden der D._ AG gutgeschrieben. Damit diente die Transaktion im Ergebnis aber auch der Einbringung der ursprünglich gegenüber der Z._ AG bestehenden Forderung und lag damit zumindest ebenfalls im Interesse des Beschwerdeführers. Dass die das Treugut verkörpernden Y._-Aktien für eine Forderung der E._-Bank gegen eine dem Beschwerdeführer nahestehende Firma verpfändet wurden, lässt sich ohnehin nicht mit dem Treuhandvertrag vereinbaren.
4.6.2 Aus den Akten ergibt sich ferner, dass der Beschwerdeführer gegenüber der E._-Bank eine Bürgschaft für die Schuld einer Drittfirma eingegangen war, die mit dem Verkaufserlös teilweise abgelöst werden konnte, was nur dem Beschwerdeführer selbst zugute kam. Ähnlich verhält es sich mit der Zahlung an die geschiedene Ehefrau, die ebenfalls aus dem Verkaufserlös der Aktien getätigt wurde und die ausschliesslich im Interesse des Beschwerdeführers erfolgte. Diese Vermengung der Interessen der Treugeber mit denjenigen des Treuhänders spricht gegen das Vorliegen eines echten, von den Steuerbehörden zu beachtenden Treuhandverhältnisses.
4.6.3 Im Übrigen hat der Beschwerdeführer nie eine Abrechnung über das Teuhandverhältnis eingereicht. Auch wenn er nicht buchführungspflichtig war, hätte von ihm doch zumindest eine rudimentäre Aufstellung über die Ansprüche und Verpflichtungen bzw. die Einnahmen und Ausgaben aus diesem Geschäft erwartet werden dürfen. Entgegen der Behauptung des Beschwerdeführer trifft es im übrigen auch nicht zu, dass die streitigen Aktien bei der Z._ AG als Aktivum bilanziert waren; jedenfalls ergibt sich dies nicht aus den eingereichten Jahresrechnungen.
4.7 Angesichts dieser Ungereimtheiten kann nicht von einem einwandfreien Nachweis des Treuhandverhältnisses gesprochen werden. Es ist daher jedenfalls im Ergebnis nicht zu beanstanden, wenn die Vorinstanz diesem bei der direkten Bundessteuer die Anerkennung versagte und den Beschwerdeführer auf den von ihm im eigenen Namen abgeschlossenen Rechtsgeschäft behaftete. Die Beschwerde ist insoweit unbegründet.
5. Für die Besteuerung von Liquidationsüberschüssen gelten bei der Staats- und Gemeindesteuer dieselben Regeln wie bei der direkten Bundessteuer (vgl. § 26 Abs. 1 lit. b StG, Art. 7 Abs. 1bis des Bundesgesetzes vom 14. Dezember 1990 über die Harmonisierung der direkten Steuern der Kantone und Gemeinden, StHG, SR 642.14; hinsichtlich der Besteuerung ausserordentlicher Einkünfte beim Wechsel der zeitlichen Bemessung vgl. ferner § 276 Abs. 1 und 3 lit. a StG und Art. 69 Abs. 2 und 3 StHG). Es kann daher insofern auf die Erwägungen zur direkten Bundessteuer verwiesen werden.
6. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten muss somit sowohl hinsichtlich der direkten Bundessteuer als auch hinsichtlich der kantonalen Staats- und Gemeindesteuern abgewiesen werden, soweit darauf einzutreten ist, während auf die subsidiäre Verfassungsbeschwerde nicht eingetreten werden kann.
Dem Ausgang des Verfahrens entsprechend sind die Kosten dem Beschwerdeführer aufzuerlegen (Art. 65, 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird hinsichtlich der direkten Bundessteuer abgewiesen, soweit darauf einzutreten ist.
2. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird hinsichtlich der Staats- und Gemeindesteuern abgewiesen, soweit darauf einzutreten ist.
3. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
4. Die Gerichtskosten von Fr. 15'000.-- werden dem Beschwerdeführer auferlegt.
5. Dieses Urteil wird den Parteien, dem Kantonalen Steuergericht Solothurn und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 4. März 2008
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Merkli Uebersax