Sachverhalt:
A. Die Steuerverwaltung des Kantons Bern veranlagte X.X._ im Rahmen eines Nachsteuerverfahrens mit Verfügung vom 2. Juli 2001 für die Steuerjahre 1993/1994 bezüglich der Staats- und Gemeindesteuern auf einen steuerbaren Vermögensertrag aus Teilliquidation von Fr. 252'800.--. Die dagegen erhobene Einsprache wies sie ab, worauf X.X._ an die Steuerrekurskommission des Kantons Bern rekurrierte. Diese wies den Rekurs am 19. Oktober 2004 ab. Mit Entscheid vom 29. März 2005 trat das Verwaltungsgericht des Kantons Bern auf eine Beschwerde gegen den Rekursentscheid wegen Verspätung nicht ein. X.X._ erhob gegen diesen Entscheid staatsrechtliche Beschwerde an das Bundesgericht. Am 12. Mai 2005 starb X.X._, worauf seine Erben X.A._, X.B._, X.C._ und X.D._ in den Prozess eintraten. Mit Urteil vom 23. März 2006 hiess das Bundesgericht die staatsrechtliche Beschwerde gut und hob den angefochtenen Entscheid auf (Urteil 2P.120/2005). Das Verwaltungsgericht nahm in der Folge das Verfahren wieder auf und wies die Beschwerde mit Entscheid vom 23. August 2007 ab.
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten bzw. subsidiärer Verfassungsbeschwerde vom 18. September 2007 beantragen die Erben von X.X._, der Entscheid des Verwaltungsgerichts vom 23. August 2007 sei aufzuheben und von der Veranlagung eines steuerbaren Einkommens infolge Teilliquidation im Nachsteuerverfahren sei abzusehen; ferner sei die Verfügung der Steuerbehörden vom 2. Juli 2001 aufzuheben.
Die Steuerverwaltung und das Verwaltungsgericht beantragen die Abweisung der Beschwerde, während die Eidgenössische Steuerverwaltung auf Vernehmlassung verzichtet hat.
Erwägungen:
1. 1.1 Die Beschwerde richtet sich gegen den Entscheid einer letzten kantonalen Instanz in einer Angelegenheit des öffentlichen Rechts (Art. 82 lit. a und Art. 86 Abs. 1 lit. d BGG). Eine Ausnahme gemäss Art. 83 BGG liegt nicht vor. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist daher zulässig. Für die eventualiter eingereichte subsidiäre Verfassungsbeschwerde verbleibt damit kein Raum (Art. 113 BGG).
1.2 Nicht eingetreten werden kann allerdings auf das Rechtsbegehren, die Verfügung der Steuerverwaltung vom 2. Juli 2001 aufzuheben. Diese ist durch den Entscheid des Verwaltungsgerichts ersetzt worden (sog. Devolutiveffekt); immerhin gilt sie als inhaltlich mitangefochten (vgl. BGE 129 II 438 E. 1 S. 441; 125 II 29 E. 1c S. 33, mit Hinweisen).
2. 2.1 X.X._ war Minderheitsaktionär bei der X.Y._ AG. In seinem Eigentum befanden sich die Aktienzertifikate Nr. 12 und Nr. 17, welche zwei Namenaktien zu nominal Fr. 1'000.-- sowie 452 Namenaktien zu nominal Fr. 100.-- verkörperten. Diese Zertifikate bzw. die betreffenden Aktien veräusserte er am 17. Juli 1992 für Fr. 300'000.--. Die Steuerverwaltung gelangte zum Ergebnis, Käufer der Aktien sei die X.Y._ AG gewesen und nicht, wie von den Beschwerdeführern behauptet, die Erbengemeinschaft des verstorbenen X.Y._. Da die Gesellschaft die Aktien in den folgenden Jahren nicht weiterveräussert und sie auch nicht durch Kapitalherabsetzung vernichtet habe, sei von einer Teilliquidation auszugehen; die Differenz zwischen dem Nennwert und dem Verkaufspreis der Aktien im Betrag von Fr. 252'800.-- (Verkaufserlös von Fr. 300'000.-- abzüglich Nennwert sämtlicher Aktien von Fr. 47'200.--) stelle einen Kapitalertrag gemäss Art. 28 Abs. 1 lit. c des im vorliegenden Fall noch anwendbaren (alten) bernischen Steuergesetzes vom 29. Oktober 1944 dar, welcher der Einkommenssteuer unterliege.
2.2 Die Rechtsfolge der von der Vorinstanz festgestellten Sachlage wird von den Beschwerderführern als solche nicht beanstandet. Auch die Berechnung des steuerbaren Betrags ist nicht streitig. Die Beschwerde richtet sich ausschliesslich gegen die Feststellung, dass X.X._ die Aktien an die X.Y._ AG verkauft habe.
2.3 Nach Art. 97 Abs. 1 BGG kann die Feststellung des Sachverhalts nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens von Bedeutung ist. Letztere Voraussetzung ist hier offensichtlich erfüllt.
3. 3.1 Zu den Rechtsverletzungen, die beim Bundesgericht gerügt werden können, gehört namentlich die Verletzung von Bundesrecht (Art. 95 lit. a BGG). Die Beschwerdeführer machen geltend, das Verwaltungsgericht habe die Regeln über die Verteilung der Beweislast in bundesrechtswidriger Weise gehandhabt. Zwar sei es zu Recht davon ausgegangen, dass den Geschäftsbüchern eine erhöhte Beweiskraft zukomme und dass die Vermutung ihrer Richtigkeit entweder durch den direkten Beweis der materiellen Unrichtigkeit widerlegt oder durch den Nachweis von Tatsachen, welche die Unrichtigkeit vermuten liessen, umgestossen werden könne. In der Folge habe die Vorinstanz dann aber einen eigentlichen Gegenbeweis verlangt und damit eine Beweisanforderung gestellt, die willkürlich erhöht und in offensichtlichem Widerspruch zu seiner eigenen Messlatte stehe.
3.2 Die streitige Transaktion fand im Jahre 1992 statt. Das Bundesgesetz vom 14. Dezember 1990 über die Harmonisierung der direkten Steuern der Kantone und Gemeinden (Steuerharmonisierungsgesetz, StHG; SR 642.14) war damals noch nicht in Kraft, und erst recht war die in Art. 72 Abs. 1 StHG statuierte Frist, innert welcher die Kantone ihre Gesetzgebung den Vorschriften dieses Gesetzes anzupassen hatten, noch nicht abgelaufen. Die Gegenstand des Verfahrens bildende Nachsteuerforderung ist daher ausschliesslich nach kantonalem Recht zu beurteilen, dessen Anwendung vom Bundesgericht auch unter der Herrschaft des Bundesgerichtsgesetzes nur unter dem Gesichtswinkel der Willkür überprüft werden kann. Das gilt auch hinsichtlich der Beweislastregeln. Diese - zum Teil ungeschriebenen - Regeln stellen kein Bundesrecht im Sinne von Art. 95 lit. a BGG dar, soweit in der Sache kantonales Recht anwendbar ist.
3.3 Von einer Bundesrechtswidrigkeit könnte im Übrigen nicht die Rede sein, erst recht nicht von Willkür. Das Verwaltungsgericht ist davon ausgegangen, dass sich der Verkauf der X.X._ gehörenden Aktien an die X.Y._ AG aus deren Buchhaltung ergebe. Für deren Richtigkeit spreche eine natürliche Vermutung. Eine allfällige Unrichtigkeit der Geschäftsbücher oder Tatsachen, welche die Unrichtigkeit vermuten liessen, seien daher entgegen der Auffassung der Beschwerdeführer im Sinne eines Gegenbeweises von diesen nachzuweisen. Damit hat das Verwaltungsgericht den Begriff des Gegenbeweises nicht verkannt. Darunter wird nach allgemeinem Sprachgebrauch der Beweis von Umständen verstanden, die beim Richter Zweifel an der Richtigkeit der Gegenstand des Hauptbeweises bildenden Sachbehauptungen wachhalten und diesen dadurch vereiteln sollen. Für das Gelingen des Gegenbeweises ist mithin bloss erforderlich, dass der Hauptbeweis erschüttert wird, nicht aber auch, dass der Richter von der Schlüssigkeit der Gegendarstellung überzeugt wird. Insoweit unterscheidet sich der Gegenbeweis vom Beweis des Gegenteils (BGE 130 III 321 E. 3.4 S. 326, 120 II 393 E. 4b S. 396 f., 115 II 305). Von diesen Grundsätzen ist auch das Verwaltungsgericht ausgegangen. Es hat den Beschwerdeführern nicht den (Haupt)Beweis dafür auferlegt, dass X.X._ seine Aktien nicht an die X.Y._ AG, sondern an dessen Erben verkauft habe. Der von den Beschwerdeführern behauptete Widerspruch liegt nicht vor.
4. 4.1 Damit bleibt einzig die Frage zu prüfen, ob die Feststellung, die X.Y._ AG habe die Aktien von X.X._ erworben, offensichtlich unrichtig ist.
4.2 Offensichtlich unrichtig ist eine Sachverhaltsfeststellung nicht schon dann, wenn Zweifel an ihrer Richtigkeit bestehen, sondern erst, wenn ihre Unrichtigkeit in die Augen springt. Das ist hier nicht der Fall.
4.3 Gemäss dem Bericht des Experten, der im Auftrag der Steuerrekurskommission beim Konkursamt Zürich-Aussersihl die Akten der inzwischen liquidierten X.Y._ AG ausgewertet hat, ist das Aktienbuch für das Jahr 1992 nicht mehr auffindbar. In den Konkursunterlagen befand sich indessen ein Tresorinventar per 16. Dezember 1994, woraus sich entnehmen lässt, dass die Gesellschaft die streitigen Aktien am 17. Juli 1992 von X.X._ erworben hat. In der Buchhaltung findet sich unter diesem Datum eine entsprechende Buchung ("Kauf Aktien von Th. Läderach"). Per 31. Dezember 1992 wurden die für Fr. 300'000.-- erworbenen Wertpapiere auf das Konto "eigene Aktien" umgebucht. Diesen Buchungen hat das Verwaltungsgericht zu Recht erhöhte Beweiskraft beigemessen, zumal keine Anhaltspunkte dafür vorliegen, dass die Buchhaltung formell nicht ordnungsgemäss geführt war. Die darauf gestütze Vermutung, dass X.X._ die Aktien an die X.Y._ AG verkauft habe, vermögen die Beschwerdeführer nicht zu entkräften. Dass keine Belege für die Buchungen vorliegen und das Aktienbuch nicht mehr auffindbar war, reicht hiefür nicht aus, ebenso wenig der Umstand, dass sich entgegen der Darstellung im Entscheid der Steuerrekurskommission in den Akten keine Quittung über die Kaufpreiszahlung findet.
4.4 Die Beschwerdeführer vermögen für ihre eigene Sachdarstellung, wonach die Aktien an die Erben von X.Y._ verkauft worden seien, keine beweiskräftigen Unterlagen beizubringen. Sie berufen sich auf einen von ihnen zu den Akten gegebenen undatierten und unvollständigen Auszug aus dem Protokoll der Generalversammlung der X.Y._ AG vom 17. Juli 1992, mit folgendem Wortlaut:
"Rein zur Information wird festgestellt, dass mit dem Ausscheiden von X.X._ aus dem Verwaltungsrat er auch darum gebeten hat, seine Aktien verkaufen zu dürfen. Diesem Verkaufsgesuch wurde entsprochen und X.X._ hat für zwei Namenaktien à Fr. 1'000.--, Nr. 324 und 325, sowie 452 Namenaktien à Fr. 100.--, Nr. 949 - 1400, einen Totalbetrag von Fr. 300'000.-- erhalten. Die Erben des X.Y._ werden zu gegebener Zeit der Verwaltungsrat der X.Y._ AG bekannt geben, wer neu ins Aktienbuch einzutragen ist. Die Aktienzertifikate Nr. 12 und 17 wurden von X.X._ rechtsgültig indossiert."
Dieser Protokollauszug vermag jedoch eine eigentliche Vertragsurkunde nicht zu ersetzen. Er spricht zwar dafür, dass X.X._ seine Aktien verkauft und dafür eine Gegenleistung von Fr. 300'000.-- erhalten hat, doch lässt sich ihm nicht eindeutig entnehmen, wer der Käufer der Aktien war und wer X.X._ den Kaufpreis bezahlt hat. Wohl lässt der Wortlaut des Protokollauszugs darauf schliessen, dass die Aktien letztendlich in das Eigentum der Erben von X.Y._ übergehen sollten. Dass einstweilen offen gelassen wurde, wer als Nachfolger des Verkäufers ins Aktienbuch eingetragen werden sollte, lässt sich aber zwangslos auch so interpretieren, dass sie in einer ersten Phase auf die X.Y._ AG übergehen und erst zu gegebener Zeit, z.B. nach Einigung über die Höhe der Anteile oder nach Beschaffung des Kaufpreises, auf die Erben übertragen werden sollten, was indessen in der Folge nicht geschah. Auf jeden Fall hat die Gesellschaft die Aktien vom 17. Juli 1992 an bis zu ihrer konkursamtlichen Liquidation in ihren Büchern geführt, was auch dem Tresorinventar entspricht und was die Beschwerdeführer im Übrigen gar nicht bestreiten. Wollte man ihrer Sachdarstellung folgen, würde dies voraussetzen, dass die fraglichen Aktien von den Erben zu einem späteren Zeitpunkt und ohne entsprechende Erfassung in der Buchhaltung an die Gesellschaft weiterverkauft worden sind. Dafür fehlen aber jegliche Anhaltspunkte. Die Beschwerdeführer schweigen sich darüber aus, wann und unter welchen Bedingungen eine solche Transaktion stattgefunden haben könnte.
4.5 Wenn das Verwaltungsgericht unter diesen Umständen zum Schluss gelangte, die Beschwerdeführer hätten die Vermutung der Richtigkeit der Buchhaltung nicht umzustossen vermocht, weshalb es als erwiesen zu erachten sei, dass X.X._ seine Aktien an die X.Y._ AG und nicht an die Erben von X.Y._ verkauft habe, so ist dies zumindest vertretbar. Die Feststellung der Vorinstanz ist daher nicht offensichtlich unrichtig.
5. Die Beschwerde erweist sich damit als unbegründet und ist abzuweisen, soweit darauf eingetreten werden kann.
Dem Ausgang des Verfahrens entsprechend sind die Kosten den Beschwerdeführern unter Solidarhaft aufzuerlegen (Art. 65, 66 Abs. 1 und 5 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 3'000.-- werden den Beschwerdeführern unter solidarischer Haftbarkeit auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Bern, Verwaltungsrechtliche Abteilung, und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 24. Januar 2008
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Merkli Uebersax