Sachverhalt:
A. Der Schweizerische Verband für Pferdesport (SVPS; nachfolgend: Verband SVPS) ist gemäss den revidierten Statuten vom 24. März 2007 ein Verein im Sinne von Art. 60 ff. ZGB mit Sitz in Bern. Er bildet die Dachorganisation aller Verbände und Vereine, die sich im weitesten Sinne mit dem Pferd und dem Pferdesport in der Schweiz befassen. Der Verband SVPS unterstützt und koordiniert gesamtschweizerisch die Interessen seiner Mitglieder und vertritt diese in der Öffentlichkeit, bei den Behörden, bei Swiss Olympic sowie in anderen nationalen und internationalen Organisationen wie insbesondere in der Fédération Equestre Internationale (FEI). Der Verband SVPS koordiniert und fördert die Aus- und Weiterbildung aller Pferdesporttreibenden im Reiten, Fahren und im Umgang mit dem Pferd. Er setzt sich für die Nachwuchsförderung und die Belange des Tierschutzes im Pferdesport sowie in der Pferdehaltung ein. Der Verband SVPS fördert und unterstützt den wettkampfmässigen Pferdesport aller Disziplinen in der Schweiz. Er trifft alle notwendigen Massnahmen für eine einheitliche und sportlich einwandfreie Organisation und Durchführung von wettkampfmässigen Veranstaltungen und Prüfungen mit Pferden. Mitglieder des Verbands SVPS sind die Regional- und die Fachverbände im Bereich von Pferdesport, Pferdehaltung und -zucht. Der Verband SVPS verfügt über Aktiven von über 4,5 Mio. Franken, und sein Eigenkapital beträgt über 1,1 Mio. Franken. Abgesehen von den Mitgliederbeiträgen stammen seine Mittel u.a. aus der gewinnbringenden Durchführung von Sportveranstaltungen, aus Sponsoringbeiträgen sowie aus Subventionen der öffentlichen Hand.
B. Mit Schreiben vom 24. November 2005 stellte der Verband SVPS das Gesuch um Steuerbefreiung für die Kantons- und Gemeindesteuern, die direkte Bundessteuer sowie die Erbschafts- und Schenkungssteuern wegen Verfolgung öffentlicher Zwecke. Mit Verfügung vom 9. Juni 2008 wies die Steuerverwaltung des Kantons Bern das Gesuch ab. Eine dagegen erhobene Einsprache wurde an die Steuerrekurskommission des Kantons Bern weitergeleitet, welche den Sprungrekurs bzw. die -beschwerde am 21. April 2009 abwies. Beschwerden an das Verwaltungsgericht des Kantons Bern wies dieses am 7. April 2010 ebenfalls ab.
C. Gegen diesen Entscheid des Verwaltungsgerichts des Kantons Bern vom 7. April 2010 führt der Verband SVPS mit Eingabe vom 5. Mai 2010 Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht mit dem Antrag, der Entscheid des Verwaltungsgerichts des Kantons Bern vom 7. April 2010 sei aufzuheben, und er sei von Kantons- und Gemeindesteuern, der direkten Bundessteuer sowie der Erbschafts- und Schenkungssteuer ganz bzw. eventuell teilweise zu befreien. Er rügt eine unrichtige Feststellung des Sachverhalts und eine Verletzung von Bundesrecht. Dabei macht er namentlich eine Ungleichbehandlung gegenüber dem Verein Swiss Olympic, der Stiftung Berner Symphonieorchester sowie den internationalen Sportverbänden geltend.
D. Die Steuerverwaltung des Kantons Bern, das Verwaltungsgericht des Kantons Bern sowie die Eidgenössische Steuerverwaltung schliessen auf Abweisung der Beschwerde.
Erwägungen:
1. 1.1 Die Beschwerde richtet sich gegen einen letztinstanzlichen kantonalen Endentscheid in einer Angelegenheit des öffentlichen Rechts. Eine Ausnahme im Sinne von Art. 83 BGG ist nicht gegeben. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist daher zulässig (Art. 82 Abs. 1 lit. a, Art. 86 Abs. 1 lit. d BGG in Verbindung mit Art. 73 des Bundesgesetzes vom 14. Dezember 1990 über die Harmonisierung der direkten Steuern der Kantone und Gemeinden [StHG, SR 642.14], soweit es um die Kantons- und Gemeindesteuern geht, bzw. in Verbindung mit Art. 146 des Bundesgesetzes vom 14. Dezember 1990 über die direkte Bundessteuer [DBG, SR 173.110] betreffend die direkte Bundessteuer). Der Beschwerdeführer ist gestützt auf Art. 89 Abs. 1 BGG zur Beschwerde in öffentlich-rechtlichen Angelegenheiten legitimiert. Auf die frist- und formgerecht eingereichte Beschwerde ist grundsätzlich einzutreten (Art. 100 BGG).
1.2 Mit der Beschwerde kann eine Rechtsverletzung nach Art. 95 und 96 BGG geltend gemacht werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist weder an die in der Beschwerde gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann die Beschwerde aus einem anderen als dem angerufenen Grund gutheissen, und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Das Bundesgericht legt sodann seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG). Deren Sachverhaltsfeststellungen können nur berichtigt werden, wenn sie offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen (Art. 105 Abs. 2 bzw. Art. 97 Abs. 1 BGG).
1.3 Gemäss Art. 42 Abs. 1 BGG hat die Rechtsschrift die Begehren und deren Begründung zu enthalten; im Rahmen der Begründung ist in gedrängter Form darzulegen, inwiefern der angefochtene Entscheid Recht verletzt (Art. 42 Abs. 2 BGG). Die Vorbringen müssen sachbezogen sein, damit aus der Beschwerdeschrift ersichtlich ist, in welchen Punkten und weshalb der angefochtene Entscheid beanstandet wird. Dabei gilt hinsichtlich der Verletzung von Grundrechten eine qualifizierte Rügepflicht (Art. 106 Abs. 2 BGG; vgl. BGE 133 II 249 E. 1.4.2 S. 254, 396 E. 3.1 S. 399). Eine den Anforderungen von Art. 42 Abs. 2 bzw. Art. 106 Abs. 2 BGG genügende Begründung ist hier nur teilweise zu erkennen. Wenn der Beschwerdeführer eine unrichtige Sachverhaltsfeststellung hinsichtlich des Umfangs der öffentlichen Aufgaben des Bundes im Sportbereich rügt, so handelt es sich hierbei um eine Konkretisierung der diesbezüglichen verfassungsrechtlichen Befugnis des Bundes und damit um eine Rechtsfrage. Und soweit es um die Anwendung des bernischen Gesetzes vom 23. November 1999 über die Erbschafts- und Schenkungssteuer (ESchG, BSG 662.1) geht, wird nicht dargelegt, inwiefern das vorinstanzliche Ergebnis geradezu willkürlich sei oder sonst wie gegen Verfassungsrecht verstossen sollte. Soweit es in diesem Sinne an einer genügenden Begründung fehlt, ist auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten nicht einzutreten.
2. 2.1 Zu prüfen ist zunächst eine allfällige Steuerbefreiung bei der direkten Bundessteuer.
2.2 Nach Art. 56 lit. g DBG sind juristische Personen, die öffentliche oder gemeinnützige Zwecke verfolgen, für den Gewinn, der ausschliesslich und unwiderruflich diesen Zwecken gewidmet ist, von der Steuerpflicht befreit. Neben der Verfolgung gemeinnütziger Zwecke bildet diejenige öffentlicher Zwecke eine eigenständige steuerprivilegierte Zielsetzung. Dabei handelt es sich um eine restriktiv zu fassende Kategorie von Aufgaben, die sich eng an die Staatsaufgaben anlehnen müssen. Juristische Personen, die in erster Linie Erwerbs- oder Selbsthilfezwecke verfolgen, haben grundsätzlich - unter Vorbehalt einer teilweisen Befreiung, sofern eine rechnungsmässig klare Trennung besteht - keinen Anspruch auf Steuerbefreiung, selbst wenn sie zugleich öffentlichen Zwecken dienen (BGE 131 II 1 E. 3.3 S. 6 f.; vgl. auch Urteil 2A.42/2007 vom 11. Juni 2008 E. 2.2 mit Hinweisen). Art. 56 lit. g DBG wird durch das Kreisschreiben der Eidgenössischen Steuerverwaltung vom 8. Juli 1994 (ASA 63, 130) näher konkretisiert. Damit eine Steuerbefreiung beansprucht werden kann, muss - nebst hier nicht interessierenden allgemeinen Voraussetzungen - bei juristischen Personen mit öffentlicher Zwecksetzung vor allem dieser "öffentliche Zweck" gegeben sein. Dabei sind bei Einrichtungen ohne Erwerbs- oder Selbsthilfezweck alle Zwecke öffentlich, die in den ordentlichen Aufgabenkreis eines Gemeinwesens fallen, selbst wenn sie dem Gemeinwesen nicht durch Gesetz übertragen wurden, sondern nach allgemeiner Auffassung als dessen Angelegenheit betrachtet werden. Bei Einrichtungen mit Erwerbs- oder Selbsthilfezweck ist zudem in der Regel erforderlich, dass sie durch einen besonderen Akt (z.B. ein Gesetz) mit der Erfüllung einer öffentlichen Aufgabe betraut worden sind (ASA 63, 133 ff.; vgl. auch Daniel Imthurn, Die Praxis der Steuerbefreiung bei privatrechtlich organisierten juristischen Personen mit öffentlichen Zwecken, StR 63 [2008], S. 760 ff., sowie die Praxishinweise der Kommission für Selbständigerwerbende und juristische Personen, Arbeitsgruppe Steuerbefreiung der Schweizerischen Steuerkonferenz [SSK], Steuerbefreiung juristischer Personen, die öffentliche oder gemeinnützige Zwecke oder Kultuszwecke verfolgen, vom 18. Januar 2008; ferner Thomas Graf, Steuerbefreiung von Sportvereinigungen, 1992, S. 64 ff.; Marco Greter, Kommentar zum Schweizerischen Steuerrecht [I/2a], Bundesgesetz über die direkte Bundessteuer [DBG], 2008, Rz. 27 ff. zu Art. 56 DBG; Peter Locher, Kommentar zum DBG, II. Teil, 2004, Rz. 83 ff. zu Art. 56 DBG; Felix Richner/Walter Frei/Stefan Kaufmann/Hans Ulrich Meuter, Handkommentar zum DBG, 2. Aufl., 2009, N. 41 ff. zu Art. 56 DBG; Nicolas Urech, in: Yersin/Noël [Hrsg.], Commentaire romand, Impôt fédéral direct, 2008, N. 52 ff. ad art. 56 LIFD). Jede Steuerbefreiung, auch eine teilweise, ist sodann ausgeschlossen, wenn die juristische Person Erwerbs- oder Selbsthilfezwecke verfolgt, die ein gewisses Ausmass übersteigen (BGE 131 II 1 E. 3.3 S. 7; vgl. auch Urteil 2C_592/2008 vom 2. Februar 2009 E. 2.2 am Ende).
2.3 Nach der Vorinstanz ist die Sportförderung zwar eine verfassungsmässige Aufgabe des Bundes (Art. 68 BV). Der Bund nehme diese aber vorab dadurch wahr, dass er finanzielle Mittel zur Verfügung stellt und günstige Rahmenbedingungen zur Entfaltung des Sports schafft. Eine eigentliche Staatsaufgabe sei sie jedoch nicht. Entsprechend nehme der Beschwerdeführer dem Gemeinwesen weder eine Aufgabe ab noch unterstütze er dieses bei der Aufgabenerfüllung. Ebenso wenig könne er aus dem Entscheid der Steuerrekurskommission des Kantons Bern vom 14. Dezember 1999 betreffend Steuerbefreiung der Stiftung Berner Symphonieorchester (BVR 2001 S. 106 ff.) etwas zu seinen Gunsten ableiten. Dort wurde die Aufgabe, welche die Stiftung übernommen hatte, trotz fehlender förmlicher Delegation als von der Allgemeinheit anerkannte kommunale bzw. staatliche Aufgabe beurteilt und damit die öffentliche Zweckerfüllung bejaht. Zu diesem Schluss kam das Gericht auch deshalb, weil die Stiftung fast ausschliesslich von der öffentlichen Hand finanziert wird und diese Beiträge als Abgeltungen bezeichnet werden. Beim Beschwerdeführer hingegen werden rund 5 Prozent des Gesamtaufwandes aus Bundesbeiträgen gedeckt. Schliesslich sei weder die Steuerbefreiung des Vereins Swiss Olympic noch diejenige der internationalen Sportverbände vergleichbar, weshalb kein Verstoss gegen den Gleichbehandlungsgrundsatz vorliege.
2.4 Diese Erwägungen der Vorinstanz vermögen insoweit nicht zu überzeugen, als sie die Sportförderung durch den Bund nicht als Staatsaufgabe versteht. Wohl handelt es sich bei Art. 68 BV nur um eine sogenannte Förderungskompetenz des Bundes für einen Aufgabenbereich, für den grundsätzlich die Kantone zuständig sind (vgl. Ulrich Häfelin/Walter Haller/Helen Keller, Schweizerisches Bundesstaatsrecht, 7. Aufl., 2008, Nr. 1090 S. 322; Piermarco Zen-Ruffinen, in: Ehrenzeller/Mastronardi/Schweizer/Vallender [Hrsg.], Die Schweizerische Bundesverfassung, St. Galler Kommentar, 2. Aufl., 2008, N. 4 zu Art. 68 BV). Art. 68 BV sieht eine Bundeskompetenz zur "gesamtheitlichen Förderung des Sports" vor, nicht jedoch eine eigentliche "Regelungskompetenz" (BBI 1997 1284). Aus dem Konzept des Bundesrates für eine Sportpolitik in der Schweiz vom 1. November 2005 geht hervor, dass sich der Bund nicht nur als Geldverteiler versteht, sondern in immer mehr sportrelevanten Bereichen aktiv wird (z.B. Gesundheit, Freizeitgestaltung, Bildung, Leistung). Soweit sich daher der Beschwerdeführer im Bereich der Nachwuchsförderung und des Spitzensports engagiert sowie für einen sauberen Sport eintritt, verfolgt er durchaus Ziele, die auch zur Sportpolitik des Bundes gehören (vgl. das erwähnte Konzept). Und soweit der Beschwerdeführer die Aus- und Weiterbildung in seiner Sparte unterstützt, erfüllt er Aufgaben, welche an sich Sache der Kantone sind (Marco Borghi, Komm. aBV, Rz. 10 f. zu Art. 27quinquies aBV). Die Vorinstanz geht daher zu weit, wenn sie beim Beschwerdeführer jegliche öffentliche Zweckverfolgung verneint. Allerdings fehlt es hier an einer Aufgabenübertragung mittels eines förmlichen Aktes. Der Verband SVPS nimmt sich aus eigener Initiative dieser Bereiche an, wofür er nun trotz fehlender Leistungsvereinbarung gewisse Finanzhilfen bezieht.
2.5 Dies ändert freilich nichts am Ergebnis. Selbst wenn der Beschwerdeführer gewisse öffentliche Zwecke mitverfolgt, scheitert hier eine Steuerbefreiung am überwiegenden Erwerbs- bzw. Selbsthilfezweck des Verbands. Dieser ergibt sich bereits aus Art. 2.2 der Statuten, wonach der SVPS gesamtschweizerisch die Interessen seiner Mitglieder unterstützt und koordiniert, sowie aus dem Leitsatz des Leitbildes vom 29. März 2008, wonach sich der Verband SVPS "als effizienter und zukunftsorientierter Verband dem Kulturgut Pferd und seinen Mitgliedern verpflichtet". Der Fall weist damit Parallelen zum Sachverhalt auf, welcher dem Urteil 2A.408/1990 vom 2. Juli 1991 (ASA 60, 623 ff.) zugrunde lag, wo sich verschiedene nationale und regionale Verbände im Bereich der Viehzucht zu einer Genossenschaft mit dem Namen "Kommission schweizerischer Viehzuchtverbände" zusammengeschlossen und für ihre Selbsthilfeorganisation Steuerbefreiung verlangt hatten. Auch in diesem noch zu Art. 16 Ziff. 2 BdBSt ergangenen Urteil erwog das Bundesgericht, soweit diese Kommission (anerkanntermassen) öffentliche Aufgaben erfülle, diene sie gleichwohl in erster Linie den privaten Interessen der beteiligten Verbände und ihrer Mitglieder, und soweit sie für gewisse Tätigkeiten vom Bund Subventionen erhalte, zeige dies nur, dass diese auch im öffentlichen Interesse liegen, aber keinen ausreichenden Grund für eine Steuerbefreiung bilden (E. 3b, ASA 63, 627 f.).
2.6 Der Beschwerdeführer ist somit nicht von der direkten Bundessteuer befreit.
3. 3.1 Der Beschwerdeführer führt freilich drei Vergleichsfälle an, in denen die Steuerbefreiung gewährt wurde, und verlangt, gleich behandelt zu werden.
3.2 So beruft sich der Beschwerdeführer auf den Entscheid der Steuerrekurskommission des Kantons Bern vom 14. Dezember 1999 betreffend Steuerbefreiung der Stiftung Berner Symphonieorchester (BVR 2001 S. 106 ff.). Wieweit sich aus diesem Urteil der kantonalen Steuerrekurskommission ein Anspruch auf Gleichbehandlung herleiten liesse, der auch das Bundesgericht binden würde, ist aber nicht ersichtlich. Insbesondere sind die Verhältnisse nicht vergleichbar, da es - entgegen dem Beschwerdeführer - durchaus eine Rolle spielt, ob eine Subventionierung zu 90 Prozent wie im angesprochenen Fall oder nur zu rund 5 Prozent wie beim Beschwerdeführer erfolgt.
3.3 In erster Linie bezieht sich der Beschwerdeführer jedoch auf die Praxis bei Sportverbänden. Dazu macht er zunächst geltend, der Verein "Swiss Olympic" geniesse für seine "Giesskannenfunktion" seit dem 1. Januar 2002 Steuerfreiheit. Demgegenüber sei der Beschwerdeführer unmittelbar "im Sinne des Sportes tätig" und erfülle damit direkt einen öffentlichen Zweck. Wenn daher Swiss Olympic das Recht auf Steuerbefreiung habe, so müsse er "erst recht steuerbefreit werden". Sodann beruft sich der Beschwerdeführer auf die den internationalen Sportverbänden gewährte Steuerbefreiung. In diesem Zusammenhang hat der Bundesrat die Eidgenössische Steuerverwaltung am 5. Dezember 2008 beauftragt, den Kantonen mitzuteilen, dass Art. 56 lit. g DBG für "diese internationalen Sportverbände gesamtschweizerisch gleichermassen anzuwenden" sei (Rundschreiben der EStV vom 12. Dezember 2008; ASA 77, 519). Die Vorinstanz bezieht sich diesbezüglich auf die Antwort des Bundesrats vom 5. Dezember 2008 auf die Interpellation 08.3511 vom 24. September 2008 (Gemeinnützige UEFA?). Dort wird die Steuerfreiheit der internationalen Sportverbände mit deren gemeinnützigem Handeln (und nicht der Verfolgung öffentlicher Zwecke) begründet. Der internationale Sport trage nämlich zur Völkerverständigung bei, sei ein anerkanntes Element der Friedensförderung und vermittle positive Botschaften wie Fairplay, Kampf gegen Rassismus und Diskriminierung sowie Förderung der sozialen und kulturellen Integration. Der Beschwerdeführer erachtet es als unzulässig, diese internationalen Organisationen aufgrund ihrer angeblichen Gemeinnützigkeit von der Besteuerung auszunehmen, bzw. leitet daraus ab, die Steuerbefreiung sei auch ihm zu gewähren.
3.4 Aufgrund der Feststellungen im angefochtenen Entscheid lässt sich nicht abschliessend beurteilen, ob die angerufenen Fälle mit dem vorliegenden vergleichbar sind. Es rechtfertigt sich aber nicht, die Streitsache an die Vorinstanz zu ergänzenden Abklärungen zurückzuweisen. Sind die Fälle nämlich nicht vergleichbar, dann stünde dem Beschwerdeführer auch kein Recht auf Gleichbehandlung zu. Sind sie hingegen vergleichbar, dann würde sich die Frage der Gleichbehandlung im Unrecht stellen, nachdem feststeht, dass der Beschwerdeführer eigentlich nicht steuerbefreit ist, was diesfalls auch für die zum Vergleich beigezogenen Verbände gelten müsste. Der Anspruch auf Gleichbehandlung im Unrecht wird nach der bundesgerichtlichen Rechtsprechung ausnahmsweise anerkannt, wenn eine ständige rechtswidrige Praxis einer rechtsanwendenden Behörde vorliegt und die Behörde zu erkennen gibt, dass sie auch in Zukunft nicht von dieser Praxis abzuweichen gedenke (BGE 136 I 65 E. 5.6 S. 78 mit Hinweisen). Wie es sich hier damit verhält, ist nicht bekannt. Damit wird es nunmehr Sache der Steuerbehörden sein, in den eventuell schon hängigen, sonst jedenfalls in den künftigen Steuerveranlagungsverfahren der vom Beschwerdeführer zum Vergleich angeführten Organisationen im Lichte des vorliegenden Urteils zu prüfen, ob deren Steuerbefreiung gerechtfertigt ist. Lassen sich keine massgeblichen Unterschiede zum Beschwerdeführer feststellen, werden sich die Steuerbehörden darüber hinaus ausdrücklich dazu zu äussern haben, ob sie weiterhin an der (diesfalls grundsätzlich rechtswidrigen) Steuerbefreiung festhalten wollen. Nur unter dieser Voraussetzung könnte der Beschwerdeführer sich dannzumal künftig auf den Grundsatz der Gleichbehandlung im Unrecht berufen. Im vorliegenden Verfahren sind die Grundlagen dafür aber noch nicht gegeben.
4. Zusammengefasst hat der Beschwerdeführer bei der direkten Bundessteuer, jedenfalls zurzeit, keinen Anspruch auf ganze oder - mangels rechnungsmässiger Ausscheidung - teilweise Steuerbefreiung. Damit ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten betreffend die direkte Bundessteuer unbegründet und abzuweisen, soweit darauf eingetreten werden kann.
5. 5.1 Zu prüfen bleibt eine allfällige Steuerbefreiung bei den Staats- und Gemeindesteuern.
5.2 Art. 83 lit. g des Steuergesetzes des Kantons Bern vom 21. Mai 2000 (StG, BSG 661.11) entspricht Art. 23 Abs. 1 lit. f StHG, welcher seinerseits mit Art. 56 lit. g DBG harmoniert (nur dass sich die Steuerbefreiung im kantonalen Recht zusätzlich auf das Kapital erstreckt). Nach Art. 11 Abs. 3 der Verordnung vom 18. Oktober 2000 über die Steuerbefreiung juristischer Personen (SVB, BSG 661.261) kann eine Steuerbefreiung wegen Verfolgung öffentlicher Zwecke nur gewährt werden, wenn der Übertragung der öffentlichen Aufgabe ein öffentlich-rechtlicher Akt zugrunde liegt. Daraus folgt, dass die Erwägungen zur direkten Bundessteuer für die Kantons- und Gemeindesteuern analog massgebend sind und sich für diese Steuern dasselbe Ergebnis ergibt wie bei der direkten Bundessteuer (Urteil des Bundesgerichts 2A.42/2007 vom 11. Juni 2008 E. 4.1).
5.3 Soweit sich der Beschwerdeführer auf Art. 6 Abs. 1 ESchG beruft, wonach diejenigen juristischen Personen von der Steuerpflicht befreit sind, die zum Zeitpunkt der Zuwendung die Voraussetzungen einer Steuerbefreiung gemäss Art. 83 StG erfüllen, ist auf die Beschwerde mangels rechtsgenüglicher Begründung nicht einzutreten (vgl. E. 1.3).
5.4 Demnach erweist sich die Beschwerde in öffentlich-rechtlichen Angelegenheiten betreffend die Kantons- und Gemeindesteuern gleichermassen als unbegründet und ist ebenfalls abzuweisen, soweit darauf eingetreten werden kann.
6. Dem Verfahrensausgang entsprechend sind die Kosten des bundesgerichtlichen Verfahrens dem Beschwerdeführer aufzuerlegen (Art. 65 f. BGG). Eine Parteientschädigung ist nicht auszurichten (Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten betreffend die direkte Bundessteuer wird abgewiesen, soweit darauf einzutreten ist.
2. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten betreffend die Kantons- und Gemeindesteuern wird abgewiesen, soweit darauf einzutreten ist.
3. Die Gerichtskosten von Fr. 3'500.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird dem Beschwerdeführer, der Steuerverwaltung des Kantons Bern, dem Verwaltungsgericht des Kantons Bern und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 28. Dezember 2010
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Uebersax