Sachverhalt: A. Der Schweizerische Verband für Pferdesport (SVPS; nachfolgend: Verband SVPS) ist gemäss den revidierten Statuten vom 24. März 2007 ein Verein im Sinne von Art. 60 ff. ZGB mit Sitz in Bern. Er bildet die Dachorganisation aller Verbände und Vereine, die sich im weitesten Sinne mit dem Pferd und dem Pferdesport in der Schweiz befassen. Der Verband SVPS unterstützt und koordiniert gesamtschweizerisch die Interessen seiner Mitglieder und vertritt diese in der Öffentlichkeit, bei den Behörden, bei Swiss Olympic sowie in anderen nationalen und internationalen Organisationen wie insbesondere in der Fédération Equestre Internationale (FEI). Der Verband SVPS koordiniert und fördert die Aus- und Weiterbildung aller Pferdesporttreibenden im Reiten, Fahren und im Umgang mit dem Pferd. Er setzt sich für die Nachwuchsförderung und die Belange des Tierschutzes im Pferdesport sowie in der Pferdehaltung ein. Der Verband SVPS fördert und unterstützt den wettkampfmässigen Pferdesport aller Disziplinen in der Schweiz. Er trifft alle notwendigen Massnahmen für eine einheitliche und sportlich einwandfreie Organisation und Durchführung von wettkampfmässigen Veranstaltungen und Prüfungen mit Pferden. Mitglieder des Verbands SVPS sind die Regional- und die Fachverbände im Bereich von Pferdesport, Pferdehaltung und -zucht. Der Verband SVPS verfügt über Aktiven von über 4,5 Mio. Franken, und sein Eigenkapital beträgt über 1,1 Mio. Franken. Abgesehen von den Mitgliederbeiträgen stammen seine Mittel u.a. aus der gewinnbringenden Durchführung von Sportveranstaltungen, aus Sponsoringbeiträgen sowie aus Subventionen der öffentlichen Hand. B. Mit Schreiben vom 24. November 2005 stellte der Verband SVPS das Gesuch um Steuerbefreiung für die Kantons- und Gemeindesteuern, die direkte Bundessteuer sowie die Erbschafts- und Schenkungssteuern wegen Verfolgung öffentlicher Zwecke. Mit Verfügung vom 9. Juni 2008 wies die Steuerverwaltung des Kantons Bern das Gesuch ab. Eine dagegen erhobene Einsprache wurde an die Steuerrekurskommission des Kantons Bern weitergeleitet, welche den Sprungrekurs bzw. die -beschwerde am 21. April 2009 abwies. Beschwerden an das Verwaltungsgericht des Kantons Bern wies dieses am 7. April 2010 ebenfalls ab. C. Gegen diesen Entscheid des Verwaltungsgerichts des Kantons Bern vom 7. April 2010 führt der Verband SVPS mit Eingabe vom 5. Mai 2010 Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht mit dem Antrag, der Entscheid des Verwaltungsgerichts des Kantons Bern vom 7. April 2010 sei aufzuheben, und er sei von Kantons- und Gemeindesteuern, der direkten Bundessteuer sowie der Erbschafts- und Schenkungssteuer ganz bzw. eventuell teilweise zu befreien. Er rügt eine unrichtige Feststellung des Sachverhalts und eine Verletzung von Bundesrecht. Dabei macht er namentlich eine Ungleichbehandlung gegenüber dem Verein Swiss Olympic, der Stiftung Berner Symphonieorchester sowie den internationalen Sportverbänden geltend. D. Die Steuerverwaltung des Kantons Bern, das Verwaltungsgericht des Kantons Bern sowie die Eidgenössische Steuerverwaltung schliessen auf Abweisung der Beschwerde.