Sachverhalt:
A. B._ meldete sich am 3. Juni 1999 zum Bezug von Ergänzungsleistungen an, nachdem ihm am 9. Juli 1998 eine IV-Rente mit Rentenbeginn ab 1. August 1994 zugesprochen worden war. Am 20. Mai 2011 setzte er die AHV-Zweigstelle Bern (Eingang 27. Mai 2011) über das anlässlich des Todes seiner Mutter erstellte Steuerinventar (mit unvollständigem Inhalt) in Kenntnis. Am 30. Mai 2011 stellte die Ausgleichskasse Bern die laufende Ergänzungsleistung per 31. Mai 2011 ein. Am 11. Oktober 2011 verfügte die Ausgleichskasse Bern eine Rückforderung von Fr. 30'529.- und verneinte den Anspruch auf Ergänzungsleistungen rückwirkend ab 1. August 2009. Die dagegen am 25. Oktober 2011 erhobene Einsprache wurde am 8. Dezember 2011 abgewiesen.
B. Am 4. Januar 2012 erhob B._ gegen den Einspracheentscheid vom 8. Dezember 2011 Beschwerde und reichte das vollständige Steuerinventar im Nachlass seiner verstorbenen Mutter ein. Das Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, wies die Beschwerde mit Entscheid vom 10. September 2012 ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt B._ Folgendes:
1. Sein rechtlicher Erbanspruch auf das Erbe seiner Mutter sei auf die Höhe von Fr. 139'892.95 sowie eines angemessenen Betrags für seinen Anteil an den Liegenschaften festzulegen und die Höhe des ihm aus diesem Erbe entstehenden Vermögens in der Zeit zwischen dem Tod seiner Mutter und der Übertragung von 8120 Nestlé-Aktien im Mai 2011 sei zu benennen, dass ihm die Ausgleichskasse des Kantons Bern bei ihren Berechnungen seinen Anspruch auf Ergänzungsleistungen für diesen Zeitraum zurechnen könne;
2. Es sei festzuhalten, dass es sich beim Eintritt seines Erbanspruches auf das Erbe seiner Mutter und dem Ausgleich der verschiedenen Erbvorbezüge, die seine Geschwister und er zuvor erhalten hätten, durch seinen Vater sowie dem Kauf von 4620 Nestlé-Aktien mit diesem Erbanspruch und diesem Ausgleich und der Übertragung von 3500 Nestlé-Aktien als Erbvorbezug auf das Erbe seines Vaters um mehrere voneinander unabhängige Geschäfte gehandelt habe, die zu verschiedenen Zeitpunkten rechtsgültig geworden seien und damit seinem Vermögen zugerechnet werden könnten;
3. Es sei klarzustellen, dass der Wert der im Steuerinventar erwähnten 35 Namenaktien der Nestlé AG heute 3500 Nestlé-Aktien entspreche;
4. Es sei festzustellen, an welchen von den im Steuerinventar aufgeführten Grundstücken und Liegenschaften ihm durch den Tod seiner Mutter ein Anspruch erwachsen sei und in welcher Höhe die Ausgleichskasse den Wert seines Anteiles an diesen Grundstücken bei ihren Berechnungen zu seinem Vermögen rechnen dürfe;
5. Es sei festzustellen, dass ihm in der Zeit zwischen dem Tod seiner Mutter und der Übertragung der Aktien nur eine Verzinsung des Erbanspruchs in der Höhe eines Sparguthabens bei einer Bank zugestanden hätte;
6. Es sei festzustellen, dass ihm bei der Berechnung der Ergänzungsleistungen auch der Abzug von Sozialversicherungsbeiträgen zustehe;
7. Seine Berechtigung für den Bezug von Ergänzungsleistungen sei für die Zeit zwischen dem Tod seiner Mutter und der Übertragung von 8120 Nestlé-Aktien im Mai 2011 aufgrund dieser Zahlen neu zu berechnen.
Die sozialversicherungsrechtliche Abteilung des Verwaltungsgerichts des Kantons Bern hat auf eine Vernehmlassung verzichtet. Die Ausgleichskasse des Kantons Bern beantragt die Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen hat sich nicht vernehmen lassen.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann wegen Rechtsverletzungen gemäss den Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann eine - für den Ausgang des Verfahrens entscheidende (vgl. <ref-law>) - Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Im Übrigen wendet es das Recht von Amtes wegen an (<ref-law>) und ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden (<ref-ruling> E. 1.2 S. 252 mit Hinweisen). Es prüft allerdings - unter Beachtung der allgemeinen Begründungspflicht in Beschwerdeverfahren (Art. 42 Abs. 1 und 2 BGG) - nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind, und ist nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden Fragen zu untersuchen, auch wenn diese vor Bundesgericht nicht mehr aufgegriffen werden (<ref-ruling> E. 1.4.1 S. 254).
2. Verfahrensgegenstand bei der Vorinstanz war einerseits die Rückforderung von Ergänzungsleistungen und anderseits die Einstellung der jährlichen Ergänzungsleistung 2009 ab 1. August 2009. Im vorliegenden Verfahren macht der Beschwerdeführer keine Ausführungen zur Einstellung der jährlichen Ergänzungsleistungen ab Juni 2011, nachdem ihm ab diesem Zeitpunkt keine Ergänzungsleistung mehr ausbezahlt worden war. Vielmehr beziehen sich seine Ausführungen ausschliesslich auf den Zeitraum 1. August 2009 bis 31. Mai 2011, für welchen von der Beschwerdegegnerin eine Rückforderung von Fr. 30'529.- geltend gemacht wird. Diese Rückforderung respektive die Festlegung des Anspruches auf Ergänzungsleistungen vom 1. August 2009 bis 31. Mai 2011 ist somit im vorliegenden Beschwerdeverfahren Streitgegenstand, wobei der Beschwerdeführer auf der letzten Seite seiner Beschwerdeschrift sinngemäss keine vollumfängliche Aufhebung der Rückforderung verlangt, sondern lediglich deren Senkung um mindestens Fr. 10'351.-. Auf die diversen Feststellungsbegehren des Beschwerdeführers kann nicht eingetreten werden, da sie gar keinen Bezug zum Verfahrensgegenstand bei der Vorinstanz haben. Insbesondere besteht kein Anspruch des Beschwerdeführers im vorliegenden Verfahren betreffend Festlegung und Rückforderung von Ergänzungsleistungen, dass sein Erbanspruch im Nachlass seiner verstorbenen Mutter festgestellt wird. Ein solches Begehren hätte der Beschwerdeführer vielmehr in einem zivilrechtlichen Verfahren zu deponieren.
3. Die Ergänzungsleistungen zur Alters-, Hinterlassenen- und Invalidenversicherung haben durch das am 1. Januar 2008 in Kraft getretene Bundesgesetz vom 6. Oktober 2006 über die Schaffung von Erlassen zur Neugestaltung des Finanzausgleichs und der Aufgabenteilung zwischen Bund und Kantonen (AS 2007 5779) eine umfassende Neuregelung erfahren. Die Vorinstanz hat diese ab 1. Januar 2008 geltenden Bestimmungen (ELG; SR 831.30; AS 2007 6055) und Grundsätze über Berechnung und Höhe der jährlichen Ergänzungsleistungen (Art. 9 Abs. 1 ELG), insbesondere die Regeln betreffend anerkannte Ausgaben (Art. 9 Abs. 2 Satz 1 und Art. 10 Abs. 1 lit. b ELG) und anrechenbare Einnahmen (Art. 11 Abs. 1 ELG) zutreffend dargelegt. Darauf wird verwiesen.
4. Umstritten ist vorliegend, welche Ansprüche dem Beschwerdeführer im Nachlass seiner Mutter zustehen, soweit dies seine Ergänzungsleistungsansprüche im Zeitraum August 2009 bis Mai 2011 betrifft.
4.1 Die Vorinstanz stellte sich auf den Standpunkt, dass es ihr nicht möglich sei, den Erbanspruch selber zu eruieren. Trotzdem nahm die Vorinstanz an, dass der Beschwerdeführer über ein Vermögen seit dem Tod seiner Mutter verfügte, das den Bezug von Ergänzungsleistungen ausschliesse. Diese beiden Annahmen schliessen sich jedoch aus. Wenn der Erbanspruch nicht eruiert werden kann, dann kann auch nicht angenommen werden, der Beschwerdeführer habe ein EL-ausschliessendes Vermögen.
4.2 Dem Steuerinventar, das der Beschwerdeführer im Rahmen des Verfahrens bei der Vorinstanz einreichte, kann entnommen werden, dass sämtliche Liegenschaften der Eltern des Beschwerdeführers nach ihrer Heirat erworben wurden. Aus dem Steuerinventar kann somit nicht abgeleitet werden, dass diese Liegenschaften Teil von eingebrachtem Gut der Eltern des Beschwerdeführers gewesen wären. Für die einzelnen Liegenschaften liegen die amtlichen Werte vor. Im Rahmen des Steuerinventars ermittelte die Notarin U._ einen Erbanspruch des Beschwerdeführers als Nachkomme der verstorbenen E._, von Fr. 189'892.95, wobei sich der Beschwerdeführer den Vorempfang von Fr. 50'000.- anrechnen lassen müsse. Die von der Notarin vorgenommene güterrechtliche und erbrechtliche Aufteilung erscheint korrekt und wird von beiden Parteien wie auch von der Vorinstanz nicht in Zweifel gezogen. Aufgrund des Steuerinventars ergibt sich ein Betrag von Fr. 139'892.-, den der Beschwerdeführer als massgebender Betrag im Nachlass seiner verstorbenen Mutter zur Anrechnung bringen will.
4.3 Die Vorinstanz hat angenommen, dass nicht das Steuerinventar, wo die Grundstücke zum amtlichen Wert eingesetzt wurden, massgebend sei, sondern der Verkehrswert. Gemäss Art. 17 Abs. 1 der Verordnung über die Ergänzungsleistungen zur Alters-, Hinterlassenen- und Invalidenversicherung (ELV) ist das anrechenbare Vermögen nach den Grundsätzen der Gesetzgebung über die direkte kantonale Steuer für die Bewertung des Vermögens im Wohnsitzkanton zu bewerten. Gemäss Art. 17 Abs. 4 ELV sind Grundstücke zum Verkehrswert einzusetzen, sofern sie dem Bezüger oder einer Person, die in die EL-Berechnung eingeschlossen ist, nicht zu eigenen Wohnzwecken dienen. Art. 17 Abs. 6 ELV sieht vor, dass die Kantone anstelle des Verkehrswertes einheitlich den für die interkantonale Steuerausscheidung massgebenden Repartitionswert anwenden können. Der Kanton Bern hat von dieser Kompetenz Gebrauch gemacht und in Art. 4 des Einführungsgesetzes zum Bundesgesetz über Ergänzungsleistungen zur Alters-, Hinterlassenen- und Invalidenversicherung (BE EG ELG) für die Bewertung von Grundstücken festgelegt, dass anstelle des Verkehrswertes der für die interkantonale Steuerausscheidung massgebende Repartitionswert angewendet werde. Damit bleibt jedoch kein Raum, für den Beschwerdeführer ab dem Zeitpunkt des Todes seiner Mutter im 2009 bis Mai 2011, als der Beschwerdeführer von seinem Vater 8120 Aktien der Nestlé AG übertragen erhielt, mehr als einen Anteil von Fr. 139'892.95 am unverteilten Nachlass zur Anrechnung zu bringen. Vielmehr basiert dieser Betrag auf den amtlichen Werten, die im Kanton Bern anstelle des Verkehrswertes gemäss Art. 17 Abs. 6 ELV in Verb. mit Art. 4 BE EG ELG zur Anwendung gelangen (vgl. Rz. 3444.02 und 3444.05 der Wegleitung über die Ergänzungsleistungen zur AHV und IV [WEL; Stand 1. Januar 2013]), nachdem für die fragliche Zeitperiode 2009 bis 2011 für den Kanton Bern der Repartitionswert bei nichtlandwirtschaftlichen Liegenschaften 100% des amtlichen Wertes beträgt (S. 204 WEL). Das Abstellen auf den Repartitionswert entspricht im Kanton Bern auch der bereits vor den gesetzlichen Änderungen ab 1. Januar 2008 massgebenden Praxis (BVR 2008, S. 136 ff.).
5. Der Beschwerdeführer beanstandet, dass sein Anteil an der unverteilten Erbschaft seiner Mutter nicht um den Betrag des ihm von der Beschwerdegegnerin angerechneten Vermögensverzehrs reduziert wird. Jedoch macht der Beschwerdeführer nicht geltend, er habe während der Jahre 2009 und 2010, während welchen ein Vermögensverzehr angenommen wurde, eine Vermögensabnahme resp. eine Schuldenzunahme erlitten. Vielmehr wurde von der Beschwerdegegnerin das Vermögen bei der Berechnung der Ergänzungsleistung ab August 2009 mit Fr. 2'515.- beziffert, was dem Wert per 31. Dezember 2006 gemäss der Steuererklärung entsprach. Der Beschwerdeführer belegt für das Jahr 2009 keinen anderen Wert. Für das Jahr 2010 hat die Beschwerdegegnerin ebenfalls auf diesen Betrag abgestellt. Aufgrund der eigenen Angaben im Formular vom 25. Juli 2011 ergibt sich auf Ende 2010 eine Erhöhung des Vermögens auf Fr. 3'455.-. Eine Vermögensabnahme ist somit nicht belegt. Mit der EL-Rückzahlungsforderung wurde der Beschwerdeführer jedoch erst nach dem Erhalt der 8120 Nestlé-Aktien von seinem Vater konfrontiert, so dass diese Rückforderung für den früheren Zeitraum nicht zum Abzug gebracht werden kann.
6. Die Aufrechnung eines hypothetischen Einkommens wird vom Beschwerdeführer in seiner Beschwerde nicht mehr in Zweifel gezogen. Tatsächlich sind die entsprechenden Aufrechnungen der Beschwerdegegnerin korrekt. Ebenso ist es richtig, dass bei Aufrechnung eines hypothetischen Einkommens keine Berücksichtigung von Sozialversicherungsbeiträgen als Aufwandposition stattfindet. Vielmehr werden die Sozialversicherungsbeiträge bei Ermittlung des anrechenbaren Erwerbseinkommens zumindest in den Jahren 2009 und 2010 zum Abzug gebracht. 2011 ist dies auch mit Fr. 1'190.- zu berücksichtigen (Rz. 3482.04 WEL). Damit reduziert sich das anrechenbare hypothetische Einkommen für 2011 auf Fr. 11'240.- ([Fr. 19'050.- - Fr. 1'190.- - Fr. 1'000.-] : 3 x 2) .
7. Unter Berücksichtigung des Anspruches des Beschwerdeführers aus unverteilter Erbschaft im Nachlass seiner verstorbenen Mutter von Fr. 139'893.- ergeben sich bei einer Verzinsung von 0,8% (2009), 0,7% (2010) und 0,6% (2011) gemäss Rz. 3482.10 WEL folgende Ansprüche auf Ergänzungsleistungen:
7.1 August bis Dezember 2009
Sparguthaben Fr. 2'515.- + Anteil an unverteiltem Nachlass Fr. 139'893.- - Vermögensfreibetrag Fr. 25'000.- = Fr. 117'408.-.
Der Vermögensverzehr beläuft sich auf 1/15, was Fr. 7'827.- ergibt. Hinzu kommt das anrechenbare Erwerbseinkommen von Fr. 10'694.-, die IV-Rente von Fr. 9'684.-, Zins aus Sparguthaben Fr. 20.- sowie 0,8% Ertrag (Rz. 3482.10 WEL) der unverteilten Erbschaft von Fr. 139'893.- = Fr. 1'119.-.
Die Einnahmen belaufen sich somit auf Fr. 29'344.-. Zieht man diesen Betrag von den Ausgaben von Fr. 36'492.- ab, so bleibt ein Ausgabenüberschuss von Fr. 7'148.- oder von Fr. 596.- pro Monat.
7.2 Januar bis Dezember 2010
Sparguthaben Fr. 2'515.- + Anteil unverteilte Erbschaft Fr. 139'893.- - Vermögensfreibetrag Fr. 25'000.- = Fr. 117'408.-.
Der Vermögensverzehr beziffert sich auf 1/15, was Fr. 7'827.- ergibt. Hinzu kommt das anrechenbare Erwerbseinkommen von Fr. 10'694.-, die IV-Rente von Fr. 9'684.-, Zins aus Sparguthaben Fr. 20.- sowie 0,7% (Rz. 3482.10 WEL) Ertrag der unverteilten Erbschaft von Fr. 139'893.- = Fr. 979.-.
Die Einnahmen belaufen sich somit auf Fr. 29'204.-. Zieht man diesen Betrag von den Ausgaben von Fr. 37'032.- ab, so resultiert ein Ausgabenüberschuss von Fr. 7'828.- oder von Fr. 652.- pro Monat.
7.3 Januar bis Mai 2011
Sparguthaben Fr. 3'485.- + Anteil unverteilte Erbschaft Fr. 139'893.- - Vermögensfreibetrag Fr. 37'500.- = Fr. 105'878.-.
Der Vermögensverzehr beläuft sich auf 1/15, was Fr. 7'059.- ergibt. Hinzu kommt das anrechenbare Erwerbseinkommen von Fr. 11'240.- (vgl. E. 6 hievor), die IV-Rente von Fr. 9'864.-, Zins aus Sparguthaben Fr. 51.- sowie 0,6% (Rz. 3482.10 WEL) Ertrag der unverteilten Erbschaft von Fr. 139'893.- = Fr. 839.-.
Die Einnahmen belaufen sich somit auf Fr. 29'053.-. Zieht man diesen Betrag von den Ausgaben von Fr. 37'794.- ab, resultiert ein Ausgabenüberschuss von Fr. 8'741.- oder von Fr. 728.- pro Monat.
7.4 Gesamthaft hat der Beschwerdeführer somit im Zeitraum August 2009 bis Mai 2011 einen Anspruch auf Ergänzungsleistung von Fr. 14'444.- (5 x Fr. 596.- + 12 x Fr. 652.- + 5 x Fr. 728.-). Da ihm Fr. 30'529.- während dieser Zeitperiode ausbezahlt wurden, resultiert ein Rückforderungsanspruch von Fr. 16'085.-.
8. Ab Juni 2011 verfügt der Beschwerdeführer über die ihm von seinem Vater zugeteilten Nestlé-Aktien, die einen Vermögensverzehr ergeben, der einen EL-Anspruch ausschliesst. Der Beschwerdeführer macht auch ab Juni 2011 gar keinen EL-Anspruch mehr geltend.
9. Somit ist die Rückforderung auf Fr. 16'085.- zu reduzieren. Die Rückforderung ist von der Beschwerdegegnerin rechtzeitig am 11. Oktober 2011 innert der Jahresfrist gemäss <ref-law> geltend gemacht worden, nachdem die Beschwerdegegnerin erstmals am 27. Mai 2011 nach Eingang des Schreibens des Beschwerdeführers vom 20. Mai 2011 Kenntnis vom Erbanspruch des Beschwerdeführers im Nachlass seiner verstorbenen Mutter erhielt. Das Vorliegen eines Wiedererwägungstatbestandes gemäss <ref-law>, wie ihn die Vorinstanz angenommen hat, ist gegeben. Der Beschwerdeführer hat somit der Beschwerdegegnerin Fr. 16'085.- zurückzubezahlen.
10. Da der anwaltlich nicht vertretene Beschwerdeführer nur die Rückforderung von Fr. 30'529.- angefochten und sinngemäss bei der Berechnung der Rückforderung die Berücksichtigung der Werte des Steuerinventars verlangt hat, ist von einem Obsiegen des Beschwerdeführers im vorliegenden Beschwerdeverfahren auszugehen. Damit sind die Verfahrenskosten der Beschwerdegegnerin aufzuerlegen.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, soweit darauf eingetreten werden kann. Der Entscheid des Verwaltungsgerichts des Kantons Bern, Sozialversicherungsrechtliche Abteilung, vom 10. September 2012 und der Einspracheentscheid der Ausgleichskasse des Kantons Bern vom 8. Dezember 2011 werden insoweit abgeändert, als die Rückforderung neu auf Fr. 16'085.- festgelegt wird.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdegegnerin auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 9. April 2013
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Kernen
Der Gerichtsschreiber: Nussbaumer