Sachverhalt:
A. Am 29. Januar 2009 erklärte der a.o. Gerichtspräsident 13 des Gerichtskreises II Biel-Nidau X._ wegen Überschreitens allgemeiner, fahrzeugbedingter oder signalisierter Höchstgeschwindigkeit innerorts um 29 km/h schuldig und verurteilte ihn zu einer Geldstrafe von 6 Tagessätzen zu Fr. 240.--, bedingt aufgeschoben bei einer Probezeit von 2 Jahren, sowie einer Busse von Fr. 800.--.
B. Gegen dieses Urteil erhob X._ Appellation ans Obergericht des Kantons Bern. Dieses bestätigte am 28. April 2009 die Schuldsprüche sowie die Strafsanktion.
C. X._ führt Beschwerde beim Bundesgericht. Er beantragt, der angefochtene Entscheid sei aufzuheben, und die Sache sei zur Verurteilung wegen einfacher Verkehrsregelverletzung im Sinne von <ref-law> an die Vorinstanz zurückzuweisen.
D. Die Generalprokuratur beantragt die Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Vorinstanz beantragt die kostenfällige Abweisung der Beschwerde.

Erwägungen:
1. Die Vorinstanz geht von folgendem Sachverhalt aus:
Der Beschwerdeführer fuhr am Sonntag, 2. März 2008, kurz nach 18.00 Uhr, mit seinem Personenwagen von einem Parkplatz beim Bahnhof Tüscherz über die leicht ansteigende Einmündung auf die Hauptstrasse in Richtung Biel. Um 18.15 Uhr wurde er auf der N5 in Alfermée von der dort fix installierten Geschwindigkeitsmessanlage erfasst. Die Anlage registrierte eine Geschwindigkeit des Personenwagens von 94 km/h. Nach Abzug der Sicherheitsmarge von 5 km/h ergab sich eine massgebende Geschwindigkeit von 89 km/h. Die zulässige Höchstgeschwindigkeit im Bereich der Messanlage betrug 60 km/h, so dass diese Geschwindigkeit um 29 km/h überschritten wurde.
2. 2.1 Der Beschwerdeführer macht geltend, die Qualifikation der N5 bei Alfermée als Innerortsstrecke könne nicht aus der signalisierten Höchstgeschwindigkeit von 60 km/h abgeleitet werden. Auf die Definition in Art. 1 Abs. 4 der Signalisationsverordnung (SSV) vom 5. September 1979 (SR 741.21), wonach die Ortstafeln Beginn und Ende des Innerortsbereichs kennzeichneten, könne entgegen der Vorinstanz ebenfalls nicht abgestellt werden, diese übernähmen lediglich eine Hinweisfunktion (Art. 50 SSV). Massgebend seien die besonderen Regeln (Art. 4a Verkehrsregelnverordnung [VRV] vom 13. November 1962 [SR 741.11] und Art. 22 Abs. 3 SSV), die der allgemeinen Definition des Innerortsbereichs vorgingen. Die Innerorts-Höchstgeschwindigkeit gelte im dicht bebauten Gebiet der Ortschaft, die bei dichter Überbauung auf einer der beiden Strassenseiten beginne und dort ende, wo keine der beiden Strassenseiten mehr dicht bebaut sei (Beschwerde, S. 3). Für den fraglichen Streckenabschnitt treffe dies eindeutig nicht zu, zumal dieser auf der einen Strassenseite sogar gänzlich unüberbaut sei. Die Nationalstrasse N5 weise keinerlei Merkmale einer Dorfstrasse auf und unterscheide sich äusserlich kaum vom vorhergehenden und nachfolgenden Streckenabschnitt, der mit 80 km/h signalisiert sei (Beschwerde, S. 4).
2.2 Die Vorinstanz verweist auf Art. 1 Abs. 4 SSV, wonach der Bereich "innerorts" beim Signal "Ortsbeginn auf Hauptstrassen" beginne und beim Signal "Ortsende auf Hauptstrassen" ende. Daran vermöge nichts zu ändern, dass der Beschwerdeführer den Innerortsbereich des fraglichen Streckenabschnitts aufgrund des Erscheinungsbildes der N5 im Bereich des Ortsteils Alfermée sowie eines Beschwerdeentscheids des Regierungsrats des Kantons Bern von 1995 in Frage stelle (angefochtenes Urteil, S. 7).
2.3 Gemäss Art. 4a Abs. 1 lit. a VRV beträgt die allgemeine Höchstgeschwindigkeit für Fahrzeuge in Ortschaften unter günstigen Strassen-, Verkehrs- und Sichtverhältnissen 50 km/h. Auf Strassen innerorts kann die Höchstgeschwindigkeit stufenweise um jeweils 10 km/h bis maximal 80 km/h erhöht oder - ohne zahlenmässige Beschränkung - gesenkt werden (vgl. Art. 108 Abs. 5 lit. d SSV). Die Voraussetzungen für eine Erhöhung oder Senkung der allgemeinen Höchstgeschwindigkeiten richten sich nach Art. 108 SSV.
2.4 Nach den tatsächlichen Feststellungen der Vorinstanz liegt die fragliche Strecke im Innerortsbereich, nach dem Signal "Ortsbeginn auf Hauptstrassen" (vgl. Art. 1 Abs. 4 SSV). Den oben dargelegten Bestimmungen der VRV und SSV lässt sich entnehmen, dass nicht nur bei signalisierter allgemeiner Höchstgeschwindigkeit von 50 km/h ein Innerortsbereich vorliegt, sondern dies auch der Fall ist, wenn die Signale im genannten zulässigen Rahmen höhere oder tiefere Höchstgeschwindigkeiten anzeigen (vgl. hierzu auch Urteil des Bundesgerichts 6S.99/2004 vom 25. August 2004 E. 2.4). Dass die allgemeine Höchstgeschwindigkeit von 50 km/h im dicht bebauten Gebiet gilt, bedeutet nicht, dass das Gebiet ausserhalb automatisch dem Ausserortsbereich zugeschlagen werden müsste, da im Innerortsbereich, wie erwähnt, die Geschwindigkeitslimiten auch z.B. 60, 70 oder 80 km/h betragen dürfen.
2.5 Aus dem Umstand, dass sich die fragliche Strecke optisch nicht deutlich im Innerortsbereich befindet, kann der Beschwerdeführer ebenfalls nichts zu seinen Gunsten ableiten. Das Bundesgericht warf in einem jüngeren Entscheid die Frage auf, ob es "typische" Innerorts- und Ausserortsstrecken überhaupt gebe. Es führte hierzu aus, dass sich zum Beispiel Ausserortsbereiche in dicht besiedelten Agglomerationen kaum von Innerortsstrecken im Bereich von Weilern oder gegen Ausgang von Dörfern unterscheiden liessen. Zu beachten sei auch, dass der Übergang vom Innerortsbereich zum Ausserortsbereich häufig fliessend sei und es sich bei sogenannten atypischen Innerortsstrecken meist nur um kurze bis sehr kurze Strassenstücke handle. Gerade auf solchen Strecken neigten Fahrzeuglenker aber häufig zu nachlassender Aufmerksamkeit bzw. Disziplin, weshalb die Einhaltung der signalisierten Höchstgeschwindigkeit besonders unerlässlich sei. Aufgrund der erhöhten Gefahrenlage sei deshalb eine grobe Verkehrsregelverletzung wie innerorts schon bei Überschreitungen der signalisierten Höchstgeschwindigkeit um 25 km/h ungeachtet der konkreten Verhältnisse anzunehmen (Urteil des Bundesgerichts 6S.99/2004 vom 25. August 2004 E. 2.4).
2.6 Der fragliche Strassenabschnitt im Ortsteil Alfermée ist als Innerortsbereich zu qualifizieren. Die Signale "Ortsbeginn" und "Ortsende" grenzen den Inner- und Ausserortsbereich unabhängig der im Einzelfall bestehenden Überbauungsdichte, der Strassenoptik sowie der geltenden Geschwindigkeitslimite ab. Die Beschwerde ist somit in diesem Punkt unbegründet.
3. 3.1 Der Beschwerdeführer führt im Weiteren aus, dass nach dem strafrechtlichen Schuldprinzip nicht unbesehen von der objektiven auf die subjektive schwere Verkehrsregelverletzung geschlossen werden könne. Der Regierungsrat des Kantons Bern habe im Jahre 1995 nach einem Augenschein festgestellt, im Ortsteil Alfermée könne vom Erscheinungsbild her, das sich seither nicht wesentlich verändert habe, von einer Ausserortsstrecke ausgegangen werden. Einem Automobilisten, der sich von diesem Eindruck täuschen lasse, könne keine grobe Fahrlässigkeit vorgeworfen werden. Die Geschwindigkeitsbegrenzung gelte nur auf einer Strecke von rund 400 m und habe im Tatzeitpunkt weniger als ein Jahr bestanden. Als entlastende Begleitumstände macht der Beschwerdeführer ausserdem geltend, dass die N5 eine breite, praktisch gerade und übersichtliche Durchgangsstrasse darstelle. Die Sicht sei gut, die Strasse trocken, und es sei der Jahreszeit entsprechend (Anfang März) noch hell gewesen. Die Vorinstanz schliesse daher zu Unrecht von einer "gravierenden Geschwindigkeitsüberschreitung" direkt auf ein subjektiv rücksichtsloses Verhalten. Das Bundesgericht verlange eine strenge Handhabung der subjektiven Rücksichtslosigkeit. Zudem habe die Vorinstanz fälschlicherweise angenommen, dass gegen das rücksichtslose Verhalten keine besonderen Indizien sprechen würden (Beschwerde, S. 6 f.).
3.2 Die Vorinstanz hält mit Blick auf die konstante bundesgerichtliche Rechtsprechung fest, dass der subjektive Tatbestand von <ref-law> ein rücksichtsloses oder sonst schwerwiegendes verkehrswidriges Verhalten, d.h. ein schweres Verschulden, bei fahrlässigem Handeln mindestens grobe Fahrlässigkeit erfordere. Der Beschwerdeführer sei sich zugestandenermassen der Signalisation 60 km/h nicht bewusst gewesen und habe nicht realisiert, dass er sich in einer 60 km/h-Zone befunden habe, weshalb nicht von einem momentanen Versehen auszugehen sei. Der gute Ausbau der N5, die im fraglichen Zeitpunkt recht günstigen Sicht- und Verkehrsverhältnisse sowie der gute allgemeine und automobilistische Leumund könnten hieran nichts ändern. Es liege ein klassisches rücksichtsloses Verhalten gegenüber fremden Rechtsgütern im Sinne der bundesgerichtlichen Rechtsprechung vor (angefochtenes Urteil, S. 8 f.).
3.3 Der Beschwerdeführer rügt eine Verletzung von <ref-law>. Nach dieser Bestimmung wird bestraft, wer durch grobe Verletzung der Verkehrsregeln eine ernstliche Gefahr für die Sicherheit anderer hervorruft oder in Kauf nimmt. Der Tatbestand ist nach der bundesgerichtlichen Rechtsprechung objektiv erfüllt, wenn der Täter eine wichtige Verkehrsvorschrift in objektiv schwerer Weise missachtet und die Verkehrssicherheit ernstlich gefährdet (<ref-ruling> E. 3.2.). Subjektiv erfordert der Tatbestand von <ref-law> nach der Rechtsprechung ein rücksichtsloses Verhalten. Ein solches ist unter anderem zu bejahen, wenn der Täter ein bedenkenloses Verhalten gegenüber fremden Rechtsgütern offenbart (<ref-ruling> E. 3.2; <ref-ruling> E. 5.1 je mit Hinweisen). Nach der Rechtsprechung sind die objektiven und grundsätzlich auch die subjektiven Voraussetzungen von <ref-law> ungeachtet der konkreten Umstände erfüllt, wenn die zulässige Höchstgeschwindigkeit auf Autobahnen um 35 km/h oder mehr, auf nicht richtungsgetrennten Autostrassen sowie Autobahnausfahrten um 30 km/h oder mehr und innerorts um 25 km/h oder mehr überschritten wird (vgl. <ref-ruling> und 106; zuletzt <ref-ruling>). Während das Bundesgericht in seinen neueren Entscheiden zu Geschwindigkeitsüberschreitungen im Ausserortsbereich wegen der anlagebedingt stark unterschiedlichen Gefahrenlage zwischen Autobahnen einerseits und Autostrassen sowie Autobahnausfahrten andererseits (vgl. <ref-ruling>) unterschieden hat, verzichtete es im Innerortsbereich auf eine Differenzierung (vgl. das kürzlich ergangene Urteil des Bundesgerichts 6B_1028/2008 vom 16. April 2009).
3.4 Das Bundesgericht führte in dem vom Beschwerdeführer und der Vorinstanz zitierten 6B_109/2008 vom 13. Juni 2008 E. 3.1 aus, dass die Annahme der subjektiven Rücksichtslosigkeit nach <ref-law> streng gehandhabt werden müsse. Wolle man das Schuldprinzip auch im Strassenverkehrsstrafrecht ernst nehmen, dürfe insbesondere nicht unbesehen von der objektiven auf die subjektive schwere Verkehrsregelverletzung geschlossen werden. Im damaligen Fall verneinte das Bundesgericht ein rücksichtsloses Verhalten des Automobilisten, der eine bloss während einer Woche geltende und örtlich begrenzte Geschwindigkeitsreduktion auf der Autobahn von 120 km/h auf 80 km/h übersehen und die erlaubte Geschwindigkeit um 51 km/h überschritten hatte. Das Bundesgericht beurteilte das Verhalten als pflichtwidrig unachtsam, was zwar als Fehlverhalten, nicht aber als Rücksichtslosigkeit einzustufen sei, da kein bedenkenloses Verhalten gegenüber fremden Rechtsgütern offenbart worden sei (a.a.O E.3.2).
3.5 Der hier zu beurteilende Fall ist im gleichen Sinne zu beurteilen. Die Geschwindigkeitssignalisation von 60 km/h im Ortsteil Alfermée besteht seit dem 14. Dezember 2006 infolge Bauarbeiten und definitiv seit dem 31. Mai 2007. Die Geschwindigkeitsbeschränkung bildet Teil der kurzfristigen Massnahmen des Verkehrsberuhigungskonzepts N5 linkes Bielerseeufer (pag. 77 der Vorakten). Die Signalisation von 60 km/h befindet sich nach den tatsächlichen Feststellungen der Vorinstanz 200 m vor der fixen Geschwindigkeitsmessanlage und ist kombiniert mit dem Signal "Ortsbeginn auf Hauptstrassen". Unmittelbar vor der Geschwindigkeitsmessanlage befindet sich eine zusätzliche Wiederholung der Geschwindigkeitssignalisation. Die Vorinstanz schloss daraus, dass eine wiederholte und gut sichtbare Signalisation der zulässigen Geschwindigkeit von 60 km/h vorlag.
Es fällt vorliegend ins Gewicht, dass die Vorinstanz sich dabei nicht mit der Gefährlichkeit der vom Beschwerdeführer gefahrenen Geschwindigkeit auseinandergesetzt hat. Das Verhalten des Beschwerdeführers ist unter Würdigung der gesamten Umstände lediglich als pflichtwidrig unachtsam und nicht als rücksichtslos einzustufen. Angesichts der tatsächlichen Feststellungen der Vorinstanz ist der betreffende Strassenabschnitt der N5 gut ausgebaut und übersichtlich, es herrschten gute Sicht- sowie Lichtverhältnisse, und die Strasse war trocken. Ein klassisch rücksichtsloses Verhalten gegenüber fremden Rechtsgütern, wie die Vorinstanz ausführte (angefochtenes Urteil, S. 9), kann in der Fahrt des Beschwerdeführers somit gerade nicht erblickt werden. Zwar fuhr dieser in der 400 m langen 60 km/h-Zone innerorts deutlich zu schnell, angesichts des Ausbaustandards der Strasse, der optischen Erscheinung als Ausserortsstrecke, was der Regierungsrat des Kantons Bern 1995 explizit festgestellt hatte (pag. 67 der Vorakten), sowie der idealen Sicht- und Witterungsverhältnisse und des geringen Verkehrs hat der Beschwerdeführer aber kein bedenkenloses Verhalten gegenüber fremden Rechtsgütern im Sinne der bundesgerichtlichen Rechtsprechung offenbart. Der vorinstanzliche Entscheid verletzt damit <ref-law> und ist aufzuheben.
4. Die Beschwerde ist gutzuheissen, das Urteil des Obergerichts des Kantons Bern vom 28. April 2009 aufzuheben und die Sache zur neuen Entscheidung an die Vorinstanz zurückzuweisen. Bei diesem Ausgang des Verfahrens sind keine Gerichtskosten zu erheben (Art. 66 Abs. 1 i.V.m. Abs. 4 BGG), und hat der Kanton Bern dem Beschwerdeführer eine Parteientschädigung auszurichten (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, das Urteil des Obergerichts des Kantons Bern vom 28. April 2009 aufgehoben und die Sache zur neuen Entscheidung an die Vorinstanz zurückgewiesen.
2. Es werden keine Gerichtskosten erhoben.
3. Der Kanton Bern hat dem Beschwerdeführer eine Parteientschädigung von Fr. 3000.-- auszurichten.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Bern, 2. Strafkammer, schriftlich mitgeteilt.
Lausanne, 23. Oktober 2009
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Favre Keller