Sachverhalt:
A. Mit Strafbefehl vom 30. Juni 2008 sprach das Bezirksamt Lenzburg X._ wegen grober Verkehrsregelverletzung durch Rückwärtsfahren auf der Autobahn schuldig und verurteilte ihn zu einer Geldstrafe von 10 Tagessätzen zu Fr. 120.--, bedingt aufgeschoben bei einer Probezeit von 2 Jahren, sowie zu einer Busse von Fr. 600.--.
B. Gegen diesen Strafbefehl erhob X._ Einsprache beim Bezirksgericht Lenzburg. Dieses sprach ihn am 29. Oktober 2008 vom Vorwurf der groben Verkehrsregelverletzung frei und verurteilte ihn wegen einfacher Verkehrsregelverletzung durch Rückwärtsfahren auf der Autobahn zu einer Busse von Fr. 300.--.
C. Die Staatsanwaltschaft erhob Berufung ans Obergericht des Kantons Aargau. Dieses erklärte X._ am 17. August 2009 der groben Verkehrsregelverletzung durch Rückwärtsfahren auf der Autobahn schuldig und verurteilte ihn zu einer Geldstrafe von 10 Tagessätzen zu Fr. 120.--, bedingt aufgeschoben bei einer Probezeit von 2 Jahren, und zu einer Busse von Fr. 300.--.
D. X._ führt Beschwerde in Strafsachen beim Bundesgericht. Er beantragt, der angefochtene Entscheid sei aufzuheben und das Urteil des Bezirksgerichts Lenzburg vom 29. Oktober 2008 zu bestätigen.
E. Die Staatsanwaltschaft des Kantons Aargau und die Vorinstanz verzichten auf eine Vernehmlassung.
Das Bundesgericht hat die Beschwerde in öffentlicher Sitzung beurteilt.

Erwägungen:
1. Die Vorinstanz geht von folgendem Sachverhalt aus:
Der Beschwerdeführer fuhr am Dienstag, 4. März 2008, um 14.15 Uhr, mit seinem Personenwagen in Rupperswil versehentlich in die Einfahrt der Autobahn T5 Richtung Aarau. Seinen Irrtum bemerkte er unmittelbar nach der grünen Signaltafel "Autobahn". Er hielt sein Fahrzeug an, legte den Rückwärtsgang ein, wechselte auf den Pannenstreifen und setzte ca. 50 Meter zurück, um in die Autobahn N 1 in Richtung Bern einbiegen zu können.
2. 2.1 Der Beschwerdeführer macht Willkür geltend. Er habe in der erstinstanzlichen Verhandlung Folgendes ausgesagt: "Auf einmal sah ich das Autobahnzeichen. Ich riss einen Stopp. Ich hielt etwa zwei Autolängen nach dem Zeichen an, schaute zurück und fuhr auf dem Streifen langsam rückwärts, also zirka 50 Meter. (...) Ich bin aber nie auf der Autobahn rückwärts gefahren (...). Ich fuhr sofort auf den Pannenstreifen" (erstinstanzliches Protokoll, Akten des Gerichtspräsidiums Lenzburg, act. 40). Soweit die Vorinstanz davon ausgehe, er habe auf der Einfahrt angehalten und sei dort für einen kurzen Moment stillgestanden, bevor er rückwärts auf den Pannenstreifen gewechselt habe, stelle sie den Sachverhalt offensichtlich unrichtig fest und würdige seine Aussagen willkürlich.
2.2 Die Vorinstanz nimmt an, die Verwirklichung der Unfallgefahr habe darin bestanden, dass der Beschwerdeführer seine Fahrt habe abbremsen, den Rückwärtsgang einlegen und auf den Pannenstreifen wechseln müssen. Auch wenn er sofort auf den Pannenstreifen gefahren sei, habe er für einen kurzen Augenblick auf der Autobahneinfahrt stillstehen müssen. Er habe damit auch bei mildem Verkehrsaufkommen eine ernstliche Gefahr für die Sicherheit anderer geschaffen (angefochtenes Urteil S. 5).
2.3 Die Feststellung des Sachverhalts durch die Vorinstanz kann nur gerügt werden, wenn sie offensichtlich unrichtig, d.h. willkürlich im Sinne von <ref-law> ist (<ref-ruling> E. 1.2.2) oder wenn sie auf einer Verletzung von schweizerischem Recht im Sinne von <ref-law> beruht (<ref-law>). Die Rüge der offensichtlich unrichtigen Feststellung des Sachverhalts prüft das Bundesgericht gemäss <ref-law> nur insoweit, als in der Beschwerde explizit vorgebracht und substantiiert dargelegt wird, inwiefern der Entscheid an einem qualifizierten und offensichtlichen Mangel leidet (<ref-ruling> E. 1.4.3 mit Hinweisen).
2.4 Die Annahme der Vorinstanz, der Beschwerdeführer habe erst beim Rückwärtsfahren auf den Pannenstreifen gewechselt und habe vorher folglich für einen kurzen Augenblick auf der Autobahneinfahrt stillstehen müssen, ist nicht schlechterdings unhaltbar. Aus den von ihm angerufenen Aussagen in der erstinstanzlichen Verhandlung ergibt sich nichts anderes. Der Beschwerdeführer erklärte lediglich, er habe nach zwei Autolängen, nachdem er das Autobahnzeichen erblickt hatte, angehalten. Er habe dann zurückgeschaut und sei langsam rückwärts gefahren. Er sei sofort auf den Pannenstreifen gefahren.
Inwieweit das dem Beschwerdeführer vorgeworfene Verhalten dem gesunden Menschenverstand widerspricht, wie er vorbringt (Beschwerde S. 4), kann offen bleiben. Daraus lässt sich jedenfalls keine willkürliche Beweiswürdigung ableiten. Im Übrigen liegt Willkür im Sinne von <ref-law> nach ständiger Rechtsprechung nicht schon vor, wenn eine andere Lösung oder Würdigung vertretbar erscheint oder gar vorzuziehen ist, sondern nur, wenn der angefochtene Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (<ref-ruling> E. 5.4 mit Hinweisen).
3. 3.1 Der Beschwerdeführer rügt eine Verletzung von Bundesrecht. Die Vorinstanz habe zu Unrecht eine erhöhte abstrakte Gefährdung angenommen und gestützt darauf den Sachverhalt als grobe Verletzung der Verkehrsregeln im Sinne von <ref-law> gewürdigt. Da zum Zeitpunkt des Vorfalls gute Sicht- und Witterungsverhältnisse und ein nur geringes Verkehrsaufkommen geherrscht hätten, habe der Eintritt einer konkreten Gefährdung oder gar einer Verletzung anderer Verkehrsteilnehmer nicht nahe gelegen. Er sei zwar insgesamt etwa 50 Meter, davon aber lediglich zehn Meter nach der grünen Signaltafel "Autobahn", rückwärts auf dem Pannenstreifen gefahren. Die nachfolgenden Fahrzeuglenker müssten mit einem auf dem Pannenstreifen stehenden Fahrzeug rechnen. Von einem rückwärtsfahrenden Fahrzeug gehe keine grössere Gefahr aus als von einem stillstehenden. Zudem bestehe auf der Autobahneinfahrt eine Geschwindigkeitsbeschränkung auf 60 km/h.
3.2 Die Vorinstanz hält fest, dass eine ernstliche Gefahr für die Sicherheit anderer nicht erst bei einer konkreten, sondern bereits bei einer erhöhten abstrakten Gefährdung gegeben sei. Die guten Sicht- und Wetterverhältnisse sowie das geringe Verkehrsaufkommen hätten nicht zu einer konkreten Gefährdung anderer Verkehrsteilnehmer geführt. Allerdings müsse, wer auf einer Autobahneinfahrt fahre, nicht damit rechnen, dass ihm ein Fahrzeug - wenn auch auf dem Pannenstreifen, der jedoch Teil der Fahrbahn bilde - entgegenkomme. Die Unfallgefahr habe sich auch bei geringem Verkehrsaufkommen nicht nur beim eigentlichen Rückwärtsfahren, sondern ebenso beim Stopp des Beschwerdeführers verwirklicht (angefochtenes Urteil, S. 5 f.).
3.3 Wie die Vorinstanz zu Recht erkennt, verlangen Autobahneinfahrten von den Verkehrsteilnehmern eine erhöhte Aufmerksamkeit. Daran ändert nichts, dass das Gefahrenpotential bei der Autobahneinfahrt aufgrund der Geschwindigkeitsbeschränkung auf 60 km/h tiefer als auf der Autobahn selbst einzustufen ist.
Die notwendige erhöhte Aufmerksamkeit auf Autobahneinfahrten führt im zu beurteilenden Fall allerdings nicht dazu, dass der Beschwerdeführer bei seiner Rückwärtsfahrt auf dem Pannenstreifen eine erhöhte abstrakte Gefahr für andere Verkehrsteilnehmer hervorgerufen hat. Dagegen sprechen sowohl die guten Strassen- und Wetterverhältnisse, das geringe Verkehrsaufkommen am frühen Nachmittag, die von den anderen Verkehrsteilnehmern gefahrene Geschwindigkeit auf dem betreffenden Streckenabschnitt wie auch die Sichtverhältnisse (vgl. zur Berücksichtigung dieser Kriterien auch Yvan Jeanneret, Les dispositions pénales de la Loi sur la circulation routière (LCR), Art. 90 LCR N 27). Zudem ergibt sich aus den erstinstanzlichen Sachverhaltsfeststellungen, dass die Sichtdistanz beim Einhalten der erlaubten Geschwindigkeit von 60 km/h ausreichend war, um eine Kollision zu verhindern (pag. 50 f. der Vorakten). Dem Beschwerdeführer ist ausserdem zuzustimmen, dass von einem rückwärtsfahrenden Fahrzeug grundsätzlich keine grössere Gefahr ausgeht als von einem stillstehenden. Die Handlung des Beschwerdeführers erfüllt damit den objektiven Tatbestand von <ref-law> nicht.
Bei dieser Sachlage kann dahingestellt bleiben, ob die Vorinstanz in antizipierter Beweiswürdigung auf die Durchführung eines Augenscheins verzichten durfte (vgl. Beschwerde S. 5).
4. 4.1 Der Beschwerdeführer wendet sich gegen die Annahme der Vorinstanz, es sei ihm in subjektiver Hinsicht ein schweres Verschulden vorzuwerfen. Er habe auf der Autobahneinfahrt nur rund zehn Meter zurückgesetzt. Er habe das Manöver vorsichtig ausgeführt und mit seinem Verhalten keine Verkehrsteilnehmer ernstlich gefährden können.
4.2 Da bereits eine erhöhte abstrakte Gefährdung anderer Verkehrsteilnehmer, und damit die objektive Seite von <ref-law>, zu verneinen ist, braucht der subjektive Tatbestand der schweren Verkehrsregelverletzung im Prinzip nicht mehr geprüft zu werden. Es ist aber anzufügen, dass das Verhalten des Beschwerdeführers unter den konkreten Umständen und Verhältnissen (vgl. oben E. 3.3.) weder gewissenlos, skrupellos noch rücksichtslos gegenüber anderen Verkehrsteilnehmern war. Die Benützung des Pannenstreifens zur Rückwärtsfahrt ist zwar gemäss Art. 36 Abs. 3 VRV verkehrsregelwidrig, da dieser nur für Nothalte vorgesehen ist. Der Vorfall hat sich jedoch bei besten Strassen- und Wetterverhältnissen auf einer gemäss Fotodossier (pag. 8 f. der Vorakten) gut übersichtlichen und auf 60 km/h beschränkten Autobahneinfahrt (und nicht auf der eigentlichen Autobahn) ereignet. Der Beschwerdeführer handelte unter diesen Umständen nicht grobfahrlässig, weshalb neben der fehlenden erhöhten abstrakten Gefährdung auch ein schweres Verschulden nach <ref-law> zu verneinen ist.
Die Handlung des Beschwerdeführers stellt somit eine einfache Verkehrsregelverletzung im Sinne von <ref-law> dar.
5. Die Beschwerde ist gutzuheissen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens sind keine Gerichtskosten zu erheben (Art. 66 Abs. 1 i.V.m. Abs. 4 BGG), und hat der Kanton Aargau dem Beschwerdeführer eine angemessene Parteientschädigung auszurichten (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, soweit darauf einzutreten ist.
2. Es werden keine Gerichtskosten erhoben.
3. Der Kanton Aargau hat dem Beschwerdeführer eine Parteientschädigung von Fr. 3'000.-- auszurichten.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Aargau, Strafgericht, 3. Kammer, schriftlich mitgeteilt.
Lausanne, 14. Januar 2010
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Favre Keller