Sachverhalt:
A. Die Staatsanwaltschaft des Kantons Basel-Stadt sprach X._ mit Strafbefehl vom 18. März 2009 des geringfügigen Diebstahls im Sinne von Art. 139 Ziff. 1 i.V.m. <ref-law> schuldig und verurteilte ihn zu einer Busse von Fr. 400.--. Auf Einsprache von X._ hin bestätigte der Strafgerichtspräsident des Kantons Basel-Stadt am 24. August 2009 den Schuldspruch sowie die Busse.
B. X._ erhob Beschwerde beim Appellationsgericht des Kantons Basel-Stadt, das diese am 8. Juli 2010 abwies.
C. X._ führt Beschwerde in Strafsachen beim Bundesgericht. Er beantragt, das angefochtene Urteil des Strafgerichts Basel-Stadt vom 25. August 2009 (recte: 24. August 2009) sei aufzuheben. Er sei freizusprechen, eventualiter sei die Angelegenheit zur Neubeurteilung an das Strafgericht Basel-Stadt, subeventualiter an die Vorinstanz zurückzuweisen.
D. Das Appellationsgericht des Kantons Basel-Stadt verzichtet auf eine Vernehmlassung. Die Staatsanwaltschaft des Kantons Basel-Stadt liess sich nicht vernehmen.

Erwägungen:
1. Die Beschwerde vom 28. Oktober 2010 ging beim Bundesgericht am 29. Oktober 2010 ein. In Bezug auf die Frage des anwendbaren Prozessrechts ist die bis zum 31. Dezember 2010 in Kraft stehende Strafprozessordnung des Kantons Basel-Stadt anwendbar (Art. 453 Abs. 1 der schweizerischen Strafprozessordnung vom 5. Oktober 2007 [StPO, SR 312.0]).
2. X._ verlangt sinngemäss die Aufhebung des vorinstanzlichen Urteils vom 8. Juli 2010. Insoweit er darüber hinaus die Aufhebung des erstinstanzlichen Urteils beantragt, ist auf seine Beschwerde nicht einzutreten (<ref-law>).
3. Die Vorinstanz geht von folgendem Sachverhalt aus:
Der Beschwerdeführer begab sich am 21. Oktober 2008 in das Geschäftslokal der A._ AG in Basel (nachfolgend A._). Nachdem er beim Verlassen des Ladens den Kassenbereich passiert hatte, hielt ihn B._, ein Mitarbeiter des Sicherheitsdienstes, an und kontrollierte ihn. Dabei kam eine von A._ zum Preis von Fr. 199.-- angebotene Festplatte des Modells TrekStor zum Vorschein, die der Beschwerdeführer in einer Tasche bei sich trug, und für die er keine Kaufquittung vorweisen konnte. Er bezahlte die geltend gemachte Umtriebsgebühr von Fr. 200.-- in bar, weigerte sich aber, die von der herbeigerufenen Kantonspolizei Basel-Stadt aufgesetzte Sachverhaltsanerkennung zu unterschreiben.
4.1 4.1.1 Der Beschwerdeführer gibt an, er habe die fragliche Festplatte einige Tage zuvor in demselben Geschäft von A._ erworben. Zu Hause habe er festgestellt, dass diese beschädigt gewesen sei, weshalb er an den Hersteller gelangt sei. Dessen Kundendienst habe ihm per E-Mail empfohlen, die Festplatte in das Ladenlokal zurückzubringen, was er am 21. Oktober 2008 denn auch habe tun wollen. Dieser E-Mail-Verkehr habe der Vorinstanz vorgelegen. Er habe sich vor dem Umtausch vergewissern wollen, dass das entsprechende Modell noch am Lager sei. Zudem habe er noch etwas anderes kaufen wollen. Er habe seine Festplatte aus der Tasche genommen, um diese mit den anderen Modellen im Laden zu vergleichen. Danach habe er sie wieder in seiner Tasche verstaut. Der Kundendienst des A._ sei kurz vor Ladenschluss um 20.00 Uhr nicht mehr besetzt gewesen. Er habe sich daher entschieden, am nächsten Tag nochmals vorbeizukommen (Beschwerde, S. 4 f.).
4.1.2 Der Beschwerdeführer macht weiter geltend, die Verpackung der Festplatte sei geöffnet gewesen, zumal er die mitgelieferte Installations-CD nicht mitgenommen, sondern zu Hause liegen gelassen habe. Die Festplatten seien zudem mit einem Warensicherungsetikett versehen. An der Verpackung seiner Festplatte sei kein solches Etikett mehr vorhanden gewesen, da dieses beim Kauf an der Kasse entfernt worden sei (Beschwerde, S. 6).
4.1.3 Der Beschwerdeführer weist ferner darauf hin, dass auf den Überwachungsfotos kein Diebstahl erkennbar sei. Die Vorinstanz habe sich mit diesem Umstand nicht auseinandergesetzt (Beschwerde, S. 7 f.).
Die Aussagen von B._ habe die Vorinstanz zu Unrecht nicht in Zweifel gezogen. Entgegen dessen Zeugenaussagen im Rahmen der erstinstanzlichen Hauptverhandlung habe der Beschwerdeführer den Diebstahl nicht zugestanden. Er habe lediglich keine Gegenwehr geboten, bis die Polizei eingetroffen sei. Aufgrund der herbeigerufenen Polizei und der nicht unterschriebenen Sachverhaltsanerkennung zeige sich klar, dass er den Diebstahl nicht eingestanden habe. Die Zeugenaussage sei in diesem Punkt unglaubhaft, was die Vorinstanz hätte berücksichtigen müssen. Trotz entsprechender Rüge sei sie hierauf mit keinem Wort eingegangen. Gleiches gelte für die nachweislich falsche Aussage von B._, wonach die Festplatten mit keiner Alarmvorrichtung ausgestattet seien. Mit einer amtlichen Erkundigung hätte die Falschheit dieser Aussage leicht überprüft werden können (Beschwerde, S. 8 f.).
Es stimme schliesslich nicht, dass er die CD-Rom mit der Installationssoftware nicht als Beweismittel eingereicht habe. Entgegen der Vorinstanz befinde sich diese CD-Rom bei den Akten. Nach der vorliegenden Beweissituation habe nach dem Grundsatz "in dubio pro reo" klarerweise ein Freispruch zu erfolgen. Die vorinstanzliche Beweiserhebung und Beweiswürdigung seien haltlos und verstiessen gegen das Willkürverbot (Beschwerde, S. 10 f.).
4.2 Die Vorinstanz erwägt, es könne offengelassen werde, ob die erste Instanz den Verkauf der sichergestellten Festplatte anhand der Geschäftsbücher von A._ hätte überprüfen müssen. Der entsprechende Beweisantrag sei erstmals im erstinstanzlichen Parteivortrag der Verteidigung nach abgeschlossenem Beweisverfahren gestellt worden. Eine weitere Abklärung des Sachverhalts habe sich nicht als notwendig erwiesen (§ 125 Abs. 4 aStPO/BS).
Es sei in mehrfacher Hinsicht zweifelhaft, dass der Beschwerdeführer eine zuvor gekaufte Festplatte habe umtauschen wollen. So habe er weder die Kaufquittung noch die zugehörige Installations-CD mitgenommen. Zudem habe er diese CD-Rom, die er der geöffneten Verpackung entnommen haben will, nicht als Beweismittel eingereicht. Er müsse zwar nicht seine Unschuld beweisen. Es könne von der Verteidigung aber erwartet werden, einen solchen Beleg für die Unschuld einzureichen (angefochtenes Urteil, S. 5).
Aufgrund der E-Mail-Korrespondenz des Beschwerdeführers mit der C._ GmbH sei davon auszugehen, dass er eine Festplatte des Modells TrekStor gekauft habe. Dies schliesse aber einen Diebstahl nicht aus. Es sei nach der allgemeinen Lebenserfahrung nicht abwegig, dass er statt den Umtrieben eines Umtauschs eine neue Festplatte habe behändigen wollen. Dass die inkriminierte Festplatte keine Alarmsicherung aufgewiesen haben soll, helfe dem Beschwerdeführer nicht, da die entsprechenden Festplatten nach Auskunft von B._ generell nicht gesichert würden. Gründe, an der Glaubwürdigkeit der Zeugenaussagen zu zweifeln, seien keine ersichtlich. Der Hinweis auf das Einkommen des Beschwerdeführers vermöge die erstinstanzliche Sachverhaltsfeststellung ebenfalls nicht zu erschüttern, da regelmässig auch solche Personen, die finanziell nicht darauf angewiesen seien, kleinere Diebstähle begingen (angefochtenes Urteil, S. 5 f.).
Es bestünden insgesamt keine erheblichen und nicht zu unterdrückenden Zweifel, dass sich der Sachverhalt anzeigegemäss verwirklicht habe. Die erste Instanz habe sich, ohne in Willkür zu verfallen, auf die Aussagen des Zeugen B._ stützen können. Der Grundsatz "in dubio pro reo" sei nicht verletzt (angefochtenes Urteil, S. 6).
4.3 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat. Die Feststellung des Sachverhalts durch die Vorinstanz kann nur gerügt werden, wenn sie offensichtlich unrichtig, d.h. willkürlich im Sinne von <ref-law> ist (<ref-ruling> E. 1.2.2), oder wenn sie auf einer Verletzung von schweizerischem Recht im Sinne von <ref-law> beruht (<ref-law>). Die Rüge der offensichtlich unrichtigen Feststellung des Sachverhalts (<ref-law>) prüft das Bundesgericht unter den in <ref-law> vorgegebenen Bedingungen.
4.4 Der Beschwerdeführer, der die von der Vorinstanz vorgenommenen Sachverhaltsfeststellungen anfechten will, muss substantiiert darlegen, inwiefern die Voraussetzungen einer Ausnahme gemäss <ref-law> gegeben sind und das Verfahren bei rechtskonformer Ermittlung des Sachverhalts anders ausgegangen wäre. Andernfalls kann ein Sachverhalt, der von dem im angefochtenen Entscheid festgestellten abweicht, nicht berücksichtigt werden. Der Beschwerdeführer kann sich nicht damit begnügen, den bestrittenen Feststellungen eigene tatsächliche Behauptungen gegenüberzustellen oder darzulegen, wie die Beweise seiner Ansicht nach zu würdigen gewesen wären. Vielmehr hat er klar und substantiiert aufzuzeigen, inwiefern die gerügten Feststellungen bzw. die Unterlassung von Feststellungen offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von <ref-law> beruhen. Auf eine Kritik an den tatsächlichen Feststellungen der Vorinstanz, die diesen Anforderungen nicht genügt, ist nicht einzutreten (<ref-ruling> E. 2.4).
4.5 Zu beachten ist, dass dem Sachgericht im Bereich der Beweiswürdigung ein erheblicher Ermessensspielraum zusteht (Urteil 6B_209/2010 vom 2. Dezember 2010 E. 5.3.3; <ref-ruling> E. 4b). Das Bundesgericht greift auf Beschwerde hin nur ein, wenn das Sachgericht diesen missbraucht, insbesondere offensichtlich unhaltbare Schlüsse zieht, erhebliche Beweise übersieht oder solche willkürlich ausser Acht lässt (<ref-ruling> E. 2.1).
4.6 Der Vorinstanz ist insofern beizupflichten, als der Beschwerdeführer die Installations-CD nicht als Beweismittel eingereicht hat. Gemäss Verfahrensprotokoll der Vorinstanz, S. 2 f., gab er erst am 28. Oktober 2010, im Rahmen der Aktenkonsultation für die Beschwerde in Strafsachen ans Bundesgericht, kommentarlos eine Kleinformat-CD zu den Akten. Die Vorinstanz wies diese am Folgetag nach einem Telefongespräch mit dem Verteidiger des Beschwerdeführers aus den Akten.
4.7 Der Beschwerdeführer weist in seiner Beschwerde auf verschiedene Unterlassungen und Mängel der Sachverhaltsermittlung hin. So ist trotz herbeigerufener Polizei nicht abschliessend geklärt, ob die Packung der inkriminierten Festplatte im Zeitpunkt der Kontrolle durch B._ tatsächlich geöffnet war oder nicht. Zwar sagte jener in diesem Sinne aus, eine polizeiliche Bestätigung oder die Verpackung selber finden sich jedoch nicht in den Untersuchungsakten. Nicht nachgeprüft wurde weiter, ob die Festplatte tatsächlich in einem früheren Zeitpunkt durch A._ verkauft worden war. Auch wenn der entsprechende Beweisantrag vor der ersten Instanz allenfalls verspätet erfolgt sein sollte, hätte eine sorgfältige Strafuntersuchung eine solche Abklärung zwingend umfassen müssen.
Ebenso hätte überprüft werden müssen, ob die Festplatten von A._ generell nicht mit einem Warensicherungsetikett versehen sind. Die diesbezügliche (vom Beschwerdeführer bestrittene) Aussage des Zeugen B._ hätte leicht verifiziert werden können. Gleiches gilt für den vom Beschwerdeführer geltend gemachten Umstand, dass an der Verpackung seiner Festplatte kein Sicherungsetikett mehr vorhanden war.
4.8 Der Beschwerdeführer weist ferner zu Recht darauf hin, dass die Vorinstanz sich nicht mit dem Argument auseinandersetzt, wonach auf den Überwachungsfotos kein Diebstahl erkennbar ist (act. 8 - 19 der Vorakten). Schliesslich ist auch in Zweifel zu ziehen, dass der Beschwerdeführer einen Diebstahl tatsächlich zugestanden hat. Auch wenn er sich - bedingt durch sprachliche Verständigungsschwierigkeiten - gegenüber B._ verbal nicht zur Wehr gesetzt haben sollte, zeigt die anschliessend nicht unterschriebene polizeiliche Sachverhaltsanerkennung hinreichend deutlich, dass er den Sachverhalt nicht akzeptiert hat.
4.9 Nach <ref-law> müssen beim Bundesgericht anfechtbare Entscheide die massgebenden Gründe tatsächlicher und rechtlicher Art enthalten und insbesondere die massgeblichen Gesetzesbestimmungen angeben. Der vorinstanzliche Entscheid muss somit eindeutig aufzeigen, auf welchem festgestellten Sachverhalt er beruht und welches die auf den Sachverhalt angewendeten rechtlichen Überlegungen sind (<ref-ruling> E. 8.2). Nach der bundesgerichtlichen Rechtsprechung ist die Begründung insbesondere mangelhaft, wenn der angefochtene Entscheid jene tatsächlichen Feststellungen nicht trifft, die zur Überprüfung des eidgenössischen Rechts notwendig sind oder wenn die rechtliche Begründung des angefochtenen Entscheides so lückenhaft oder unvollständig ist, dass nicht geprüft werden kann, wie das eidgenössische Recht angewendet wurde. Die Begründung ist ferner mangelhaft, wenn einzelne Tatbestandsmerkmale, die für die Subsumtion unter eine gesetzliche Norm von Bedeutung sind, von der Vorinstanz nicht oder nicht genügend abgeklärt wurden (<ref-ruling> E. 5b mit Hinweis).
4.10 Die Vorinstanz kommt im vorliegenden Fall ihrer Begründungspflicht insofern nicht nach, als sie - wie aufgezeigt - mehrere notwendige Sachverhaltsfeststellungen nicht vornimmt. Art. 139 Ziff. 1 i.V.m. <ref-law> lässt sich gestützt auf das bisherige Sachverhaltsfundament nicht auf den vorliegenden Fall anwenden, weshalb die Vorinstanz Bundesrecht verletzt (<ref-ruling> E. 8.2).
5. Die Beschwerde ist gutzuheissen, soweit darauf einzutreten ist. Das Bundesgericht kann einen Entscheid, der den Anforderungen von <ref-law> nicht genügt, an die kantonale Behörde zur Verbesserung zurückweisen oder aufheben (<ref-law>; zum früheren Recht <ref-ruling> E. 2.6). Das angefochtene Urteil des Obergerichts des Kantons Basel-Stadt vom 8. Juli 2010 ist somit aufzuheben und die Sache zur Verbesserung und neuer Entscheidung an die Vorinstanz zurückzuweisen. Bei diesem Ausgang des Verfahrens sind keine Gerichtskosten zu erheben (Art. 66 Abs. 1 i.V.m. Abs. 4 BGG). Der Kanton Basel-Stadt hat dem Beschwerdeführer eine angemessene Parteientschädigung auszurichten (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, soweit darauf einzutreten ist. Das angefochtene Urteil des Obergerichts des Kantons Basel-Stadt vom 8. Juli 2010 wird aufgehoben und die Sache zur neuen Entscheidung an die Vorinstanz zurückgewiesen.
2. Es werden keine Gerichtskosten erhoben.
3. Der Kanton Basel-Stadt hat dem Beschwerdeführer eine Parteientschädigung von Fr. 3'000.-- auszurichten.
4. Dieses Urteil wird den Parteien und dem Appellationsgericht des Kantons Basel-Stadt, Ausschuss, schriftlich mitgeteilt.
Lausanne, 27. April 2011
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Favre Keller