Sachverhalt:
A. Dr. med. X._, Zahnarzt, extrahierte am 8. Mai 2006 der damals knapp 15-jährigen Patientin A._ anstelle der vier Weisheitszähne die benachbarten Backenzähne, ohne sie zuvor über sein beabsichtigtes Vorgehen aufgeklärt zu haben. Am 10. Juli 2008 wurde X._ erstinstanzlich der qualifizierten einfachen Körperverletzung schuldig gesprochen. Er wurde zu einer bedingten Geldstrafe von 100 Tagessätzen zu Fr. 500.-- sowie zur Zahlung von Schadenersatz und Genugtuung an A._ verurteilt.
B. Das Appellationsgericht des Kantons Basel-Stadt sprach X._ mit Urteil vom 3. März 2010 der fahrlässigen Körperverletzung schuldig. Die Genugtuung an A._ erhöhte es von Fr. 4'000.-- auf Fr. 6'000.--. Im Übrigen bestätigte das Appellationsgericht das erstinstanzliche Urteil. Es legte X._ die Kosten des zweitinstanzlichen Verfahrens mit Einschluss einer Urteilsgebühr von Fr. 3'000.-- und einer reduzierten Parteientschädigung an A._ von Fr. 800.-- auf.
C. Mit Beschwerde in Strafsachen beantragt X._, er sei wegen fahrlässiger Körperverletzung zu einer bedingten Geldstrafe von 10 Tagessätzen zu Fr. 500.-- zu verurteilen. Die Kosten des zweitinstanzlichen Verfahrens seien dem Staat aufzuerlegen. Ihm sei für das zweitinstanzliche Verfahren eine Parteientschädigung von Fr. 10'685.20 durch den Staat auszurichten. Eventualiter sei die Sache an die Vorinstanz zur neuen Entscheidung im Sinne der bundesgerichtlichen Erwägungen zurückzuweisen.
Erwägungen:
1. Der Beschwerdeführer wendet sich gegen die Strafzumessung. Die Vorinstanz übernehme trotz Änderung des Schuldspruchs die erstinstanzliche Strafe. Zudem führe sie weder die einzelnen Strafzumessungsfaktoren auf noch begründe sie diese. Dies verletze Art. 47 und Art. 50 StGB sowie seinen Anspruch auf rechtliches Gehör nach Art. 29 BV.
1.1 Die erste Instanz führte aus, das Verschulden des Beschwerdeführers wiege objektiv nicht leicht. A._ habe vier gesunde Backenzähne unwiederbringlich verloren und müsse sich weiteren langwierigen und belastenden kieferorthopädischen Behandlungen unterziehen. Der Beschwerdeführer habe seine Patientin während eines Heileingriffs verletzt und ihr Vertrauen schwer enttäuscht. Er habe von Anfang an zugegeben, die falschen Zähne gezogen zu haben. Auch wenn er vor Gericht den Vorfall aufrichtig bedaure, habe er sich nie direkt bei seiner Patientin oder ihrer Mutter entschuldigt, sondern lediglich bei deren Vertreter. Das Vorleben des Beschwerdeführers sei unauffällig (Urteil der Strafgerichtspräsidentin Basel-Stadt vom 10. Juli 2008, kantonale Akten pag. 297 ff.).
1.2 Die Vorinstanz wirft dem Beschwerdeführer ein erhebliches Verschulden vor. Sie führt aus, die vom Beschwerdeführer begehrte Geldstrafe von 10 Tagessätzen würde die leichteste Form der Fahrlässigkeit im Sinne einer entschuldbaren Fehlleistung indizieren. Davon könne nicht die Rede sein. Die erstinstanzlich verhängte Strafe von 100 Tagessätzen erscheine für eine qualifizierte einfache Körperverletzung als reichlich entgegenkommend und hätte bei einer Bestätigung des Schuldspruchs erhöht werden müssen. Für die fahrlässige Tatbegehung entspreche diese Strafe der Praxis und sei angemessen. Das erstinstanzliche Urteil sei somit bezüglich der Strafzumessung zu bestätigen, obschon der Schuldspruch zu Gunsten des Beschwerdeführers abgeändert werde (angefochtenes Urteil E. 3 S. 6 f.).
1.3 Der Beschwerdeführer bringt vor, die Vorinstanz begründe nicht, weshalb sie das Verschulden als "erheblich" qualifiziere. Der Hinweis, wonach bei Bestätigung des Schuldspruchs die Strafe hätte erhöht werden müssen, genüge den Anforderungen an die Begründungspflicht keineswegs. Die Strafe von 100 Tagessätzen zu Fr. 500.-- sei im Vergleich mit der Rechtsprechung des Bundesgerichts zu Fahrlässigkeitsdelikten gegen die körperliche Integrität zu hoch angesetzt. Sein Verschulden könne als leicht eingestuft werden, habe er doch weder gleichgültig noch rücksichtslos gehandelt. Es sei zu berücksichtigen, dass das Ausmass des verschuldeten Erfolgs gering sei. Er habe mit seiner Behandlung keinen bleibenden Schaden bei A._ bewirkt. Aufgrund der klinischen Situation sei er der irrigen Vorstellung unterliegen, sein Behandlungsauftrag laute auf Extraktion der Backenzähne. Mit seinem Schreiben an den Vertreter von A._ habe er sein ehrlich empfundenes Bedauern ausgedrückt. Strafmindernd sei zu werten, dass er nicht vorbestraft und aus beruflichen Gründen erhöht strafempfindlich sei. Er habe sich während der Strafuntersuchung kooperativ gezeigt. Schliesslich seien seit der Tat vier Jahre verstrichen.
1.4 Gemäss Art. 47 Abs. 1 StGB misst das Gericht die Strafe nach dem Verschulden des Täters zu. Es berücksichtigt das Vorleben, die persönlichen Verhältnisse sowie die Wirkung der Strafe auf das Leben des Täters. Die Bewertung des Verschuldens wird in Art. 47 Abs. 2 StGB dahingehend präzisiert, dass dieses nach der Schwere der Verletzung oder Gefährdung des betroffenen Rechtsguts, nach der Verwerflichkeit des Handelns, den Beweggründen und Zielen des Täters sowie danach bestimmt wird, wie weit der Täter nach den inneren und äusseren Umständen in der Lage war, die Gefährdung oder Verletzung zu vermeiden.
Es liegt im Ermessen des Sachrichters, in welchem Umfang er die verschiedenen Strafzumessungsfaktoren berücksichtigt. Die strafrechtliche Abteilung des Bundesgerichts greift auf Beschwerde in Strafsachen hin nur in die Strafzumessung ein, wenn die Vorinstanz den gesetzlichen Strafrahmen über- oder unterschritten hat, wenn sie von rechtlich nicht massgebenden Kriterien ausgegangen ist oder wesentliche Gesichtspunkte ausser Acht gelassen beziehungsweise in Überschreitung oder Missbrauch ihres Ermessens falsch gewichtet hat (BGE 136 IV 55 E. 5.6 S. 61 mit Hinweis).
Nach Art. 50 StGB hat der Richter die für die Zumessung der Strafe erheblichen Umstände und deren Gewichtung festzuhalten. Diese Bestimmung entspricht der Rechtsprechung des Bundesgerichts zum alten Recht, wonach der Richter die Überlegungen, die er bei der Bemessung der Strafe vorgenommen hat, in den Grundzügen wiedergeben muss, so dass die Strafzumessung nachvollziehbar ist. Besonders hohe Anforderungen an die Begründung der Strafzumessung werden unter anderem gestellt, wenn die ausgesprochene Strafe ungewöhnlich hoch oder auffallend milde ist (BGE 134 IV 17 E. 2.1 S. 19 f. mit Hinweisen).
1.5 Die Vorinstanz stuft das Verschulden des Beschwerdeführers als erheblich ein und verneint die leichteste Form der Fahrlässigkeit. Da sie die von der ersten Instanz ausgesprochene Strafe für eine vorsätzliche Körperverletzung als zu tief beurteilt, besteht keine Diskrepanz zwischen dem erst- und zweitinstanzlichen Urteil, wenn sie trotz Änderung des Schuldspruchs das Strafmass bestätigt (vgl. Urteil 6B_858/2008 vom 20. Mai 2009 E. 4.2). Die vom Beschwerdeführer erwähnten Täterkomponenten wurden von der ersten Instanz, welche für die Beurteilung korrekterweise auf die Verhältnisse zum Zeitpunkt der Urteilsfällung abstellte, gewichtet (vgl. Urteil 6B_480/2009 vom 5. November 2009 E. 5.5). Veränderte Verhältnisse sind weder dargetan noch ersichtlich. Ergänzend ist festzuhalten, dass sich die vom Beschwerdeführer geltend gemachte Vorstrafenlosigkeit nicht strafmindernd, sondern neutral auswirkt (BGE 136 IV 1 E. 2.6.4 S. 3). Ebensowenig ist seine Berufstätigkeit strafmindernd zu berücksichtigen. Ein aussergewöhnlicher Umstand, welcher eine erhöhte Strafempfindlichkeit begründen würde, liegt nicht vor (vgl. Urteil 6B_294/2010 vom 15. Juli 2010 E. 3.3.1 mit Hinweisen). Die Strafe ist gemäss Art. 48 lit. e StGB nur zwingend zu mildern, wenn zwei Drittel der Verjährungsfrist verstrichen sind (BGE 132 IV 1 E. 6.2 S. 4), was vorliegend nicht der Fall ist. Hinsichtlich des Strafmasses ist zwar einzuräumen, dass es im Vergleich mit anderen Fällen hoch ausfällt. Angesichts der Tatsachen, dass die Vorinstanz von einem mittleren Verschulden ausgeht und der Strafrahmen bei einer fahrlässigen Körperverletzung bis drei Jahren Freiheitsstrafe reicht (Art. 125 Abs. 1 StGB), hält sich die Strafe jedoch im Rahmen des (weiten) vorinstanzlichen Ermessens. Dies wird durch den Verweis des Beschwerdeführers auf in anderen Fällen ausgesprochene Strafen nicht in Frage gestellt. Da die Strafzumessung auf einer individualisierten Beurteilung aller massgeblichen Umstände beruht, sind Unterschiede in der Strafzumessungspraxis als Ausdruck des Rechtssystems hinzunehmen (BGE 135 IV 191 E. 3.1 S. 193 mit Hinweisen). Insgesamt ist die vorinstanzliche Strafzumessung nachvollziehbar und genügt den Begründungsanforderungen. Die Rügen des Beschwerdeführers erweisen sich als unbegründet.
2. Der Beschwerdeführer rügt weiter eine willkürliche Anwendung von kantonalem Strafprozessrecht bei der zweitinstanzlichen Kostenauflage.
2.1 Die Vorinstanz führt aus, die Appellation des Beschwerdeführers sei insofern gutzuheissen, als er lediglich der fahrlässigen Körperverletzung schuldig zu erklären sei. Jedoch könnten nach § 35 Abs. 3 StPO dem Freigesprochenen die Verfahrenskosten auferlegt werden, soweit er das Verfahren durch ein strafprozessual vorwerfbares Verhalten veranlasst oder erschwert habe. Nämliches gelte nach § 37 Abs. 2 StPO für die Verweigerung einer Entschädigung. Dem Beschwerdeführer sei ein derartiges Verhalten vorzuwerfen. Er habe sichtlich Mühe gehabt, den fahrlässig begangenen schweren Kunstfehler zuzugeben. Mit nicht ganz eindeutigen Erklärungen habe er versucht, die Sache für sich günstiger aussehen zu lassen. Es sei weitgehend seinen widersprüchlichen Einlassungen zuzuschreiben, dass Staatsanwaltschaft und erste Instanz auf Vorsatz erkannt hätten. Davon abgesehen sei zu berücksichtigen, dass es trotz milderem Schuldspruch bei der erstinstanzlich ausgesprochenen Strafe bleibe. Weil das Opfer mit seinem Antrag betreffend die Höhe der Genugtuung teilweise erfolgreich sei, schulde ihm der Beschwerdeführer eine reduzierte Parteientschädigung (angefochtenes Urteil E. 5 S. 9).
2.2 Der Beschwerdeführer bringt vor, es verletze seinen Anspruch auf willkürfreie Behandlung durch die staatlichen Organe, indem ihm die Vorinstanz die Verfahrenskosten - inklusive der reduzierten Parteientschädigung an A._ - auferlege. Ein Angeklagter, der die Auskunft verweigere oder die Tat zu Unrecht bestreite, begehe kein prozesswidriges Verhalten. Er habe bereits anlässlich der ersten Einvernahme zugegeben, dass ihm ein Irrtum unterlaufen sei. Es sei Aufgabe der Strafbehörde, die rechtliche Qualifikation eines Verhaltens als fahrlässig oder vorsätzlich vorzunehmen. Deshalb gehe der Vorwurf, er habe keine eindeutige Erklärung abgegeben, "fahrlässig einen schweren Kunstfehler" begangen zu haben, völlig fehl. Die Anklageschrift der Staatsanwaltschaft sowie die Verurteilung durch die erste Instanz zu einfacher qualifizierter Körperverletzung beruhten vielmehr auf einer mangelhaften Würdigung der amtlichen Akten.
2.3 Gemäss Art. 95 BGG kann die Anwendung einfachen kantonalen Rechts mit Beschwerde an das Bundesgericht nur gerügt werden, wenn geltend gemacht wird, sie verletze gleichzeitig das Willkürverbot von Art. 9 BV. Willkür liegt nach ständiger Rechtsprechung vor, wenn der Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (BGE 135 I 313 E. 1.3 S. 316; 135 II 356 E. 4.2.1 S. 362; je mit Hinweisen). Dabei genügt es nicht, wenn der angefochtene Entscheid sich nur in der Begründung als unhaltbar erweist; eine Aufhebung des Entscheids rechtfertigt sich erst, wenn er auch im Ergebnis verfassungswidrig ist (BGE 134 II 124 E. 4.1 S. 133 mit Hinweisen).
2.4 Nach § 165 Abs. 2 Satz 1 der Strafprozessordnung des Kantons Basel-Stadt vom 8. Januar 1997 (StPO/BS; SG 257.100) sind die Kosten eines Rechtsmittelverfahrens in sinngemässer Anwendung der allgemeinen Grundsätze von §§ 35 f. nach dem Ausgang der Sache entweder vom Staat oder von der unterliegenden Partei zu tragen. Vorliegend hat der Beschwerdeführer im Appellationsverfahren mit dem Antrag auf Schuldspruch wegen fahrlässiger Körperverletzung obsiegt. Da er hingegen mit seinem Antrag auf Reduktion der Geldstrafe nicht durchgedrungen ist, wurde der erstinstanzliche Entscheid nicht wesentlich geändert. Bei einem solchen Ausgang ist es nicht offensichtlich unhaltbar, wenn die Vorinstanz dem Beschwerdeführer die gesamten Verfahrenskosten auferlegt. Im ähnlichen Sinne wird auch in der - vorliegend noch nicht anwendbaren - Schweizerischen Strafprozessordnung (StPO) in Art. 428 explizit statuiert, dass einer Partei, die ein Rechtsmittel ergriffen und einen für sie günstigeren Entscheid erwirkt hat, die Verfahrenskosten auferlegt werden können, wenn "die Voraussetzungen für das Obsiegen erst im Rechtsmittelverfahren geschaffen worden sind" oder "der angefochtene Entscheid nur unwesentlich abgeändert wird" (Abs. 2). Vorliegend kann offen gelassen werden, ob der Beschwerdeführer das Strafverfahren durch ein strafprozessual vorwerfbares Verhalten veranlasst oder erschwert hat (vgl. Art. 35 Abs. 3 StPO/BS und Art. 37 Abs. 2 StPO/BS), weil das angefochtene Urteil nach dem Gesagten jedenfalls zumindest im Ergebnis nicht willkürlich ist (vgl. BGE 134 II 124 a.a.O.). Gleiches gilt für die reduzierte Parteientschädigung an das Opfer, welches mit seinem Antrag auf Erhöhung der Genugtuung teilweise durchgedrungen ist - die Parteientschädigung ist gemäss § 39 StPO/BS ebenfalls nach dem Ausgang der Sache zuzusprechen. Die Rüge der willkürlichen Anwendung von kantonalem Verfahrensrecht erweist sich als unbegründet.
2.5 Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 4'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Appellationsgericht des Kantons Basel-Stadt, Ausschuss, schriftlich mitgeteilt.
Lausanne, 4. Februar 2011
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Favre Binz