Sachverhalt:
A. Das Appellationsgericht Basel-Stadt sprach X._ mit Urteil vom 11. September 2012 und 6. Oktober 2012 zweitinstanzlich der sexuellen Nötigung, der einfachen Körperverletzung, der Drohung, der mehrfachen Nötigung und mehrfachen Tätlichkeiten, alles zum Nachteil seiner damaligen Lebenspartnerin A._, und der mehrfachen groben Verletzung der Verkehrsregeln schuldig. In einem Punkt sprach es ihn von der Anklage der Drohung frei. Es verurteilte ihn zu einer bedingt vollziehbaren Geldstrafe von 360 Tagessätzen zu Fr. 100.-- und zu einer Busse von Fr. 600.--. Das Appellationsgericht verpflichtete X._ zur Bezahlung von Schadenersatz in der Höhe von Fr. 366.90 und einer Genugtuung von Fr. 4'000.-- an A._. Im Mehrbetrag verwies es deren Forderungen auf den Zivilweg (betreffend Schadenersatz) bzw. wies sie ab (betreffend Genugtuung).
B. Mit Beschwerde in Strafsachen beantragt X._, das Urteil des Appellationsgerichts sei teilweise aufzuheben, und er sei von den Vorwürfen der sexuellen Nötigung, der einfachen Körperverletzung, der Drohung und der mehrfachen Nötigung sowie Tätlichkeiten freizusprechen. Sämtliche Zivilforderungen von A._ seien abzuweisen. Im Übrigen sei das Urteil zu bestätigen. Eventualiter sei es aufzuheben und die Sache zur neuen Entscheidung an die Vorinstanz zurückzuweisen.
Erwägungen:
1. Der Beschwerdeführer rügt, die Staatsanwaltschaft und die kantonalen Instanzen hätten seine Anträge auf Einvernahme von Entlastungszeugen zu Unrecht in antizipierter Beweiswürdigung abgewiesen und dadurch Art. 139 Abs. 1 [recte: 2] und Art. 318 Abs. 2 StPO verletzt (Beschwerde S. 4 -7 N. 7-9).
Auf die Vorbringen des Beschwerdeführers, welche gegen die Staatsanwaltschaft bzw. das erstinstanzliche Urteil gerichtet sind, ist nicht einzutreten. Anfechtungsobjekt der Beschwerde an das Bundesgericht bildet der letztinstanzliche kantonale Entscheid (Art. 80 Abs. 1 BGG). Das ist vorliegend das Urteil des Appellationsgerichts. Die Vorinstanz begründet die Abweisung der Beweisanträge ausführlich (Urteil S. 3 f. E. 2.1). Der Beschwerdeführer setzt sich mit diesen zutreffenden Erwägungen nicht substanziiert auseinander. Auf seine Beschwerde ist in diesem Punkt nicht einzutreten.
2. 2.1 Der Beschwerdeführer rügt eine Verletzung seines Anspruchs auf rechtliches Gehör und auf ein faires Verfahren. Während des Untersuchungsverfahrens sei er nie mit der Beschwerdegegnerin 2 konfrontiert worden. Anlässlich der erstinstanzlichen Hauptverhandlung habe er deren Einvernahme im Nebenraum lediglich akustisch mitverfolgen können. Er habe ihr selber keine Fragen stellen oder ihre Mimik und Gestik beobachten können. Die ihm vorgeworfenen Taten seien vergleichbar mit denjenigen im Entscheid 6B_324/2011 vom 26. Oktober 2011 beurteilten Handlungen und bei Weitem nicht so schwer wie die im Urteil 6B_207/2012 vom 17. Juli 2012. Daher sei nicht nachvollziehbar, warum auf eine zumindest indirekte Konfrontation mittels audiovisueller Übertragung verzichtet worden sei. Zudem sei unbestritten, dass die Beschwerdegegnerin 2 noch Monate nach dem angeblichen Vorfall vom 29. Mai 2009 eine partnerschaftliche und sexuelle Beziehung zu ihm gepflegt habe. Es seien somit keine Gründe ersichtlich, die einer indirekten Konfrontation mittels audiovisueller Übertragung entgegenstünden. Die ausgebliebene Konfrontation sei unverhältnismässig und verstosse gegen die Verfahrensgarantien von Art. 29 Abs. 2 und Art. 32 Abs. 2 BV sowie Art. 6 Ziff. 1 i.V.m. Art. 6 Ziff. 3 EMRK (Beschwerde S. 9-11 N. 14-17).
2.2 Die Vorinstanz erwägt, der Beschwerdeführer habe die Befragung der Beschwerdegegnerin 2 akustisch mitverfolgt. Er habe ihr über seinen Verteidiger Fragen stellen und im Anschluss an die Einvernahme der Beschwerdegegnerin 2 zu ihren Aussagen Stellung nehmen können. Opfer sexueller Übergriffe seien wegen der belastenden Situation nur zurückhaltend mehrfach zu befragen. Der Antrag des Beschwerdeführers auf direkte, eventualiter indirekte Konfrontation mittels Videoübertragung sei abzuweisen (Urteil S. 6 f. E. 2.3).
2.2 Die Vorinstanz erwägt, der Beschwerdeführer habe die Befragung der Beschwerdegegnerin 2 akustisch mitverfolgt. Er habe ihr über seinen Verteidiger Fragen stellen und im Anschluss an die Einvernahme der Beschwerdegegnerin 2 zu ihren Aussagen Stellung nehmen können. Opfer sexueller Übergriffe seien wegen der belastenden Situation nur zurückhaltend mehrfach zu befragen. Der Antrag des Beschwerdeführers auf direkte, eventualiter indirekte Konfrontation mittels Videoübertragung sei abzuweisen (Urteil S. 6 f. E. 2.3).
2.3 2.3.1 Der in Art. 6 Ziff. 3 lit. d EMRK garantierte Anspruch des Angeschuldigten, den Belastungszeugen Fragen zu stellen, ist ein besonderer Aspekt des Rechts auf ein faires Verfahren gemäss Art. 6 Ziff. 1 EMRK. Eine belastende Zeugenaussage ist grundsätzlich nur verwertbar, wenn der Beschuldigte wenigstens einmal während des Verfahrens angemessene und hinreichende Gelegenheit hatte, das Zeugnis in Zweifel zu ziehen und Fragen an den Belastungszeugen zu stellen. Damit die Verteidigungsrechte gewahrt sind, muss der Beschuldigte namentlich in der Lage sein, die Glaubhaftigkeit einer Aussage prüfen und den Beweiswert in kontradiktorischer Weise auf die Probe und infrage stellen zu können (BGE 133 I 33 E. 2.2; 131 I 476 E. 2.2; 129 I 151 E. 3.1 und E. 4.2; je mit Hinweisen). Dieser Anspruch wird als Konkretisierung des rechtlichen Gehörs (Art. 29 Abs. 2 BV) auch durch Art. 32 Abs. 2 BV gewährleistet (BGE 131 I 476 E. 2.2; 129 I 151 E. 3.1 mit Hinweisen).
In der Regel ist das Fragerecht dem Beschuldigten und seinem Verteidiger gemeinsam einzuräumen. Die Mitwirkung des Beschuldigten kann für die Beurteilung der Glaubhaftigkeit der Zeugenaussagen entscheidend sein, insbesondere wenn dieser über Vorgänge berichtet, an denen beide beteiligt waren (Urteile 6B_324/2011 vom 26. Oktober 2011 E. 1.2; 6B_45/2008 E. 2.4; mit Hinweisen).
2.3.2 Das Konfrontationsrecht des Beschuldigten wird in gewissen Konstellationen durch die Opferrechte eingeschränkt. Bei Straftaten gegen die sexuelle Integrität darf eine Gegenüberstellung gegen den Willen des Opfers nur angeordnet werden, wenn der Anspruch der beschuldigten Person auf rechtliches Gehör nicht auf andere Weise gewährleistet werden kann (Art. 35 lit. d OHG [SR 312.5; Fassung in Kraft bis am 31. Dezember 2010] bzw. Art. 153 Abs. 2 StPO).
Bei der Handhabung des Konfrontationsrechts sind die Interessen der Verteidigung und diejenigen des Opfers gegeneinander abzuwägen. Es ist in jedem Einzelfall zu prüfen, welche Vorgehensweisen und Ersatzmassnahmen infrage kommen, um die Verteidigungsrechte des Angeschuldigten so weit als möglich zu gewährleisten und gleichzeitig den Interessen des Opfers gerecht zu werden (BGE 129 I 151 E. 5 S. 159 mit Hinweis). Massnahmen zum Schutz von Opfern können z.B. darin bestehen, dass das Opfer nur durch den Verteidiger, allenfalls durch Zwischenschaltung einer besonders ausgebildeten Person, befragt wird oder indem die Einvernahme des Opfers audiovisuell in einen anderen Raum übertragen wird, von wo aus der Beschuldigte sie verfolgen und in unmittelbarem zeitlichem Konnex Fragen stellen kann (Urteil 1P.650/2000 vom 26. Januar 2001 E. 3d mit Hinweisen). Muss der Beschuldigte den Saal während der Einvernahme verlassen, können dessen Verteidigungsrechte auch gewahrt sein, wenn sein Verteidiger während der Befragung anwesend ist, Fragen stellen kann und diesem die Möglichkeit gegeben wird, Unterbrechungen der Einvernahme zu verlangen, um seinen Mandanten zu informieren und nach Wiederaufnahme des Verfahrens Ergänzungsfragen zu stellen (Urteil 6P.46/2000 vom 10. April 2001 E. 1c/bb). Eine Videoübertragung ist in solchen Fällen nicht unter allen Umständen zwingend (BGE 129 I 151 E. 5 S. 159; Urteil 6P.172/2004 vom 3. Oktober 2005 E. 2.2.3). Vielmehr ist zu beachten, dass bei Opfern von Sexualdelikten nicht nur die persönliche Begegnung mit dem Täter, sondern auch die Befragung zum Tatgeschehen während einer audiovisuellen Direktübertragung an diesen zu einer psychischen Belastung führen kann. Auch aus dem vom Beschwerdeführer zitierten Urteil 6B_324/2011 vom 26. Oktober 2011 ergibt sich nichts anderes.
2.4 Bei der Wahl der Vorkehren zum Schutz der Opfer verfügt das Gericht über ein gewisses Ermessen. Der dem Beschwerdeführer vorgeworfene sexuelle Übergriff zum Nachteil seiner damaligen Lebenspartnerin wiegt nicht leicht, insbesondere da er mit wiederkehrender Gewalt sowie Drohungen einherging und zudem nicht die einzige Tat blieb, wie dies im Verfahren 6B_324/2011 der Fall war (Urteil S. 9 E. 3.4; erstinstanzliches Urteil S. 2-5 und S. 19-22). Der Umstand, dass die Beschwerdegegnerin 2 trotz des Übergriffs noch eine sexuelle Beziehung zu ihm pflegte, vermag an der Schwere der Tat nichts zu ändern. Gemäss Einschätzung des Zeugen B._ habe sich die Beschwerdegegnerin 2 in der Situation derart gefangen und unter Druck gesetzt gefühlt, dass sie allenfalls wieder nachgeben und die Anzeige zurückziehen werde (Urteil S. 6 E. 2.2). Der Beschwerdeführer macht nicht geltend, er habe die früheren Einvernahmen der Beschwerdegegnerin 2 nicht zur Kenntnis nehmen können. Sodann konnte er ihrer Einvernahme anlässlich des erstinstanzlichen Verfahrens akustisch folgen, ihr im nahen zeitlichen Kontext über seinen Verteidiger Ergänzungsfragen stellen und anschliessend Stellung beziehen. Inwiefern er zur Prüfung der Glaubhaftigkeit der Aussagen der Beschwerdegegnerin 2 zusätzlich zur eigenen Wahrnehmung ihrer Körpersprache während der Einvernahme bedurft hätte, legt er nicht hinreichend dar. Dies ist auch nicht ersichtlich. Überdies ergeben sich aus den Akten keine Hinweise darauf, dass er im erstinstanzlichen Verfahren eine audiovisuelle Übertragung beantragt oder geltend gemacht hätte, durch die akustische Übertragung seien seine Verteidigungsrechte eingeschränkt. Unter diesem Aspekt erscheint sein Vorbringen auch als verspätet. Die Vorinstanz durfte den Antrag des Beschwerdeführers auf direkte, allenfalls indirekte Konfrontation mittels Videoübertragung abweisen.
3. 3.1 Der Beschwerdeführer macht geltend, er habe mehrmals die Einholung eines Glaubhaftigkeitsgutachtens beantragt. Dies sei jeweils abgewiesen worden. Er erblickt darin eine Verletzung von Art. 182 StPO (Beschwerde S. 7-9 N. 10-13).
3.2 Gemäss Art. 182 StPO ziehen Staatsanwaltschaft und Gerichte eine oder mehrere sachverständige Personen bei, wenn sie nicht über die besonderen Kenntnisse und Fähigkeiten verfügen, die zur Feststellung oder Beurteilung eines Sachverhalts erforderlich sind. Die Prüfung der Glaubhaftigkeit von Aussagen ist primär Aufgabe des Gerichts. Eine Glaubwürdigkeitsbegutachtung durch eine sachverständige Person drängt sich nach der Rechtsprechung nur bei besonderen Umständen auf. Dies ist etwa der Fall, wenn bruchstückhafte oder schwer interpretierbare Äusserungen eines Kleinkinds zu beurteilen sind, bei ernsthaften Anzeichen geistiger Störungen, welche die Aussageehrlichkeit des Zeugen beeinträchtigen könnten, oder wenn Anhaltspunkte dafür bestehen, dass der Zeuge unter dem Einfluss von Drittpersonen steht (BGE 129 IV 179 E. 2.4 S. 184; 128 I 81 E. 2 S. 86; 118 Ia 28 E. 1c S. 31 f.; je mit Hinweisen). Dem Gericht steht bei der Beantwortung der Frage, ob aufgrund der konkreten Umstände des Einzelfalles der Beizug eines Sachverständigen notwendig ist, ein Ermessensspielraum zu (Urteil 6B_244/2009 vom 21. Juli 2009 E. 3.3 mit Hinweis). An dieser Rechtsprechung ist festzuhalten.
3.3 Die Vorinstanz begründet schlüssig, weshalb sie den Antrag auf Beizug einer sachverständigen Person abweist. Sie erwägt, die in sich stimmigen Aussagen der Beschwerdegegnerin 2 wiesen nicht auf eine geistige Störung hin, die eine Begutachtung erfordern würde. Ebenfalls keine Zweifel riefen der Hinweis des Beschwerdeführers auf die von ihr möglicherweise vor Jahren erlebten sexuellen Übergriffe oder die von ihm aufgeworfene Frage, ob die diagnostizierte posttraumatische Belastungsstörung vorbestanden haben könnte, hervor. Selbst wenn die Beschwerdegegnerin 2 unter früheren sexuellen Übergriffen leiden und diese nicht verarbeitet haben sollte, müsse dies ihre Wahrnehmungs-, Erinnerungs- und Wiedergabefähigkeit nicht beeinflussen (Urteil S. 4-6 E. 2.2). Indem die Vorinstanz gestützt auf diese Einschätzung sinngemäss besondere Umstände verneint und keinen Experten zur Prüfung der Glaubhaftigkeit der Aussagen der Beschwerdegegnerin 2 beizieht, verletzt sie kein Bundesrecht.
4. Die Beschwerde ist abzuweisen, soweit darauf eingetreten werden kann. Der Beschwerdeführer wird ausgangsgemäss kostenpflichtig (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Appellationsgericht des Kantons Basel-Stadt, Ausschuss, schriftlich mitgeteilt.
Lausanne, 12. März 2013
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Die Gerichtsschreiberin: Pasquini