Sachverhalt:
A. Das Bezirksgericht Zürich sprach X._ mit Urteil vom 10. November 2008 der mehrfachen sexuellen Nötigung und der Drohung schuldig und verurteilte ihn zu einer Freiheitsstrafe von 41⁄2 Jahren. X._ wurde verpflichtet, A._ Genugtuung von Fr. 20'000.-- zuzüglich Zins von 5% seit dem 3. September 2006 zu bezahlen. Das Bezirksgericht stellte fest, dass er gegenüber A._ für künftig entstehende Schäden im Zusammenhang mit dem eingeklagten Ereignis dem Grundsatze nach schadenersatzpflichtig sei.
B. X._ erhob gegen das Urteil Berufung ans Obergericht des Kantons Zürich. Dieses sprach ihn am 20. Januar 2010 vom Vorwurf der Drohung frei. Es setzte die Freiheitsstrafe auf 31⁄2 Jahre und die Genugtuung auf Fr. 12'000.-- fest.
C. Mit Beschwerde in Strafsachen beantragt X._, das Urteil des Obergerichts sei aufzuheben, und er sei von der Anklage der mehrfachen sexuellen Nötigung freizusprechen. Es sei ihm eine Haftentschädigung sowie eine Genugtuung zuzusprechen. Auf die Zivilklage der Geschädigten sei nicht einzutreten.

Erwägungen:
1. Gemäss Anklageschrift der Staatsanwaltschaft Zürich - Sihl vom 25. April 2008 wird B._ vorgeworfen, die Geschädigte A._ am 3. September 2006 um ca. 02.00 Uhr in Zürich-Wollishofen im Personenwagen von X._ zu Oralsex und zu vaginalem Geschlechtsverkehr gezwungen zu haben. Dabei soll er die rechte Brust der Geschädigten so stark gedrückt haben, dass dadurch ein grosses Hämatom entstand. Er soll ihr gedroht haben, sie mit Rasierklingen zu schneiden, wenn sie nicht über den Vorfall schweige.
Dem Beschwerdeführer wird vorgeworfen, die Geschädigte auf der anschliessenden Nachhausefahrt während eines Halts in Reinach zu Oral- und Analsex gezwungen zu haben. Er soll ihr für den Fall, dass sie den Vorfall jemandem erzähle, damit gedroht haben, mit ihrer Schwester dasselbe zu machen.
Die Vorinstanz hält den durch den Beschwerdeführer erzwungenen Oral- und Analverkehr sowie die Verletzung der rechten Brust der Geschädigten durch B._ als erstellt. Dies im Gegensatz zu den restlichen Anklagevorwürfen (s. angefochtenes Urteil E. 3c S. 23).
2. Der Beschwerdeführer rügt eine willkürliche Beweisführung. Er bringt vor, die polizeilichen Aussagen der Geschädigten seien mangels Beizug einer Übersetzungsperson nicht verwertbar. Bei der Befragung durch die Staatsanwältin sei klar geworden, dass dies zur Verständigung mit der Geschädigten notwendig gewesen wäre. Die protokollierende Person halte das fest, was sie zu verstehen glaube und nicht wortwörtlich, was die Geschädigte sage. Dass es für diese in Ordnung gewesen sei, keine Übersetzungsperson beizuziehen, sei kein überzeugender Beweis, dass es keinerlei Verständigungsschwierigkeiten gegeben habe. Der Mangel der fehlenden Übersetzung sei als schwerwiegend zu beurteilen, weil der Schuldspruch nur auf den Aussagen der Geschädigten basiere.
2.1 Die Geschädigte wurde am 7. und 11. September 2006 sowie am 5. Oktober 2006 polizeilich befragt und gab detaillierte Schilderungen zu Protokoll. Am 2. Februar 2007 führte die Staatsanwaltschaft eine formelle Zeugeneinvernahme durch. Dabei weigerte sich die Geschädigte, ihre Darstellung des inkriminierten Geschehens wiederzugeben. Die zuständige Staatsanwältin hielt nach der Einvernahme in einer Aktennotiz fest, die Geschädigte sei bereits bei der ersten Frage zusammengebrochen. Angesichts des schlechten psychischen Zustandes der Geschädigten habe sie sich entschlossen, diese nur ihre eigenen, bei der Polizei gemachten Aussagen bestätigen zu lassen (s. Urteil des Bezirksgerichts Zürich vom 10. November 2008 E. 2.1 S. 6 f.).
2.2 Auf dem Gebiet der Beweiswürdigung ist die Kognition des Bundesgerichts auf Willkür beschränkt. Willkür liegt nach ständiger Rechtsprechung vor, wenn der Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (<ref-ruling> E. 1.3 S. 316; <ref-ruling> E. 4.2.1 S. 362; je mit Hinweisen).
2.3 Was der Beschwerdeführer vorbringt, ist nicht geeignet, eine willkürliche Beweiswürdigung darzulegen. Die Vorinstanz führt zur polizeilichen Befragung aus, diese sei auf Wunsch der Geschädigten auf Deutsch und ohne Beizug einer Übersetzungsperson fürs Albanische durchgeführt worden. Aufgrund der detaillierten und zahlreichen Angaben im Befragungsprotokoll könne davon ausgegangen werden, dass die Verständigung mit der befragenden Polizistin gut geklappt habe. In der formellen Zeugeneinvernahme habe die Geschädigte bestätigt, dass die polizeiliche Befragung auf Deutsch in Ordnung gewesen sei (s. angefochtenes Urteil E. 3a S. 11). Der Beschwerdeführer bezieht sich nicht auf diese Erwägungen, sondern wiederholt in weiten Teilen seine Ausführungen, welche er bereits in der Berufung vorgebracht hat. Seine Vorbringen zu den Verständigungsproblemen erschöpfen sich in unbelegten Behauptungen. Schliesslich basiert der Schuldspruch entgegen seinem Einwand nicht nur auf den Aussagen der Geschädigten (vgl. dazu E. 3.5 nachfolgend). Aus der appellatorischen Kritik am angefochtenen Urteil ergibt sich nicht, dass und inwiefern die Vorinstanz <ref-law> verletzt haben könnte. Somit genügt die Rüge der willkürlichen Beweiswürdigung den Begründungsanforderungen von <ref-law> nicht. Darauf ist nicht einzutreten (vgl. <ref-ruling> E. 1.3 S. 316 mit Hinweisen).
3. Der Beschwerdeführer macht weiter geltend, die Aussagen der Geschädigten seien mangels einer gültigen Konfrontationseinvernahme nicht verwertbar. Der Schuldspruch verletze das Recht auf ein faires Verfahren sowie den Grundsatz "in dubio pro reo".
3.1 Der in Art. 6 Ziff. 3 lit. d EMRK garantierte Anspruch des Angeschuldigten, den Belastungszeugen Fragen zu stellen, ist ein besonderer Aspekt des Rechts auf ein faires Verfahren nach Art. 6 Ziff. 1 EMRK. Entsprechend sind Beschwerden unter dem Blickwinkel beider Bestimmungen zu prüfen. Mit der Garantie von Art. 6 Ziff. 3 lit. d EMRK soll ausgeschlossen werden, dass ein Strafurteil auf Aussagen von Zeugen abgestützt wird, ohne dass dem Beschuldigten wenigstens einmal angemessene und hinreichende Gelegenheit gegeben wurde, das Zeugnis in Zweifel zu ziehen und Fragen an den Zeugen zu stellen. Der Anspruch gilt uneingeschränkt in den Fällen, bei denen dem streitigen Zeugnis ausschlaggebende Bedeutung zukommt, dieses den einzigen oder den wesentlichen Beweis darstellt. Von der Konfrontation des Angeklagten mit dem Belastungszeugen kann allenfalls abgesehen werden, wenn dies aus äusseren Umständen, welche die Strafverfolgungsbehörden nicht zu vertreten haben, unmöglich ist, etwa weil der Zeuge verstorben oder sonstwie dauernd einvernahmeunfähig geworden ist. In diesen Fällen ist nach Art. 6 Ziff. 1 und Ziff. 3 lit. d EMRK erforderlich, dass der Beschuldigte zu den belastenden Aussagen hinreichend Stellung nehmen kann, diese sorgfältig geprüft werden, und der Schuldspruch nicht allein darauf abgestützt wird (<ref-ruling> E. 2.2 S. 480 f.; Urteil 6B_583/2009 vom 27. November 2009 E. 2.2; je mit Hinweisen).
3.2 In tatsächlicher Hinsicht ist erstellt, dass B._ am 3. September 2006 um 03.01 Uhr der Geschädigten eine Kurzmitteilung mit folgendem Inhalt schickte: "Hey Liebling, falls der Cousin etwas zu dir sagt, mach nicht den Fehler und sage nein ok? Falls er etwas von dir möchte ist das in Ordnung". Die Geschädigte reagierte per SMS und nannte B._ ein "Arschloch" und beide Angeklagte "Idioten" und fragte B._, "was hast Du gedacht, dass ich eine Schlampe bin". Daraufhin antwortete B._, wobei der Inhalt dieser Kurzmitteilung nicht aktenkundig ist. Nach etwa einer halben Stunde Funkstille schickte die Geschädigte B._ mehrere Kurzmitteilungen. Sie gab an, der Beschwerdeführer "habe sie unter Zwang vergewaltigt" bzw. "gewaltsam genommen der Hund zusammen mit dir du Hund". B._ warf sie vor, er habe sie mit diesem "Clochard" bzw. "Hund" allein gelassen (vgl. angefochtenes Urteil E. 3a S. 14 f.).
3.3 Die Vorinstanz erachtet den aktenkundigen SMS-Verkehr als gewichtiges anderweitiges Beweismittel, welches grundsätzlich geeignet ist, die Aussagen der Geschädigten vor Polizei zu bestätigen und zu ergänzen. Sie führt aus, die mehreren Kurzmitteilungen der Geschädigten an B._ seien ausserordentlich authentisch. Die Inhalte der SMS würden die Stimmungs- und Wissenslage der Geschädigten kurz nach der sexuellen Attacke des Beschwerdeführers unverfälscht wiedergeben (angefochtenes Urteil E. 3a S. 15). Die Geschädigte habe unmissverständlich angegeben, der Beschwerdeführer habe sie "gewaltsam genommen", was sie hernach detailliert in den polizeilichen Einvernahmen geschildert habe. Neben den glaubhaften Aussagen zum Kerngeschehen fänden sich verschiedene Indizien dafür, dass die sexuellen Handlungen gegen ihren Willen stattgefunden hätten. Die Geschädigte habe bereits vor der eingeklagten sexuellen Nötigung ihren Ärger und ihre Enttäuschung über die Vermittlungsaktion von B._ geäussert. Zudem sei erstellt, dass sie vom vorgängigen Geschlechtsverkehr mit B._ Schmerzen gehabt habe. Vor diesem Hintergrund erscheine ein einvernehmlicher Sexualkontakt mit dem Beschwerdeführer unwahrscheinlich. Schliesslich seien die diesbezüglichen Aussagen des Beschwerdeführers nicht glaubhaft. Insbesondere vermöge der von ihm geschilderte Ablauf der Geschehnisse nicht zu überzeugen. So habe er angegeben, auf dem Parkplatz in Reinach angehalten zu haben. Er habe die Geschädigte nicht nach Hause fahren wollen, weil er allenfalls am Sonntagmorgen hätte arbeiten und deshalb um 06.00 Uhr in Reinach sein sollen. Nach Auffassung der Vorinstanz leuchtet nicht ein, weshalb er plötzlich die Zeit doch als genügend erachtet habe, um mit der Geschädigten sexuell zu verkehren und sie danach nach Hause zu fahren. In subjektiver Hinsicht habe die Geschädigte glaubhaft beschrieben, sich in der Situation ausgeliefert gefühlt zu haben. Es sei nachvollziehbar, dass sie sich nur verbal gewehrt habe. Im Ergebnis seien die Aussagen der Geschädigten vor Polizei als beweismässig ausreichend zusätzlich gestützt und damit rechtsgenügend erstellt (angefochtenes Urteil E. 3b S. 19 ff.).
3.4 Der Beschwerdeführer wendet ein, die SMS könnten nur durch "starke Auslegung" in Zusammenhang mit der vorgeworfenen sexuellen Nötigung gebracht werden. Anlässlich des Strafverfahrens seien nicht alle SMS verzeichnet worden und die Vorinstanz picke jene Satzfragmente heraus, welche die Aussagen der Geschädigten allenfalls bestätigen könnten. Die Vorinstanz erkenne bereits das SMS, die Geschädigte sei "mit Gewalt genommen" worden, als Bestätigung des Kerngeschehens. "Mit Gewalt" heisse nicht zwingend gegen den Willen der Geschädigten. Das "zusammen mit dir du Hund" sei höchst unklar und lasse primär darauf schliessen, dass beide Angeklagte anwesend gewesen seien. Auch die weiteren SMS liessen keinen klaren Schluss zu, was passiert sei. Die Geschädigte habe B._ geschrieben, "ich werde dir dein Leben zerstören". Dieses SMS sei vor dem sexuellen Kontakt mit ihm - dem Beschwerdeführer - erfolgt und enthalte eine klare Drohung. "Ich werde ihnen sagen, dass ihr mich vergewaltigt habt", höre sich schliesslich eher nach einer geplanten falschen Anschuldigung an als nach einer tatsächlich passierten Gewalttat. Insgesamt stütze sich der Schuldspruch im Wesentlichen auf das streitige Zeugnis der Geschädigten ab. Dies verletze den Anspruch auf ein faires Verfahren. Im Übrigen sei der geschilderte Ablauf des Geschehens kaum vorstellbar. Gemäss Aussagen der Geschädigten habe er - der Beschwerdeführer - den Stuhl hinter dem Fahrersitz hinuntergeklappt und sei abgesessen. Er solle sie gegen ihren Willen am Handgelenk zu sich nach hinten gezogen, ihr die Hosen hinuntergerissen und sie gedreht haben, sowie anal in sie eingedrungen sei. Die Geschädigte hätte problemlos das Fahrzeug verlassen können. Die Erklärung, diese habe aufgrund der von B._ vorgängig an ihr ausgeübten Gewalt grosse Schmerzen und Angst gehabt und sich deshalb in erster Linie verbal zur Wehr gesetzt, sei unhaltbar. Die SMS der Geschädigten wirkten wütend, und nicht eingeschüchtert oder verzweifelt. Schliesslich sei es nicht widersprüchlich, dass er sie nach dem einvernehmlichen sexuellen Verkehr doch nach Hause gebracht habe. Dies weil sie trotz seiner Aufforderung nicht von Reinach aus den Zug nach Hause habe nehmen wollen. Selbst wenn die Aussagen der Geschädigten vor der Polizei als verwertbar betrachtet würden, blieben erhebliche Zweifel an diesen. Deshalb verletze der Schuldspruch auch den Grundsatz "in dubio pro reo".
3.5 Unbestritten ist, dass die Einvernahme der Geschädigten als Zeugin keine genügende Konfrontationseinvernahme darstellt. Die Geschädigte gab wiederholt zu Protokoll, sie habe schon alles gesagt, was sie zu sagen habe. Als ihr die Staatsanwältin ihre früheren (polizeilichen) Aussagen auszugsweise Satz für Satz vorhielt, wich sie einer Antwort aus oder bestätigte die Richtigkeit lediglich mit einem "Ja". Da der Geschädigten ärztlich wiederholt Verhandlungsunfähigkeit attestiert wurde, konnte die Einvernahme nicht wiederholt werden (vgl. angefochtenes Urteil E. 3a S. 12). Die Geschädigte ist mithin aus Gründen, welche die Strafverfolgungsbehörden nicht zu vertreten haben, einvernahmeunfähig geworden. Der Anspruch des Beschwerdeführers, der Geschädigten Fragen zu stellen, gilt somit nicht absolut (vgl. E. 3.1 hiervor).
Vorliegend durfte die Vorinstanz - wie nachfolgend dargelegt - die Aussagen der polizeilichen Befragung verwerten, ohne dabei gegen die Garantie eines fairen Verfahrens zu verstossen. Der Beschwerdeführer hatte Gelegenheit, zu den Aussagen der Geschädigten Stellung zu nehmen. Ihm waren die polizeilichen Aussagen bekannt und mittels Videoübertragung konnte er an der Zeugeneinvernahme teilnehmen. Die Geschädigte beantwortete seine Ergänzungsfragen (s. angefochtenes Urteil E. 3a S. 11 f.). Der vorinstanzliche Schuldspruch basiert zudem nicht ausschliesslich auf den Aussagen der Geschädigten. Die Vorinstanz legt in ihrer umfassenden Beweiswürdigung dar, weshalb der SMS-Verkehr zwischen den Beteiligten geeignet ist, die Aussagen beweismässig zu stützen. Dabei beachtet sie, dass die Auflistung und Übersetzung der Mitteilungstexte nur unsorgfältig und unvollständig vorgenommen worden ist (s. angefochtenes Urteil E. 3a S. 14). Die Vorinstanz wertet als Indiz für einen nicht einvernehmlichen Geschlechtsverkehr, dass die Geschädigte unmittelbar vor der inkriminierten Tat sexuell mit B._ verkehrte, sich dabei ein Hämatom an der Brust zuzog, und über die anschliessende Kurzmitteilung von B._ verärgert war. Schliesslich führt die Vorinstanz aus, weshalb sie die Aussagen des Beschwerdeführers als unglaubhaft erachtet (s. angefochtenes Urteil E. 3b S. 20). Was der Beschwerdeführer gegen die Beweiswürdigung vorbringt, erschöpft sich grösstenteils in appellatorischer Kritik am angefochtenen Urteil. Er legt dar, wie die Kurzmitteilungen der Geschädigten seiner Auffassung nach richtigerweise zu würdigen gewesen wären, ohne aufzuzeigen, inwiefern die Vorinstanz den Sachverhalt offensichtlich unrichtig festgestellt hat. Mit seinen Ausführungen zum (unmöglichen) Ablauf des Geschehens wiederholt er seine Vorbringen, welche er bereits in der Berufung vorgebracht hat. Angesichts des willkürfreien Beweisergebnisses bestehen keine unüberwindbaren Zweifel, dass sich die sexuelle Nötigung durch den Beschwerdeführer wie von der Vorinstanz festgestellt verwirklicht hat. Die Rüge der Verletzung des Grundsatzes "in dubio pro reo" ist abzuweisen, soweit darauf einzutreten ist (s. <ref-ruling> E. 4 S. 58; <ref-ruling> E. 2a S. 40 f.; je mit Hinweisen). Somit erübrigt sich die Behandlung der restlichen Anträge (Haftentschädigung, Genugtuung, Nichteintreten auf Zivilklage der Geschädigten), welche einen Freispruch des Beschwerdeführers voraussetzen.
4. Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Strafkammer, schriftlich mitgeteilt.
Lausanne, 16. September 2010
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Favre Binz