Sachverhalt: A. A.a Das Bezirksgericht Dielsdorf verurteilte X._ am 2. Juli 2010 wegen Verletzung des Geheim- oder Privatbereichs durch Aufnahmegeräte (Art. 179quater Abs. 1 und 3 StGB) und Pornografie (Art. 197 Ziff. 3 StGB) zu einer bedingten Geldstrafe von 270 Tagessätzen zu Fr. 90.--. Von den Vorwürfen der Schändung, der sexuellen Nötigung und der versuchten Nötigung sprach es ihn frei. A.b Gegen dieses Urteil legte die Staatsanwaltschaft Berufung ein. Das Obergericht des Kantons Zürich nahm am 14. Oktober 2011 von der Rechtskraft der erstinstanzlichen Schuldsprüche Vormerk. Es erklärte X._ zusätzlich der sexuellen Nötigung (Art. 189 Abs. 1 StGB) und der versuchten Nötigung (Art. 181 i.V.m. Art. 22 Abs. 1 StGB) schuldig und bestätigte den Freispruch vom Vorwurf der Schändung. Es verurteilte ihn zu einer bedingten Geldstrafe von 270 Tagessätzen zu Fr. 60.--. Das Obergericht hält u.a. folgenden Sachverhalt für erwiesen: A._, X._ und B._ trafen am 17. Mai 2009 um ca. 7 Uhr mit C._ in der Wohnung von B._s Bruder in Regensdorf ein. Dort schlief C._ kurze Zeit später auf dem Sofa im Wohnzimmer ein. A._ zog der auf dem Sofa liegenden C._ die Hose und Unterhose aus, küsste respektive leckte in Anwesenheit von X._ und B._ an deren Vagina und drang mit den Fingern, später mit einer Banane und anschliessend auch mit einer Karotte darin ein. X._ und B._ filmten sämtliche sexuellen Handlungen an C._ mit ihren Mobiltelefonen respektive Fotokameras. A._ liess von C._ ab, als sie erwachte und sich zu wehren begann. Im Anschluss an diese Ereignisse begab sich C._ in das Badezimmer. X._ folgte ihr, umarmte sie, zog sie an sich und umfasste sie kräftig mit beiden Armen. Er drohte ihr, er werde sie zusammenschlagen, wenn sie jemandem vom Vorgefallenen erzähle. C._ erschrak darüber so sehr, dass sie erst ca. einen Monat danach wagte, ihrer Kollegin davon zu berichten. C._ forderte X._ auf, die auf seinem Mobiltelefon von ihr gemachten Filme über die vorangegangenen sexuellen Handlungen zu löschen. X._ entgegnete ihr, dies nur zu tun, wenn sie ihm gebe, was er wolle. Dabei drückte er sie mit Gewalt gegen die Heizung des Badezimmers, küsste sie teils mit der Zunge und griff sie im Intimbereich zwischen den Beinen über den Kleidern aus, obwohl sie sich dagegen wehrte. B. X._ führt Beschwerde in Strafsachen mit den Anträgen, das Urteil vom 14. Oktober 2011 aufzuheben, ihn vom Vorwurf der sexuellen Nötigung und der versuchten Nötigung freizusprechen und ihm für die erlittene Untersuchungshaft eine Entschädigung von Fr. 18'000.-- sowie eine Genugtuung von Fr. 19'600.-- zuzusprechen. Eventualiter sei die Sache zur Neubeurteilung im Sinne der Hauptanträge an die Vorinstanz zurückzuweisen. Er ersucht um unentgeltliche Rechtspflege und Verbeiständung. C. Die Beschwerde der Staatsanwaltschaft gegen das Urteil des Obergerichts des Kantons Zürich vom 14. Oktober 2011 bildet Gegenstand des Verfahrens 6B_128/2012.