Sachverhalt:
A. X._ wird vorgeworfen, er habe A._ anhand eines Schreibens, einer Videokassette und verschiedener Kurzmitteilungen zur Bezahlung von Fr. 47'000.-- aufgefordert, andernfalls er ihr oder jemandem aus ihrer Familie ein Leid antun werde. Ausserdem soll er ein Arbeitszeugnis gefälscht haben.
B. Das Obergericht des Kantons Luzern verurteilte X._ am 7. Juli 2011 zweitinstanzlich wegen versuchter Erpressung und Fälschung von Ausweisen zu einer bedingt vollziehbaren Freiheitsstrafe von 16 Monaten, unter Anrechnung der Untersuchungshaft von drei Tagen, bei einer Probezeit von zwei Jahren.
C. X._ führt Beschwerde in Strafsachen. Er beantragt, das Urteil des Obergerichts des Kantons Luzern sei aufzuheben, und die Sache sei zur neuen Beurteilung an die Vorinstanz zurückzuweisen.
D. Das Obergericht des Kantons Luzern beantragt unter Verzicht auf eine Stellungnahme die Abweisung der Beschwerde. Die Staatsanwaltschaft des Kantons Luzern stellt mit Eingabe vom 1. Mai 2012 den Antrag, die Beschwerde sei abzuweisen. X._ nahm zu dieser Vernehmlassung Stellung.
Erwägungen:
1. 1.1 Die Schweizerische Strafprozessordnung vom 5. Oktober 2007 (StPO; SR 312.0) ist am 1. Januar 2011 in Kraft getreten. Ist ein Entscheid vor Inkrafttreten der StPO gefällt worden, werden Rechtsmittel dagegen nach bisherigem Recht, von den bisher zuständigen Behörden, beurteilt (Art. 453 Abs. 1 StPO). Ausschlaggebend für die Anwendbarkeit des alten oder neuen Verfahrensrechts ist das erstinstanzliche Entscheiddatum (Art. 454 Abs. 1 StPO; BGE 137 IV 219 E. 1.1 mit Hinweisen). Die erste Instanz fällte ihr Urteil am 24. Juni 2010, weshalb sich das kantonale Verfahren und die dagegen erhobenen Rügen nach dem Gesetz über die Strafprozessordnung des Kantons Luzern vom 3. Juni 1957 (aStPO/LU) richten. Soweit sich der Beschwerdeführer auf die StPO beruft, ist auf die Beschwerde nicht einzutreten (Beschwerde S. 11 III. Ziff. 4, siehe auch Replik S. 2 Ziff. 2).
1.2 Die Beschwerde ist zu begründen (Art. 42 Abs. 1 BGG), wobei in gedrängter Form darzulegen ist, inwiefern der angefochtene Akt Recht verletzt (Art. 42 Abs. 2 Satz 1 BGG). Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten und kantonalem Recht. Solche Rügen prüft das Bundesgericht nur, wenn sie in der Beschwerde vorgebracht und substanziiert begründet worden sind. Das bedeutet, dass klar und detailliert anhand der Erwägungen des angefochtenen Entscheids darzulegen ist, inwiefern verfassungsmässige Rechte verletzt worden sein sollen (Art. 106 Abs. 2 BGG; BGE 136 I 65 E. 1.3.1 mit Hinweisen).
Soweit der Beschwerdeführer geltend macht, er sei vor der ersten Einvernahme nicht über sein Recht belehrt worden, einen Verteidiger zu kontaktieren (Beschwerde S. 3 f. I. Ziff. 6.1 oder S. 7 II. Ziff. 2.1 b), ist er nicht zu hören. Er setzt sich nicht mit den zutreffenden Erwägungen der Vorinstanz auseinander. Diese führt aus, nach der Verhaftung des Beschwerdeführers am 28. Januar 2008 habe ihn die Zuger Polizei kurz befragt ohne einen Dolmetscher beigezogen oder ihn über seine Rechte belehrt zu haben. Diese Befragung sei allerdings keine Einvernahme zur Sache gewesen, und es werde nicht darauf abgestellt. Der Beschwerdeführer sei in den folgenden Tagen mehrmals durch die Luzerner Polizei in Anwesenheit einer Dolmetscherin korrekt über seine Rechte belehrt und zur Sache befragt worden (Urteil S. 5 E. 3 Abs. 2).
2. 2.1 Der Beschwerdeführer macht geltend, das Gebot des fairen Verfahrens gemäss EMRK und der Rechtsprechung des Europäischen Gerichtshofs für Menschenrechte (nachfolgend: EGMR) sei verletzt. Vor den polizeilichen Befragungen habe er nicht mit einem Rechtsanwalt sprechen können, obwohl er um amtliche Verteidigung ersucht habe.
2.2 Nach Art. 6 Ziff. 3 lit. c EMRK hat jede angeklagte Person das Recht, sich selbst zu verteidigen, sich durch einen Verteidiger ihrer Wahl verteidigen zu lassen oder, falls ihr die Mittel zur Bezahlung fehlen, unentgeltlich den Beistand eines Verteidigers zu erhalten, wenn dies im Interesse der Rechtspflege erforderlich ist. Diese Ansprüche bilden für das Strafverfahren Teil des in Art. 6 Ziff. 1 EMRK garantierten fairen Verfahrens.
Das Fairnessgebot und Art. 6 Ziff. 3 lit. c EMRK verlangen insbesondere, wenn dem Verhalten und den Aussagen des Beschuldigten an polizeilichen Befragungen für die Verteidigungsmöglichkeit und den Ausgang des Verfahrens wesentliche Bedeutung zukommt, dass der Beschuldigte bereits im Stadium der Untersuchung einen Rechtsvertreter beiziehen kann. Dieses Recht, das nicht ausdrücklich in der Konvention erwähnt ist, kann indes Gegenstand von wohlbegründeten Ausnahmen sein. Dabei ist im Einzelfall zu beurteilen, ob bei Gesamtbetrachtung des Verfahrens der Beschuldigte angesichts von Einschränkungen einem fairen Verfahren entzogen worden ist. Aus dem Anspruch auf Beizug eines Verteidigers in einem frühen Stadium kann nicht geschlossen werden, Art. 6 Ziff. 3 lit. c EMRK erfordere unter gegebenen Umständen eine obligatorische Verbeiständung auch ohne Ersuchen oder gegen den Willen des Betroffenen (BGE 131 I 350 E. 3.2 mit Hinweisen).
Gemäss Rechtsprechung des EGMR erfordert der Anspruch auf ein faires Verfahren nach Art. 6 EMRK, dass einem Verdächtigen grundsätzlich ab der ersten Einvernahme bei der Polizei Zugang zu einem Verteidiger gewährt wird, sofern keine zwingenden Gründe ("des raisons impérieuses") dagegen sprechen. Selbst wenn aufgrund der Umstände des Einzelfalles eine Ausnahme vorliegt, darf diese Einschränkung die Rechte des Beschuldigten nicht unangemessen beeinträchtigen. Die Grosse Kammer des EGMR kam im Fall Salduz vs. Türkei einstimmig zum Schluss, die Verteidigungsrechte des Beschuldigten seien über Gebühr eingeschränkt worden. Dessen Geständnis an der polizeilichen Einvernahme in Abwesenheit eines Verteidigers habe als Hauptbeweis ("la preuve essentielle") für die Verurteilung gedient und der Einwand, das später widerrufene Geständnis sei nicht rechtmässig zustande gekommen, sei nicht geprüft worden. Im Lichte aller Umstände könne auch der kontradiktorische Charakter des Gerichtsverfahrens, in dem der Beschwerdeführer anwaltlich vertreten gewesen sei, und der Umstand, dass er in Kenntnis des Schweigerechts ausgesagt habe, nicht den Mangel an effektiver Verteidigung heilen (Urteil des EGMR Salduz vs. Türkei vom 27. November 2008, Nr. 36391/02).
Im Fall Pishchalnikov vs. Russland stellte der EGMR fest, der Beschuldigte habe nach seiner Verhaftung mitgeteilt, er wünsche den Beizug eines bestimmten Rechtsanwalts. Die ermittelnde Behörde habe die Befragung fortgesetzt, worauf der Beschuldigte mehrere Taten gestanden habe, ohne dass ihm zuvor Zugang zu einem Verteidiger gewährt worden sei. Er sei nicht darüber informiert worden, dass sein Rechtsanwalt nicht habe erreicht werden können. Er sei auch nicht auf weitere Möglichkeiten hingewiesen worden, durch die er rechtlichen Beistand erhalten könne. Der EGMR hielt unter Hinweis auf seine Rechtsprechung fest, auf das Recht auf ein faires Verfahren könne verzichtet werden. Ein gültiger Verzicht müsse aber freiwillig sowie eindeutig erfolgen und von bestimmten Mindestgarantien begleitet sein. Es müsse nachgewiesen sein, dass der Verzichtende die Folgen seines Verhaltens angemessen vorhersehen könne. Alleine weil ein Beschuldigter in Kenntnis seiner Verteidigungsrechte polizeiliche Fragen weiter beantworte, obwohl er um rechtlichen Beistand ersucht habe, könne nicht darauf geschlossen werden, er verzichte auf die Verteidigungsrechte. Eine beschuldigte Person, die den Beizug eines Verteidigers wünsche, dürfe nicht weiter einvernommen werden, bis ihr nicht der Zugang zu einem Rechtsanwalt gewährt worden sei, ausser sie führe die polizeiliche Einvernahme aus eigener Initiative weiter (Urteil des EGMR Pishchalnikov vs. Russland vom 24. September 2009, Nr. 7025/04; Urteilsauszüge und Bemerkungen bei STEPHAN SCHLEGEL, forumpoenale 2/2010 S. 86 ff.; zum Verzicht siehe auch JENS MEYER-LADEWIG, EMRK, Handkommentar, 3. Aufl. 2011, N. 99 zu Art. 6 EMRK mit Hinweisen auf die Rechtsprechung des EGMR; GRABENWARTER/PABEL, Europäische Menschenrechtskonvention, 5. Aufl. 2012, § 24 N. 109 S. 447 f.).
2.3 Nach der Verhaftung des Beschwerdeführers am 28. Januar 2008 befragte ihn die Polizei am Nachmittag des folgenden Tages in Anwesenheit einer Dolmetscherin und belehrte ihn vorgängig über seine Rechte (Untersuchungsakten Fasz. 5 Beil. 2 S. 1 ff.). Der Beschwerdeführer bestritt die ihm angelasteten Taten. Als er das Einvernahmeprotokoll unterschreiben sollte, erklärte er, er werde am nächsten Tag die Wahrheit sagen (Untersuchungsakten Fasz. 5 Beil. 2 S. 6). Ihm war zuvor (am Morgen des 29. Januar 2008) die Haft eröffnet worden. An dieser Haftprüfungsverhandlung belehrte ihn die Amtsstatthalterin zunächst über die ihm zustehenden Verfahrensrechte, worauf der Beschwerdeführer angab, er kenne keinen Rechtsanwalt und habe nicht genügend Geld für einen. Er brauche aber einen Verteidiger. Im Haftprüfungsprotokoll wurde vermerkt, dem Beschwerdeführer sei ein amtlicher Verteidiger zu bestellen (Untersuchungsakten Fasz. 7 Beil. 4 S. 1 ff.). An den Fortsetzungen der polizeilichen Befragung des Beschwerdeführers vom 30. und 31. Januar 2008, gestand er die versuchte Erpressung (Untersuchungsakten Fasz. 5 Beil. 2 S. 7 ff.). Anlässlich der untersuchungsrichterlichen Einvernahme vom 19. August 2008 widerrief er dieses Geständnis (Untersuchungsakten Fasz. 2).
Unbestritten ist, dass die polizeilichen Befragungen des Beschwerdeführers erfolgten, bevor ihm Zugang zu einem Rechtsanwalt gewährt worden war. Unbestritten ist ferner, dass er um rechtlichen Beistand ersucht hatte. Entgegen der Auffassung der Beschwerdegegnerin bedeutet der Protokollvermerk der Amtsstatthalterin vom 29. Januar 2008, dem Beschwerdeführer sei ein amtlicher Verteidiger zu bestellen, nicht, dass ihm tatsächlich ermöglicht wurde, Kontakt zu einem aufzunehmen (act. 12 S. 2 Ad. 2). Die Bestellung des amtlichen Verteidigers für den Beschwerdeführer erfolgte vielmehr erst am 3. April 2008 (Untersuchungsakten Fasz. 9). Die Vorinstanz verurteilt ihn zwar nicht alleine gestützt auf das im Rahmen der polizeilichen Befragungen abgelegte und später widerrufene Geständnis. Sie untermauert den Schuldspruch wegen versuchter Erpressung mit weiteren Indizien. Gleichwohl kommt dem Geständnis im angefochtenen Entscheid aber eine wesentliche Bedeutung zu, da die Vorinstanz auf den vom Beschwerdeführer gestandenen Sachverhalt abstellt (Urteil S. 9 E. 4.7). Die Beschwerdegegnerin scheint anzunehmen, er habe auf seine Verteidigungsrechte verzichtet, weil er sich in Kenntnis seiner Rechte weiter auf die polizeiliche Befragung eingelassen habe (act. 12 S. 2 Ad. 2). Diese Auffassung steht im Widerspruch zur dargelegten Rechtsprechung des EGMR. Vorliegend verhält es sich wie im Urteil Pishchalnikov vs. Russland. Namentlich lässt sich aus dem Verhalten des Beschwerdeführers kein Verzicht auf die Verteidigungsrechte ableiten, selbst wenn er in Kenntnis seiner Rechte die polizeilichen Fragen weiter beantwortete. Er hatte nach entsprechender Belehrung um rechtlichen Beistand ersucht, und ihm war die Bestellung eines amtlichen Verteidigers zugesichert worden. Es kann nicht die Rede davon sein, er habe die Folgen seines Verhaltens angemessen vorhergesehen. Insbesondere kann ihm nicht unterstellt werden, er sei sich im Klaren darüber gewesen, aufgrund seiner weiteren Aussagebereitschaft oder seines Geständnisses könne darauf geschlossen werden, er verzichte auf seine Verteidigungsrechte, bevor ihm tatsächlich Zugang zu einem Verteidiger gewährt wurde. Alleine weil er kundtat, er werde am nächsten Tag die Wahrheit sagen, kann nicht davon ausgegangen werden, er habe die polizeiliche Einvernahme aus eigener Initiative und bewusst vor dem Zugang zu einem Verteidiger weiter geführt.
Die Beschwerde erweist sich als begründet. Damit ist auf die übrigen Vorbringen des Beschwerdeführers nicht weiter einzugehen.
3. Die Beschwerde ist gutzuheissen, soweit darauf einzutreten ist. Das angefochtene Urteil ist aufzuheben und die Sache zur neuen Entscheidung an die Vorinstanz zurückzuweisen.
Bei diesem Ausgang sind keine Kosten zu erheben (Art. 66 Abs. 1 und Abs. 4 BGG). Der Kanton Luzern hat den Beschwerdeführer für das bundesgerichtliche Verfahren angemessen zu entschädigen (Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, soweit darauf einzutreten ist. Das Urteil des Obergerichts des Kantons Luzern vom 7. Juli 2011 wird aufgehoben und die Sache zur neuen Entscheidung an die Vorinstanz zurückgewiesen.
2. Es werden keine Kosten erhoben.
3. Der Kanton Luzern hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 3'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Luzern, 4. Abteilung, schriftlich mitgeteilt.
Lausanne, 25. Juni 2012
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Die Gerichtsschreiberin: Pasquini