Sachverhalt:
A. Der 1959 geborene Y._ meldete sich im Juni 2008 bei der Invalidenversicherung zum Leistungsbezug an. Nach Abklärungen und Durchführung des Vorbescheidverfahrens verneinte die IV-Stelle Luzern mit Verfügung vom 29. Juli 2009 einen Leistungsanspruch. In Gutheissung der dagegen erhobenen Beschwerde hob das Verwaltungsgericht des Kantons Luzern die Verfügung vom 29. Juli 2009 auf und wies die Sache an die Verwaltung zurück, damit sie im Sinne der Erwägungen verfahre und neu verfüge (Entscheid vom 22. Oktober 2010). Am 10. Dezember 2010 ersuchte der Versicherte um unentgeltliche Verbeiständung durch seinen Rechtsvertreter. Die IV-Stelle wies dieses Begehren mit Verfügung vom 16. Dezember 2010 ab.
B. Mit Entscheid vom 4. Februar 2011 hiess das Verwaltungsgericht des Kantons Luzern die Beschwerde des Y._ gut, hob die Verfügung vom 16. Dezember 2010 auf und verpflichtete die IV-Stelle, ihm "nach positiver Prüfung der Bedürftigkeit" den anbegehrten unentgeltlichen Rechtsbeistand für das Verwaltungsverfahren zu bestellen.
C. Die IV-Stelle führt Beschwerde in öffentlich-rechtlichen Angelegenheiten und beantragt, den Entscheid vom 4. Februar 2011 aufzuheben und die Richtigkeit der Verfügung vom 16. Dezember 2010 festzustellen. Ferner ersucht sie darum, der Beschwerde aufschiebende Wirkung zu erteilen.
Y._ beantragt, auf die Beschwerde sei nicht einzutreten, eventualiter sei sie abzuweisen; ausserdem sei ihm unentgeltliche Rechtspflege zu bewilligen. Das kantonale Gericht schliesst auf Abweisung des Rechtsmittels. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.
Erwägungen:
1. Die Vorinstanz hat die Gebotenheit und Notwendigkeit der Verbeiständung des Versicherten bejaht sowie die Aussichtslosigkeit der Rechtsbegehren verneint und die Sache lediglich zur Abklärung der Bedürftigkeit und anschliessend neuen Verfügung an die IV-Stelle zurückgewiesen. Die Beschwerde der IV-Stelle ist zulässig, ungeachtet ob der vorinstanzliche Entscheid trotz der teilweisen Rückweisung als Endentscheid (Art. 90 BGG; vgl. Urteil 9C_213/2008 vom 14. August 2008, E. 1) oder als Zwischenentscheid mit einem nicht wieder gutzumachenden Nachteil für die Verwaltung (Art. 93 Abs. 1 lit. a BGG; BGE 133 V 477 E. 5.2.4 S. 484 f.) betrachtet wird.
2. Art. 29 Abs. 3 BV räumt jeder Person, die nicht über die erforderlichen Mittel verfügt, soweit es zur Wahrung ihrer Rechte notwendig ist und ihr Rechtsbegehren nicht aussichtslos erscheint, einen Anspruch auf unentgeltlichen Rechtsbeistand ein. Gemäss Art. 37 Abs. 4 ATSG wird im Sozialversicherungsverfahren der gesuchstellenden Person, wo die Verhältnisse es erfordern, ein unentgeltlicher Rechtsbeistand bewilligt. Im invalidenversicherungsrechtlichen Verwaltungsverfahren (BGE 125 V 32 E. 4b und c S. 35 f.; vgl. auch BGE 132 V 200 E. 4.1 S. 201 mit Hinweisen) scheidet der Anspruch auf unentgeltliche Verbeiständung auch für die Zeit vor Erlass des Vorbescheids nicht generell aus. An die sachliche Gebotenheit der Verbeiständung ist diesfalls jedoch rechtsprechungsgemäss ein strenger Massstab anzulegen (AHI 2000 S. 162, I 69/99 E. 2b und 3a; Urteil 8C_892/2009 vom 15. April 2010 E. 3.2). Eine anwaltliche Verbeiständung drängt sich hier nur in Ausnahmefällen auf, in denen ein Rechtsanwalt beigezogen wird, weil schwierige rechtliche oder tatsächliche Fragen dies als notwendig erscheinen lassen und eine Verbeiständung durch Verbandsvertreter, Fürsorger oder andere Fach- und Vertrauensleute sozialer Institutionen nicht in Betracht fällt (BGE 132 V 200 E. 4.1 S. 201 mit Hinweisen; Urteil 8C_243/2010 vom 31. Mai 2010 E.2).
3. 3.1 Das kantonale Gericht hat festgestellt, der Versicherte sei der deutschen Sprache nicht mächtig und er sei in seiner Alltags- und Lebensgestaltung erheblich eingeschränkt. Die Rückweisung der Sache an die Verwaltung sei erfolgt, weil divergierende ärztliche Beurteilungen der psychiatrischen Situation vorhanden gewesen seien. Weiter ist es der Auffassung, Verfahren mit insbesondere psychiatrischen Abklärungen seien auch in prozessualer Hinsicht stets recht anforderungsreich, weshalb dem Versicherten die notwendige fachliche Kompetenz nur durch Beiordnung eines Rechtsvertreters verschafft werden könne.
3.2 Vorab ist auf die Rüge einer Verletzung der Begründungspflicht durch die Vorinstanz einzugehen. Diese hat die als wesentlich und erstellt erachteten Tatsachen und die daraus gezogenen rechtlichen Schlüsse nachvollziehbar dargelegt. Darin kann keine Verletzung der aus dem Anspruch auf rechtliches Gehör nach Art. 29 Abs. 2 BV sowie Art. 61 lit. h ATSG (SR 830.1) und Art. 112 Abs. 1 lit. b BGG abgeleiteten Prüfungs- und Begründungspflicht (Urteil 5A_368/2007 vom 18. September 2007 E. 2; vgl. auch BGE 135 V 353 E. 5.3 S. 357 ff.) erblickt werden (Urteil 9C_215/2010 vom 20. April 2010 E. 3). Entscheidend ist, dass es den Parteien möglich ist, das vorinstanzliche Erkenntnis - unter Berücksichtigung der Kognition des Bundesgerichts (HANSJÖRG SEILER und andere, Bundesgerichtsgesetz [BGG], 2007, N. 9 f. zu Art. 112 BGG) - sachgerecht anzufechten (BGE 134 I 83 E. 4.1 S. 88; 133 III 439 E. 3.3 S. 445; 124 V 180 E. 1a S. 181). Dies trifft hier zu.
3.3 Die vorinstanzlichen Sachverhaltsfeststellungen (E. 3.1) sind nicht offensichtlich unrichtig und daher für das Bundesgericht verbindlich (vgl. Art. 105 Abs. 1 und 2 BGG). Für die Beurteilung der streitigen Frage, ob ausnahmsweise eine Verbeiständung erforderlich ist, sind indessen weitere Umstände zu berücksichtigen. So steht fest, dass die IV-Stelle entsprechend der gerichtlichen Anweisung eine psychiatrische Begutachtung anzuordnen und gegebenenfalls (vgl. zum zeitlich massgebenden Sachverhalt Urteil 9C_235/2009 vom 30. März 2009 E. 3.3) den Gesundheitszustand weiter abzuklären hat. Indessen erscheinen weder die Tatsache, dass die Verwaltung infolge eines Beschwerdeverfahrens zu weiteren Abklärungen verhalten wird, noch die angezeigten Massnahmen selber als ungewöhnlich oder mit besonderen Schwierigkeiten verbunden. Die Verwaltung erliess die erste Verfügung rund ein Jahr nach der Anmeldung; die angefochtene Verfügung betreffend unentgeltlichen Rechtsbeistand erging rund zwei Monate nach dem Rückweisungsentscheid. Damit kann - anders als in SVR 2009 IV Nr. 5 S. 9, 8C_48/2007 E. 2.2, wo das Verfahren seit Erlass der ersten angefochtenen Verfügung beinahe sechs Jahre dauerte und in dessen Verlauf zwei Rückweisungen erfolgten - weder von einer langen Dauer noch von einer besonderen Komplexität des Verfahrens gesprochen werden. Ausserdem ist in der aktuellen Phase des Verfahrens noch kein Vorbescheid ergangen. In diesem Stadium vermittelt das Bundesrecht keinen Anspruch auf eine vorgängige Stellungnahme zu den Gutachterfragen (BGE 133 V 446) oder auf Teilnahme des Parteivertreters an der Begutachtung (SZS 2008 S. 165, I 42/06 E. 4.3). Eine materielle Auseinandersetzung mit den Resultaten der Abklärung ist - gegebenenfalls - erst im Vorbescheid- oder anschliessenden Beschwerdeverfahren vorzunehmen. Das Geltendmachen formeller Ausstandsgründe gegen den Gutachter im Sinn von Art. 44 ATSG bedarf in der Regel keiner anwaltlichen Verbeiständung (Urteil I 631/06 vom 16. Oktober 2006 E. 4.4); Gründe für eine Ausnahme sind im konkreten Fall nicht ersichtlich. Schliesslich ist zu berücksichtigen, dass der Versicherte seit Oktober 2009 Sozialhilfe bezieht und den zuständigen Behörden eine entsprechende Unterstützung des Versicherten zumutbar ist (vgl. § 25 f. des Sozialhilfegesetzes des Kantons Luzern vom 24. Oktober 1989; SRL 892).
3.4 Nach dem Gesagten hat die Vorinstanz Bundesrecht verletzt, indem sie die Erforderlichkeit einer anwaltlichen Verbeiständung bejaht hat. Daran ändert nichts, dass die anbegehrte Leistung für den Beschwerdeführer von erheblicher Bedeutung ist, trifft doch dies bei Sozialversicherungsleistungen regelmässig zu (Urteil I 631/06 vom 16. Oktober 2006 E. 4.4). Ebenso ist der "Rollenwechsel" der IV-Stelle vom Beschwerde- zum Verwaltungsverfahren infolge der Rückweisung nicht von Belang, zumal damit in der Abklärungsphase keine besonderen Schwierigkeiten für den Versicherten verbunden sind. Schliesslich kann der Beschwerdegegner aus dem neu eingereichten - und daher ohnehin unzulässigen (Art. 99 Abs. 1 BGG) - Schreiben der IV-Stelle vom 10. März 2011 nichts für sich ableiten: Die darin enthaltene Aufforderung zur Bekanntgabe der Ärzte, bei welchen er "in Abklärung" war, wurde zu Recht dem Rechtsvertreter zugestellt (UELI KIESER, ATSG-Kommentar, 2. Aufl. 2009, N. 13 zu Art. 37 ATSG); um deren Inhalt und Tragweite zu verstehen und ihr nachzukommen sind dennoch keine qualifizierten Rechtskenntnisse erforderlich.
4. Mit dem Urteil in der Sache wird das Gesuch um Gewährung der aufschiebenden Wirkung gegenstandslos.
5. Dem Ausgang des Verfahrens entsprechend hat der Beschwerdegegner grundsätzlich die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG). Seinem Gesuch um unentgeltliche Rechtspflege kann jedoch entsprochen werden (Art. 64 BGG; BGE 125 V 201 E. 4a S. 202). Es wird indessen ausdrücklich auf Art. 64 Abs. 4 BGG hingewiesen, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten hat, wenn sie später dazu in der Lage ist.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen und der Entscheid des Verwaltungsgerichts des Kantons Luzern vom 4. Februar 2011 aufgehoben.
2. Dem Beschwerdegegner wird die unentgeltliche Rechtspflege gewährt.
3. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdegegner auferlegt, indes vorläufig auf die Gerichtskasse genommen.
4. Rechtsanwalt Felix Schöpfer wird als unentgeltlicher Anwalt des Beschwerdegegners bestellt, und es wird ihm für das bundesgerichtliche Verfahren aus der Gerichtskasse eine Entschädigung von Fr. 1'000.- ausgerichtet.
5. Die Sache wird zur Neuverlegung der Kosten des vorangegangenen Verfahrens an das Verwaltungsgericht des Kantons Luzern zurückgewiesen.
6. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Luzern, Sozialversicherungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 3. Mai 2011
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Meyer Dormann