Sachverhalt:
A. Der 1959 geborene S._ führte seit 1989 im Rahmen einer selbstständigen Erwerbstätigkeit einen Betrieb zur Herstellung von Kunststein- und Betonelementen. Im Juni 2005 wandelte er seine Einzelfirma in die X._ GmbH um, in welcher er als Geschäftsführer fungiert und bis Ende 2005 vier Mitarbeiter nebst seiner Ehefrau beschäftigt waren. Die von seinem Bruder gegründete Y._ GmbH übernahm auf den 1. Januar 2006 Produktionsmittel der X._ GmbH und mietete deren Fabrikationsräume. S._ meldete sich im Oktober 2006 unter Hinweis auf eine Sklerodermie bei der Invalidenversicherung zum Leistungsbezug an. Nach einem ersten Beschwerdeverfahren (Entscheid des Verwaltungsgerichts des Kantons Bern vom 6. Februar 2008), weiteren Abklärungen und Durchführung des Vorbescheidverfahrens verneinte die IV-Stelle Bern mit Verfügung vom 30. September 2009 einen Rentenanspruch bei einem Invaliditätsgrad von 29 %.
B. Die Beschwerde des S._ wies das Verwaltungsgericht des Kantons Bern mit Entscheid vom 9. Juni 2010 ab.
C. S._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, unter Aufhebung des Entscheids vom 9. Juni 2010 sei festzustellen, dass er ab 1. Oktober 2007 Anspruch auf eine ganze Invalidenrente habe.
Die IV-Stelle schliesst auf Abweisung des Rechtsmittels. Das kantonale Gericht und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung.
Erwägungen:
1. 1.1 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann unter anderem die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Das Bundesgericht legt seinem Urteil den Sachverhalt zu Grunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (Art. 105 Abs. 2 BGG).
1.2 Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist somit weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (BGE 134 V 250 E. 1.2 S. 252 mit Hinweisen).
2. 2.1 Die Vorinstanz hat gestützt auf das Gutachten des medizinischen Zentrums Z._ vom 16. Juni 2009 - für das Bundesgericht verbindlich (E. 1.1) - festgestellt, der Beschwerdeführer sei in körperlich leichten Tätigkeiten ohne Staubexposition zu 50 % arbeitsfähig. In erwerblicher Hinsicht hat sie das von der Verwaltung auf Fr. 177'123.- festgesetzte Valideneinkommen bestätigt. In Bezug auf das Invalideneinkommen ist sie der Auffassung, weil dem Versicherten im Rahmen seiner Restarbeitsfähigkeit die administrative Leitung des mittlerweile aufgegebenen Betriebes weiterhin zumutbar gewesen wäre, sei vom Valideneinkommen auszugehen und davon seien die Kosten für die behinderungsbedingte Anstellung eines zusätzlichen Mitarbeiters (im Pensum von 65 % für körperlich schwere Arbeiten und von 15 % für administrative Tätigkeiten) abzuziehen. Bei einem resultierenden Invalideneinkommen von Fr. 114'859.- hat sich ein rentenausschliessender Invaliditätsgrad von 35 % ergeben.
2.2 Der Beschwerdeführer hält das Invalideneinkommen für zu hoch bemessen. Er macht im Wesentlichen geltend, die Aufgabe des Betriebs sei gesundheitlich bedingt und die ihm verbliebene Restarbeitsfähigkeit sei nicht mit der Führung seines Kleinunternehmens vereinbar.
3. 3.1 Auf der nicht medizinischen beruflich-erwerblichen Stufe der Invaliditätsbemessung charakterisieren sich als Rechtsfragen die gesetzlichen und rechtsprechungsgemässen Regeln über die Durchführung des Einkommensvergleichs (Art. 16 ATSG; BGE 130 V 343 E. 3.4 S. 348, 128 V 29 E. 1 S. 30, 104 V 135 E. 2a und b S. 136 f.). In dieser Sicht stellt sich die Feststellung der beiden hypothetischen Vergleichseinkommen als Tatfrage dar, soweit sie auf konkreter Beweiswürdigung beruht, hingegen als Rechtsfrage, soweit sich der Entscheid nach der allgemeinen Lebenserfahrung richtet. Letzteres betrifft etwa die Fragen, ob Tabellenlöhne anwendbar sind und welches die massgebliche Tabelle ist (BGE 132 V 393 E. 3.3 S. 399; Urteil 8C_255/2007 vom 12. Juni 2008 E. 1.2, nicht publ. in: BGE 134 V 322). Soweit die Beurteilung der Zumutbarkeit von Arbeitsleistungen auf die allgemeine Lebenserfahrung gestützt wird, geht es um eine Rechtsfrage (BGE 132 V 393 E. 3.2 S. 397 ff.; Urteil 9C_133/2011 vom 29. April 2011 E. 1); gleiches gilt für die Frage, nach welchen Gesichtspunkten die Entscheidung über die Verwertbarkeit der Restarbeitsfähigkeit erfolgt (Urteil 9C_190/2009 vom 11. Mai 2009 E. 3.3).
3.2 Aus den Verträgen zwischen der X._ GmbH und der Y._ GmbH ergibt sich, dass auf den 1. Januar 2006 Produktionsmittel, welche in der Jahresrechnung 2005 mit insgesamt Fr. 34'701.- bilanziert waren (Vorräte/angefangene Arbeiten und mobile Sachanlagen), zum Preis von Fr. 77'100.- verkauft wurden und die Fabrikationshalle vermietet wurde. Damit steht fest, dass der Versicherte resp. die X._ GmbH auf diesen Zeitpunkt, ab welchem sie nicht mehr über die notwendige Betriebsinfrastruktur verfügte, den Betrieb aufgab. Daran ändert nichts, dass die Vorinstanz verbindlich (E. 1.1) festgestellt hat, es seien "allein Teile des Inventars" verkauft worden.
3.2 Aus den Verträgen zwischen der X._ GmbH und der Y._ GmbH ergibt sich, dass auf den 1. Januar 2006 Produktionsmittel, welche in der Jahresrechnung 2005 mit insgesamt Fr. 34'701.- bilanziert waren (Vorräte/angefangene Arbeiten und mobile Sachanlagen), zum Preis von Fr. 77'100.- verkauft wurden und die Fabrikationshalle vermietet wurde. Damit steht fest, dass der Versicherte resp. die X._ GmbH auf diesen Zeitpunkt, ab welchem sie nicht mehr über die notwendige Betriebsinfrastruktur verfügte, den Betrieb aufgab. Daran ändert nichts, dass die Vorinstanz verbindlich (E. 1.1) festgestellt hat, es seien "allein Teile des Inventars" verkauft worden.
3.3 3.3.1 Im Zusammenhang mit der Betriebsaufgabe verwies das kantonale Gericht im Entscheid vom 6. Februar 2008 auf die Schadenminderungspflicht des Versicherten. Danach sind einem Leistungsansprecher Massnahmen zuzumuten, die ein vernünftiger Mensch in der gleichen Lage ergreifen würde, wenn er keinerlei Entschädigung zu erwarten hätte (BGE 133 V 504 E. 4.2; 113 V 22 E. 4a S. 28; vgl. auch Art. 21 Abs. 4 ATSG).
3.3.2 Der Erfolg eines kleinen Handwerksbetriebes, wie ihn der Versicherte führte, hängt massgeblich vom persönlichen Einsatz und den individuellen Fähigkeiten des Betriebsinhabers ab (ULRICH MEYER, Bundesgesetz über die Invalidenversicherung [IVG], 2. Aufl. 2010, S. 307, unter Hinweis auf ZAK 1981 44 E. 2). Auch wenn ein wesentlicher Teil dessen Tätigkeit im Bereich der (administrativen) Geschäftsführung liegt, ist in der Regel auch bei den ausführenden Arbeiten das spezifische (berufliche und betriebliche) Wissen und Können des Betriebsinhabers erforderlich. Wie der Versicherte zu Recht vorbringt, sind die Bereiche Betriebsführung und Produktion nicht immer klar zu trennen. Zudem scheint auch die Abklärungsperson der IV-Stelle davon auszugehen, dass in einem solchen Betrieb der Inhaber üblicherweise während des ganzen Arbeitstages anwesend sein muss.
3.3.3 Die gesundheitlichen Beeinträchtigungen des Beschwerdeführers erlauben ihm nur noch leichte Tätigkeiten und keinen Aufenthalt in der staubbelasteten Produktionshalle (E. 2.1). Selbst wenn er nur noch körperlich leichte Tätigkeiten ausgeübt hätte, ist nicht ersichtlich, dass die lufthygienischen Gegebenheiten im Betrieb den Anforderungen genügen, zumal sich auch das Büro laut Abklärungsbericht vom 27. April 2007 in der Werkhalle befindet und regelmässige Anleitung und Kontrolle der Mitarbeiter an deren Arbeitsplatz erforderlich ist. Ausserdem lässt sich den medizinischen Unterlagen nicht entnehmen, dass die um 50 % eingeschränkte Arbeitsfähigkeit lediglich als reduzierte Leistungsfähigkeit bei vollzeitiger Anwesenheit am Arbeitsplatz - wie dies die Abklärungsperson der IV-Stelle im Bericht vom 28. Juli 2009 angenommen zu haben scheint - zu verstehen wäre. Dementsprechend riet auch der behandelnde Arzt bereits vor 2005 zu einer Änderung der beruflichen Situation. Unter den gegebenen Umständen stellt die Aufgabe des Betriebs keine Verletzung der Schadenminderungspflicht dar. Daran ändert nichts, dass der Abklärungsdienst der IV-Stelle (Berichte vom 27. April und 22. Juni 2007 sowie 28. Juli und 18. September 2009) - wie auch (implizite) das kantonale Gericht - die Weiterführung des Betriebs für zumutbar gehalten hat. Diesbezüglich ist den Berichten mangels nachvollziehbarer Begründung und Auseinandersetzung mit den Vorbringen des Versicherten die Beweiskraft abzusprechen (vgl. Urteile I 202/03 7. April 2004 E. 5.2; I 616/04 28. Februar 2005 E. 2.4; I 327/04 7. April 2006 E. 6.2; je mit Hinweisen).
3.4 Soweit die Vorinstanz das (hypothetische) Invalideneinkommen festgelegt hat, indem sie von einer weiteren Tätigkeit des Versicherten als Betriebsinhaber ausgegangen ist und vom bisherigen Einkommen die Kosten für die behinderungsbedingte Anstellung eines zusätzlichen Mitarbeiters abgezogen hat, verletzt sie Bundesrecht. Nachdem der Beschwerdeführer zwar weiterhin Geschäftsführer der X._ GmbH ist, indessen den Produktionsbetrieb - in zulässiger Weise (E. 3.3.3) - aufgegeben hat (E. 3.2), ist die Wiederaufnahme der früheren Tätigkeit nicht mehr möglich und erst recht der neue Aufbau eines ähnlichen Betriebes nicht zumutbar. Die Restarbeitsfähigkeit lässt sich daher auf dem vom kantonalen Gericht aufgezeigten Weg nicht verwerten. Auf das entsprechend ermittelte Invalideneinkommen kann nicht abgestellt werden.
3.5 Obwohl für die Festsetzung des Invalideneinkommens primär von der konkreten beruflich-erwerblichen Situation auszugehen ist (BGE 126 V 75 E. 3b/aa S. 76), kann nicht auf das vom Versicherten im Rahmen seiner Anstellung bei der Y._ GmbH erzielte Einkommen abgestellt werden. Ohne die Funktion eines Betriebsinhabers auszuüben (E. 3.2), erledigt er bei dieser Tätigkeit administrative Arbeiten und wirkt - entgegen der ärztlichen Empfehlung - in der Produktion mit, was die Vorinstanz verbindlich (E. 1.1) festgestellt hat. Invalidenversicherungsrechtlich geht es nicht an, für das Invalideneinkommen den Lohn heranzuziehen, welcher durch eine für die Gesundheit offensichtlich schädliche Arbeit erzielt wird. Mangels eines tatsächlich und in zumutbarer Weise erzielten Einkommens ist ein Tabellenlohn der Lohnstrukturerhebung des Bundesamtes für Statistik (LSE) heranzuziehen.
3.5 Obwohl für die Festsetzung des Invalideneinkommens primär von der konkreten beruflich-erwerblichen Situation auszugehen ist (BGE 126 V 75 E. 3b/aa S. 76), kann nicht auf das vom Versicherten im Rahmen seiner Anstellung bei der Y._ GmbH erzielte Einkommen abgestellt werden. Ohne die Funktion eines Betriebsinhabers auszuüben (E. 3.2), erledigt er bei dieser Tätigkeit administrative Arbeiten und wirkt - entgegen der ärztlichen Empfehlung - in der Produktion mit, was die Vorinstanz verbindlich (E. 1.1) festgestellt hat. Invalidenversicherungsrechtlich geht es nicht an, für das Invalideneinkommen den Lohn heranzuziehen, welcher durch eine für die Gesundheit offensichtlich schädliche Arbeit erzielt wird. Mangels eines tatsächlich und in zumutbarer Weise erzielten Einkommens ist ein Tabellenlohn der Lohnstrukturerhebung des Bundesamtes für Statistik (LSE) heranzuziehen.
3.6 3.6.1 Für die in Art. 16 ATSG vorgesehene Gegenüberstellung sind grundsätzlich die hypothetischen Erwerbseinkommen im Zeitpunkt des Beginns eines allfälligen Rentenanspruchs massgebend. Jedenfalls aber haben sich die Vergleichseinkommen auf das gleiche Jahr zu beziehen (BGE 128 V 174 E. 4a S. 175; 129 V 222 E. 4.2 S. 223 f.). Die Verwaltung nahm den Einkommensvergleich für das Jahr 2004 vor. Entsprechend dem Beschwerdeantrag (vgl. Art. 107 Abs. 1 BGG) - und weil gestützt auf die medizinischen Unterlagen davon auszugehen ist, dass die im Gutachten des medizinischen Zentrums Z._ attestierte Einschränkung der Arbeitsfähigkeit mindestens seit Oktober 2006 besteht (vgl. Art. 29 Abs. 1 IVG in der bis 31. Dezember 2007 geltenden Fassung) - ist grundsätzlich das Jahr 2007 massgebend. Da indessen beide Vergleichsgrössen entsprechend der statistischen Einkommensentwicklung anzupassen wären, kann die Invaliditätsbemessung basierend auf den Zahlen für 2004 erfolgen.
3.6.2 Der Beschwerdeführer kann angesichts seiner Behinderung seine spezifischen, auf das Baugewerbe bezogenen Fähigkeiten in dieser Branche kaum mehr einsetzen. Es ist daher vom Totalwert Männer auszugehen. Dabei kann offenbleiben, ob das Anforderungsniveau 4 (einfache und repetitive Tätigkeiten) oder 3 (Berufs- und Fachkenntnisse vorausgesetzt) massgeblich ist. Unter Berücksichtigung der betriebsüblichen Wochenarbeitszeit von 41,7 Stunden ergibt sich zunächst ein Jahreseinkommen von höchstens Fr. 69'431.- (LSE 2004, Tabelle TA1; Fr. 5'550.- x 12 : 40 x 41,7).
3.6.3 Von diesem Betrag ausgehend ist die Einschränkung der Arbeitsfähigkeit zu berücksichtigen. Das kantonale Gericht hat offen gelassen, ob sich die von den Gutachtern des medizinischen Zentrums Z._ attestierte Restarbeitsfähigkeit von 50 % auf eine 55- oder 42-Stunden-Woche bezieht. Der Versicherte selber gab anlässlich der rheumatologischen Untersuchung an, insgesamt vier Stunden täglich zu arbeiten. In der Rechtsprechung werden die in den ärztlichen Berichten und Expertisen enthaltenen Prozentangaben zur Arbeitsfähigkeit grundsätzlich und unabhängig von der anzuwendenden Bemessungsmethode auf ein Vollzeitpensum bezogen (statt vieler: Urteile 9C_742/2009 vom 25. Februar 2010 E. 3.1; 9C_89/2010 vom 30. März 2010 E. 4.2 mit weiteren Hinweisen), soweit die Ärztin oder der Arzt nicht explizit festhält, dass sich die Angaben an einem Teilzeitpensum messen oder sich dies zweifelsfrei aus dem Kontext ergibt (vgl. Urteil I 194/95 vom 15. November 1996 E. 3b). Gemäss dieser Rechtsprechung ist auch bei der Arbeitsfähigkeitsschätzung der Gutachter des medizinischen Zentrums Z._ - welche für eine Verweistätigkeit gilt - mangels konkreter Hinweise für eine andere Auffassung davon auszugehen, dass sie sich auf ein durchschnittliches Arbeitspensum bezieht.
3.6.4 Weiter ist ein Abzug vom Tabellenlohn insbesondere dann zu gewähren, wenn eine versicherte Person selbst im Rahmen körperlich leichter Hilfsarbeitertätigkeit in ihrer Leistungsfähigkeit eingeschränkt ist (BGE 126 V 75 E. 5a/bb S. 78; Urteil 9C_187/2011 vom 30. Mai 2011 E. 4.2.1). Ausserdem wird bei Männern, die gesundheitlich bedingt lediglich noch teilzeitlich erwerbstätig sein können, ein Abzug anerkannt (SVR 2010 IV Nr. 28 S. 87, 9C_708/2009 E. 2.1.1 mit Hinweisen; Urteil 9C_399/2011 vom 11. Juli 2011 E. 2.2). Beides trifft hier zu. Angesichts aller Umstände ist ein Abzug von 15 % angezeigt.
3.6.5 Nach dem Gesagten ist das Invalideneinkommen auf Fr. 29'508.- festzusetzen (Fr. 69'431.- x 0,5 x 0,85).
3.7 Die übrigen Invaliditätsbemessungsfaktoren werden nicht beanstandet. Bei einem resultierenden Invaliditätsgrad von 83 % ([100 % x 29'508] : 177'123 [vgl. E. 2.1] = 16,65 %) hat der Beschwerdeführer spätestens seit 1. Oktober 2007 Anspruch auf eine ganze Rente der Invalidenversicherung (Art. 28 IVG).
4. Entsprechend dem Ausgang des Verfahrens sind die Gerichtskosten der Beschwerdegegnerin aufzuerlegen (Art. 66 Abs. 1 BGG). Dem obsiegenden, anwaltlich vertretenen Beschwerdeführer steht eine Parteientschädigung zu (Art. 68 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen. Der Entscheid des Verwaltungsgerichts des Kantons Bern vom 9. Juni 2010 und die Verfügung der IV-Stelle Bern vom 30. September 2009 werden aufgehoben. Es wird festgestellt, dass der Beschwerdeführer ab 1. Oktober 2007 Anspruch auf eine ganze Rente der Invalidenversicherung hat.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdegegnerin auferlegt.
3. Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
4. Die Sache wird zur Neuverlegung der Kosten und der Parteientschädigung des vorangegangenen Verfahrens an das Verwaltungsgericht des Kantons Bern zurückgewiesen.
5. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 10. August 2011
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Die Gerichtsschreiberin: Dormann