Sachverhalt:
A. Das Betreibungsamt Thierstein pfändete in den gegen Y._ gerichteten Betreibungen (Gläubiger: Kantonales Sozialamt W._) den Liquidationsanteil des Schuldners am Gemeinschaftsvermögen der Erbengemeinschaft Z._ selig. Im Zuge des Verwertungsverfahrens gelangte das Betreibungsamt am 28. Juni 2010 nach Scheitern der Einigungsverhandlung an die kantonale Aufsichtsbehörde für Schuldbetreibung und Konkurs, um den Verwertungsmodus festzulegen.
B. B.a Mit Urteil vom 29. Juli 2010 schloss die Aufsichtsbehörde für Schuldbetreibung und Konkurs des Kantons Solothurn, dass der Liquidationsanteil von Y._ an der Erbschaft Z._ zu versteigern sei, und wies das Betreibungsamt an, den betreffenden "Liquidationsanteil zu inventarisieren, zu schätzen und zu versteigern".
B.b X._ als Miterbe führte mit Eingabe vom 12. August 2010 Beschwerde in Zivilsachen. Mit Urteil 5A_555/2010 vom 30. November 2010 stellte das Bundesgericht in Gutheissung der Beschwerde fest, dass die Aufsichtsbehörde über die Art der Verwertung des Anteils am Gemeinschaftsvermögen ohne Kenntnis der Stellungnahme des Beschwerdeführers und Mitanteilhabers entschieden hat. Es erkannte eine Verletzung von <ref-law> und wies die Sache an die Aufsichtsbehörde zu neuer Entscheidung zurück, um das Schreiben des Beschwerdeführers vom 9. Juli 2010 mit Blick auf mögliche Anträge zu Verwertungsmassnahmen zu berücksichtigen.
C. Mit Urteil vom 16. Februar 2011 bestätigte die Aufsichtsbehörde, dass der Liquidationsanteil von Y._ an der Erbschaft Z._ zu versteigern sei, und wies das Betreibungsamt an, den betreffenden "Liquidationsanteil zu inventarisieren, zu schätzen und zu versteigern" (Dispositiv-Ziff. 1).
D. X._ führt mit Eingabe vom 6. März 2011 wiederum Beschwerde in Zivilsachen. Der Beschwerdeführer verlangt die Aufhebung des Urteils der kantonalen Aufsichtsbehörde für Schuldbetreibung und Konkurs vom 16. Februar 2011.
Die Aufsichtsbehörde hat auf eine Vernehmlassung verzichtet und schliesst auf Abweisung der Beschwerde. Das Betreibungsamt hat sich nicht vernehmen lassen. Weitere Stellungnahmen sind nicht eingeholt worden.

Erwägungen:
1. 1.1 Angefochten ist ein Entscheid der kantonalen Aufsichtsbehörde über die Art der Verwertung von Anteilen an Gemeinschaftsvermögen (<ref-law>; Art. 10 der Verordnung über die Pfändung und Verwertung von Anteilen an Gemeinschaftsvermögen; VVAG; SR 281.41). Dieser Entscheid unterliegt unabhängig vom Streitwert der Beschwerde in Zivilsachen (Art. 72 Abs. 2 lit. a, Art. 74 Abs. 2 lit. c BGG). Dass das Obergericht (§ 33 GOG/SO) nicht als Rechtsmittelinstanz entschieden hat, ändert an der Zulässigkeit der Beschwerde in Zivilsachen nichts (vgl. <ref-law>), da bundesrechtliche Bestimmungen den Entscheid der kantonalen und - im Kanton Solothurn - einzigen Aufsichtsbehörde zuweisen (vgl. Urteil 5A_555/2010 vom 30. November 2010 E. 1.1 und 1.2, mit Hinw.).
1.2 Der angefochtene Entscheid über den Verwertungsmodus stellt einen Endentscheid im Sinne von <ref-law> dar (<ref-ruling> E. 1.2 S. 351). Der Beschwerdeführer als Miterbe ist von der Zwangsvollstreckung mitbetroffen und hat grundsätzlich ein schutzwürdiges Interesse an der Aufhebung bzw. Änderung des angefochtenen Entscheides (<ref-law>). Die fristgerecht (<ref-law>) erhobene Beschwerde in Zivilsachen ist grundsätzlich zulässig.
1.3 Die Beschwerdeschrift hat das Rechtsbegehren zu enthalten (<ref-law>). Der Beschwerdeführer stellt keinen blossen Aufhebungsantrag. Aus der Beschwerdebegründung geht hervor, dass er in der Sache einzig beantragt, es sei die Expertise der A._ AG über den Wert des in der Erbmasse enthaltenen Wohnhauses als verbindlich zu erklären oder zu überprüfen. Dass der Beschwerdeführer eine andere als die von der Aufsichtsbehörde angeordnete Verwertungsart beantrage, lässt sich der Beschwerdeschrift hingegen nicht entnehmen; vielmehr will er (wie bereits vor der Aufsichtsbehörde beantragt) den Liquidationsanteil von Y._ an der Erbschaft Z._ erwerben bzw. ersteigern.
1.4 In der Beschwerdeschrift ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt (<ref-law>). Mit der Beschwerde kann unter anderem die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Ergänzung der Beschwerdeschrift (Eingabe des Beschwerdeführers vom 12. Mai 2011) ist nach Ablauf der Beschwerdefrist unzulässig.
2. Die Aufsichtsbehörde hat festgehalten, dass das Betreibungsamt am 28. Juni 2010 nach erfolgloser Einigungsverhandlung beantragt habe, den Verwertungsmodus betreffend den gepfändeten Anteil am Gemeinschaftsvermögen (Erbschaft) festzulegen. Sie hat erwogen, dass sie die Parteien mit Verfügung vom 2. Juli 2010 ersucht habe, innert 10 Tagen Anträge über die Verwertungsmassnahmen zu stellen. Nach Weiterleitung der Stellungnahme des Beschwerdeführers vom 9. Juli 2010 durch das Betreibungsamt habe sie den Beteiligten (am 5. Januar 2011) erneut Gelegenheit gegeben, entsprechende Anträge zu stellen. Der Beschwerdeführer habe mitgeteilt, den Erbanteil des Schuldners erwerben zu wollen. Über die einzuschlagende Verwertungsart hat die Aufsichtsbehörde im Wesentlichen das Folgende erwogen:
2.1 Es sei praktisch unmöglich, einen "fairen Preis" festzusetzen, weil es sich bei dem Wohnhaus, das sich in der Erbmasse befinde, um ein Abbruchobjekt handle. Der vom Betreibungsamt festgesetzte Wert habe zu keiner einvernehmlichen Lösung geführt. Der Beschwerdeführer sei bloss am abbruchreifen Wohnhaus interessiert, in der Erbmasse würden sich aber auch unüberbaute Grundstücke befinden. Es sei fraglich, ob der Beschwerdeführer den Erwerb des Liquidationsanteils finanzieren könne.
2.2 Die Aufsichtsbehörde ist zum Ergebnis gelangt, weitere Einigungsverhandlungen würden keinen Erfolg versprechen und es sei die Versteigerung des Liquidationsanteils des Schuldners an der Erbschaft Z._ anzuordnen, zumal der Gläubiger auf eine rasche Erledigung dränge. Sie hat das Betreibungsamt angewiesen, den betreffenden Liquidationsanteil zu inventarisieren, zu schätzen und zu versteigern.
3. Anlass zur Beschwerde gibt die Verfügung der Aufsichtsbehörde über die Art der Verwertung eines gepfändeten Anteils am Gemeinschaftsvermögen (Erbschaft). Der Beschwerdeführer als Miterbe besteht darauf, am Erwerb des ganzen Liquidationsanteil interessiert zu sein. Er kritisiert die Annahme der Vorinstanz, dass es unmöglich sei, "einen fairen Preis" festzusetzen, und verlangt für die Versteigerung und sein mögliches Angebot die Feststellung oder Anordnung einer Expertise, dass das abbruchreife Haus einen Wert von null habe.
3.1 Der Beschwerdeführer behauptet nicht, dass die Aufsichtsbehörde eine Einigung übergangen habe oder sie ihr Ermessen verletzt habe, wenn sie von der Anordnung von nochmaligen Einigungsverhandlungen (Art. 9 Abs. 1, Art. 10 Abs. 1 a.E. VVAG) abgesehen hat. Nach Scheitern der Einigungsverhandlungen liegt die Zuständigkeit zur Bestimmung des Verwertungsart gemäss <ref-law> bei der Aufsichtsbehörde. Sie kann entweder die Auflösung der Gemeinschaft und deren Liquidation verfügen oder die Versteigerung des Anteils am Gemeinschaftsvermögen anordnen. Über die Verwertungsart hat sie nach den in Art. 10 Abs. 2 und 3 VVAG festgelegten Kriterien zu entscheiden (<ref-ruling> E. 1 S. 120; <ref-ruling> E. 2.4 S. 183; RUTZ/ROTH, in: Basler Kommentar zum Bundesgesetz über Schuldbetreibung und Konkurs, Bd. II, 2010, N. 26 und 27 zu Art. 132; GILLIÉRON, Commentaire de la loi fédérale sur la poursuite pour dettes et la faillite, Bd. II, 2000, N. 32 und 34 zu Art. 132).
3.2 Mit dem angefochtenen Entscheid hat die Aufsichtsbehörde angeordnet, den Liquidationsanteil des Schuldners an der Erbschaft zu versteigern (<ref-law>). Der Beschwerdeführer erklärt, bereit zu sein, "den Anteil seinen Bruders erwerben", und will ein "Gebot" (bzw. ein Preisangebot an der Versteigerung) für den Liquidationsanteil stellen. Mit der Anordnung der Aufsichtsbehörde ist der Beschwerdeführer offensichtlich einverstanden. Er legt nicht dar, inwiefern er durch die in den Urteilserwägungen geäusserten Zweifel, den Erwerb finanzieren zu können, beschwert sein soll. Insgesamt fehlt dem Beschwerdeantrag insoweit, als er auf die Aufhebung der Anordnung der Versteigerung gerichtet ist, die erforderliche Begründung (<ref-law>). Es bleibt ohne weitere Überprüfung bei der Verfügung der Aufsichtsbehörde, dass der Liquidationsanteil zu versteigern ist.
3.3 Der Beschwerdeführer verlangt die "richtige" Schätzung des in der Erbmasse befindlichen Wohnhauses als Voraussetzung, dass er an der Versteigerung des Liquidationsanteils ein quantifizierbares Angebot stellen könne.
3.3.1 Soweit der Beschwerdeführer die Schätzung einzig eines bestimmten Objektes im Gemeinschaftsvermögen verlangt, geht er fehl. Das Betreibungsamt hat den Liquidationsanteil zu schätzen (<ref-law>; GILLIÉRON, a.a.O., N. 25 zu Art. 97). Hier wurde das Anteilsrecht des Schuldners an der Erbschaft im Rahmen der Pfändung nicht geschätzt (dazu <ref-ruling> E. 4a S. 75), sondern das Betreibungsamt hat es bei der Feststellung nach <ref-law> bewenden lassen, wonach der Wert des Anteilsrechts ohne eingehende Erhebungen nicht ermittelt werden kann, die Forderungen aber gedeckt erscheinen (Pfändungsurkunde vom 6. November 2009; Pfändungs-Nr. xxx). Die Schätzung des Liquidationsanteils ist im Hinblick auf die Versteigerung nachzuholen, wenn - wie hier - anlässlich der Pfändung keine Schätzung des Liquidationsanteils vorgenommen wurde (vgl. <ref-ruling> E. 2a S. 20; ZR 37/1938 Nr. 30 S. 60). Der Beschwerdeführer übergeht, dass die Aufsichtsbehörde das Betreibungsamt angewiesen hat, den Liquidationsanteil zu schätzen. Insoweit geht sein Antrag, die Aufsichtsbehörde habe eine Schätzung anzuordnen, ins Leere.
3.3.2 Mit Bezug auf die Anweisung der Aufsichtsbehörde an das Betreibungsamt, den "Liquidationsanteil zu inventarisieren", ist das Entscheiddispositiv allerdings ungenau. Zur Schätzung des Anteilsrechts ist erforderlich, die Bestandteile des Gemeinschaftsvermögens (nicht des Liquidationsanteils) zu kennen (BISANG, Die Zwangsverwertung von Anteilen an Gesamthandschaften, 1978, S. 110 oben, S. 112). Dieses Redaktionsversehen ist von Amtes wegen entsprechend zu berichtigen (Urteil 5A_111/2007 vom 8. Januar 2008 E. 5.2).
4. Aus diesen Gründen ist die Beschwerde in Zivilsachen abzuweisen, soweit darauf eingetreten werden kann, wobei das Entscheiddispositiv im dargelegten Sinn zu berichtigen ist. Bei diesem Verfahrensausgang wird der Beschwerdeführer kostenpflichtig (<ref-law>). Eine Parteientschädigung ist nicht zu bezahlen.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde in Zivilsachen wird abgewiesen, soweit darauf einzutreten ist.
2. Das Dispositiv (Ziff. 1) des Urteils der Aufsichtsbehörde für Schuldbetreibung und Konkurs des Kantons Solothurn vom 16. Februar 2011 wird von Amtes wegen wie folgt berichtigt:
"Das Betreibungsamt wird angewiesen, das Gemeinschaftsvermögen der Erbschaft Z._ zu inventarisieren, den Liquidationsanteil von Y._ zu schätzen und den Liquidationsanteil zu versteigern."
3. Die Gerichtskosten von Fr. 700.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Verfahrensbeteiligten und der Aufsichtsbehörde für Schuldbetreibung und Konkurs des Kantons Solothurn schriftlich mitgeteilt.
Lausanne, 30. Mai 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Levante