Sachverhalt:
A. Mit Betreibungsbegehren vom 13. Mai 2011 ersuchte die Z._ AG das Betreibungsamt A._, gegen X._ die Betreibung für die Forderungssumme von Fr. 3'876.-- nebst Zinsen einzuleiten. Die Betreibungsgläubigerin fügte im Betreibungsbegehren an, dass der Schuldner im November 2011 seine Wohnadresse in B._ aufgegeben habe und seither unauffindbar sei, weshalb die Publikation des Zahlungsbefehls gewünscht werde. In der Folge machte das Betreibungsamt den Zahlungsbefehl Nr. 1 durch Publikation im Amtsblatt Basel-Landschaft vom .... und im Schweizerischen Handelsamtsblatt vom .... bekannt.
B. Am 24. Juni 2011 gelangte X._ an die Aufsichtsbehörde Schuldbetreibung und Konkurs Basel-Landschaft. Er verlangte die Aufhebung des Zahlungsbefehls Nr. 1, eine Genugtuung von Fr. 1'000.-- sowie die Veröffentlichung einer Meldung über die irrtümliche öffentliche Bekanntmachung des Zahlungsbefehls. Das Betreibungsamt teilte in der Vernehmlassung zur Beschwerde mit, dass die Gläubigerin die Betreibung inzwischen zurückgezogen habe und im Übrigen die öffentliche Bekanntmachung des Zahlungsbefehls rechtens gewesen sei. Mit Entscheid vom 23. August 2011 trat die kantonale Aufsichtsbehörde auf die Beschwerde nicht ein.
C. Mit Eingabe vom 4. November 2011 (Postaufgabe) hat X._ Beschwerde in Zivilsachen erhoben. Der Beschwerdeführer beantragt (wie im kantonalen Verfahren), der Zahlungsbefehl Nr. 1 sei aufzuheben, eventualiter sei die Unzulässigkeit der Publikation festzustellen (Rechtsbegehren Ziff. 1); weiter beantragt er die Zusprechung von Fr. 1'000.-- als Genugtuung und die Veröffentlichung eines Korrekturvermerks (Rechtsbegehren Ziff. 2).
Es sind keine Vernehmlassungen eingeholt worden. Das Obergericht hat anlässlich der Akteneinreichung die Abweisung der Beschwerde beantragt, ohne weitere Bemerkungen anzubringen.
Erwägungen:
1. 1.1 Entscheide kantonaler Aufsichtsbehörden in Schuldbetreibungs- und Konkurssachen unterliegen der Beschwerde in Zivilsachen (Art. 72 Abs. 2 lit. a BGG i.V.m. Art. 19 SchKG). Sie ist unabhängig von einer gesetzlichen Streitwertgrenze gegeben (Art. 74 Abs. 2 lit. c BGG). Die Beschwerde gegen den letztinstanzlichen Entscheid ist fristgemäss erhoben worden (Art. 75 Abs. 1, Art. 100 Abs. 2 lit. a BGG).
1.2 Mit vorliegender Beschwerde kann u.a. die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG). In der Beschwerdeschrift ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt (Art. 42 Abs. 2 BGG). Die Verletzung von verfassungsmässigen Rechten ist in der Beschwerdeschrift vorzubringen und zu begründen (Art. 106 Abs. 2 BGG), wobei das Rügeprinzip gilt (BGE 133 III 589 E. 2 S. 591). Die Verletzung kantonaler Gesetze kann das Bundesgericht nur insoweit prüfen, als in der Beschwerde entsprechende Verfassungsrügen erhoben werden (vgl. Art. 95 BGG).
2. Die Aufsichtsbehörde hat im Wesentlichen erwogen, dass die Gläubigerin am 28. Juni 2011 gegenüber dem Betreibungsamt den Rückzug der Betreibung erklärt habe. Auf die Beschwerde vom 24. Juni 2011 mit dem Begehren, den Zahlungsbefehl aufzuheben, könne daher nicht eingetreten werden. Zur Beurteilung einer allfälligen Haftung des Betreibungsamtes sei die Aufsichtsbehörde nicht zuständig. Zuhanden des Betreibungsamtes hielt die Aufsichtsbehörde mit Blick auf künftige Fälle fest, dass für die öffentliche Publikation eines Zahlungsbefehls nicht der Wunsch der Gläubigerin, sondern bestimmte gesetzliche Voraussetzungen massgebend seien.
Der Beschwerdeführer betont demgegenüber sein Rechtsschutzinteresse an der Aufhebung der öffentlichen Bekanntmachung des Zahlungsbefehls, zumal über die Kosten der Publikation noch nicht entschieden sei. In analoger Anwendung von Art. 28 ff. ZGB bzw. des Gegendarstellungsrechts sei ein Korrekturvermerk zu veröffentlichen. Der Genugtuungsanspruch sei aus verfahrensökonomischen Gründen von der Aufsichtsbehörde zu beurteilen und zu Unrecht verweigert worden.
3. Anlass zur vorliegenden Beschwerde gibt die Anfechtung der öffentlichen Bekanntmachung des Zahlungsbefehls in einer Betreibung, welche die Gläubigerin während des kantonalen Verfahrens zurückgezogen hat.
3.1 Gegen die öffentliche Bekanntmachung eines Zahlungsbefehls, ohne dass die Voraussetzungen nach Art. 66 Abs. 4 SchKG erfüllt sind, kann der Betriebene Beschwerde nach Art. 17 SchKG führen. Zu Recht hat die Aufsichtsbehörde die Anfechtbarkeit innert zehn Tagen nach Kenntnisnahme der öffentlichen Bekanntmachung angenommen (vgl. BGE 64 III 40 E. 1 S. 42; 136 III 571 E. 6.1 S. 573).
3.2 Nach der Rechtsprechung kann der Betriebene mit Beschwerde nach Art. 17 SchKG die Aufhebung der öffentlichen Bekanntmachung des Zahlungsbefehls wegen Verletzung von Art. 66 Abs. 4 SchKG verlangen, selbst wenn er rechtzeitig Rechtsvorschlag erhoben hat, da mit der Ediktalzustellung der Betreibungsort in Frage stehen kann (BGE 34 I 590 E. 4 S. 593) oder Gebühren verbunden sowie moralische Interessen beeinträchtigt sein können (BGE 36 I 782 E. 1 S. 784; 128 III 465 E. 1 S. 466). Hingegen ist die betreibungsrechtliche Beschwerde unzulässig, wenn damit bezweckt wird, lediglich die Rechtswidrigkeit der öffentlichen Bekanntmachung eines Zahlungsbefehls festzustellen (GILLIÉRON, Commentaire de la loi fédérale sur la poursuite pour dettes et la faillite, Bd. I, 1999, N. 58 zu Art. 66 SchKG). Wie allgemein muss mit der Beschwerde nach Art. 17 SchKG eine verfahrensrechtliche Korrektur bewirkt werden können, und darf es nie bloss darum gehen, eine Grundlage für die Geltendmachung von Schadenersatz- oder Genugtuungsansprüchen zu schaffen (BGE 99 III 58 E. 2 S. 60; 118 III 1 E. 2b S. 3; 120 III 107 E. 2 S. 108).
3.3 Streitpunkt ist, ob die Voraussetzungen zur Anfechtung der öffentlichen Bekanntmachung des Zahlungsbefehls mit Beschwerde nach Art. 17 SchKG gegeben sind.
3.3.1 Es steht fest, dass die Gläubigerin am 28. Juni 2011 - während des kantonalen Beschwerdeverfahrens - unter Hinweis darauf, dass der Beschwerdeführer allen seinen Verpflichtungen nachgekommen sei, gegenüber dem Betreibungsamt den Rückzug der Betreibung erklärt hat. Der Rückzug der Betreibung erfasst deren Grundlage: das Betreibungsbegehren (BGE 69 III 4 S. 5; GILLIÉRON, a.a.O., N. 120 zu Art. 67 SchKG). Mit dessen Rückzug durch die Gläubigerin ist die Betreibung aufgehoben (vgl. BGE 32 I 717 S. 721 oben). Anders als in den Fällen, in welchen eine Betreibung besteht und die Rechtsprechung (E. 3.2) die Anfechtung der öffentlichen Bekanntmachung des Zahlungsbefehls erlaubt, liegt hier eine aufgehobene Betreibung vor, wobei der Abschluss noch während des kantonalen Verfahrens erfolgte. Der Abschluss des Betreibungsverfahrens schliesst jedoch die Beachtung und die Berichtigung von Verfahrensfehlern grundsätzlich aus, zumal hier keine Amtshandlungen zum Schluss des Verfahrens (wie z.B. die Behandlung des Rückzugs im Betreibungsregister) zur Rede steht (vgl. BGE 99 III 58 E. 2 S. 60; LORANDI, Betreibungsrechtliche Beschwerde und Nichtigkeit, 2000, N. 13 und 14 zu Art. 17 SchKG, mit Hinw.). Insoweit ist nicht ersichtlich, dass der beantragte kantonale Beschwerdeentscheid (mit dem Rechtsbegehren um Aufhebung der Ediktalzustellung) im konkreten Vollstreckungsverfahren eine praktische Wirkung entfalten soll.
3.3.2 Der Beschwerdeführer wirft die Frage der Gebühren für die angeblich zu Unrecht erfolgte öffentliche Bekanntmachung des Zahlungsbefehls auf. Es trifft zu, dass nach der Rechtsprechung (E. 3.2) die Anfechtung der Publikation mit Blick auf die allfälligen Gebühren zulasten des Betriebenen möglich ist. Diese Frage stellt sich vorliegend jedoch nicht. Die Kosten für die öffentliche Bekanntmachung (Art. 11, Art. 13 Abs. 1 GebV SchKG) sind vom Betreibungsgläubiger vorzuschiessen (Art. 68 Abs. 1 SchKG). Dass dies geschehen ist, bestreitet der Beschwerdeführer nicht. Zieht jedoch - wie hier - die Gläubigerin die Betreibung zurück, tritt die Überwälzung der Kosten vorgenommener Betreibungshandlungen nicht ein, und sie hat den von ihr geleisteten Vorschuss selber zu tragen (FRITZSCHE/WALDER, Schuldbetreibung und Konkurs, Bd. I, 1984, § 15 Rz 11, S. 184). Entgegen der Darstellung des Beschwerdeführers steht hier keine Entscheidung des Betreibungsamtes über die Gebühren der Publikation aus. Daran ändert nichts, wenn er vorbringt, er habe der Gläubigerin (auch) die Gebühr für die öffentliche Bekanntmachung zurückerstattet, bevor diese die Betreibung zurückgezogen habe, und "diese Kosten von der Gläubigerin noch nicht zurückerstattet worden seien". Abgesehen davon, dass die erwähnte Zahlung als tatsächliches Vorbringen im angefochtenen Entscheid keine Stütze findet (Art. 105 Abs. 1 BGG), wäre dies nicht entscheiderheblich: Zahlungen des Schuldners an den Gläubiger stellen keine Akte der Betreibungsorgane dar, über welche die Aufsichtsbehörden zu urteilen haben (vgl. BGE 73 III 69 S. 1 S. 70).
3.3.3 Nach dem Gesagten sind mit der umstrittenen öffentlichen Bekanntmachung des Zahlungsbefehls keine weiteren amtlichen Kosten verbunden. Es können demnach einzig moralische Interessen des Beschwerdeführers beeinträchtigt sein. Dies genügt nicht zur Anfechtung der Publikation (vgl. BGE 34 I 590 E. 4 S. 593: Betreibungsort; BGE 128 III 465 E. 1 S. 466: Gebühren und moralische Interessen). Andernfalls läuft - wie hier - die betreibungsrechtliche Beschwerde darauf hinaus, lediglich die allfällige Rechtswidrigkeit der öffentlichen Bekanntmachung des Zahlungsbefehls festzustellen (ausdrücklich in Rechtsbegehren Ziff. 1). Dies ist unzulässig, weil keine verfahrensrechtliche Korrektur erwirkt werden kann, zumal der Beschwerdeführer die Feststellung der angeblich rechtswidrigen öffentlichen Bekanntmachung des Zahlungsbefehls gerade verlangt, damit ihm eine Genugtuung zugesprochen werde. Die mit BGE 128 III 465 ff. bestätigte Rechtsprechung hat (wie in E. 3.2 erwähnt) nichts an der Abgrenzung zwischen der Beschwerde (Art. 17 SchKG) und der Haftung (Art. 5 SchKG) geändert.
3.3.4 Seit der Gesetzesrevision von 1997 hält Art. 5 Abs. 4 SchKG ausdrücklich fest, dass im Fall, in welchem ein Zwangsvollstreckungsorgan in Erfüllung seiner Aufgaben widerrechtlich einen Schaden verursacht, ein Anspruch auf Genugtuung bestehen kann, wenn die Schwere der Verletzung dies rechtfertigt (Abs. 4). Die öffentliche Bekanntmachung einer Betreibungsurkunde, ohne dass die gesetzlichen Voraussetzungen erfüllt sind, kann Anspruch auf Genugtuung geben (DALLÈVES, in: Commentaire romand, Poursuite et faillite, 2005, N. 7 zu Art. 5 SchKG). Ob die Voraussetzungen nach Art. 5 SchKG erfüllt sind, wird jedoch nicht von der Aufsichtsbehörde in Schuldbetreibungs- und Konkurssachen (Art. 17 SchKG), sondern vom Gericht nach Art. 5 SchKG entschieden. Auch die ("im Sinne einer Gegendarstellung nach Art. 28 ff. ZGB") anbegehrte Publikation eines "Korrekturvermerks" (Rechtsbegehren Ziff. 2) fällt - wie allgemein die Publikation des Urteils über eine rechtswidrige öffentliche Bekanntmachung des Zahlungsbefehls - nicht in die Zuständigkeit der Aufsichtsbehörden (BGE 29 I 565 E. 5 S. 571; 36 I 782 E. 3 S. 785/786; GILLIÉRON, a.a.O., N. 58 zu Art. 66 SchKG).
3.4 Nach dem Dargelegten vermag der Beschwerdeführer keine Rechtsverletzung darzutun, wenn die Aufsichtsbehörde auf seine Beschwerde nicht eingetreten ist. Daran ändert nichts, dass die Aufsichtsbehörde dem Betreibungsamt (gestützt auf die Aufsichtsbefugnis nach Art. 13 SchKG) Anweisungen zum Vorgehen in zukünftigen Fällen gegeben hat und in diesem Zusammenhang das konkrete Vorgehen des Betreibungsamtes als "unzulässig" bezeichnet hat. Schliesslich bringt der Beschwerdeführer vergeblich vor, die Aufsichtsbehörde hätte sein Begehren, wenn sie es schon als Klage auf Schadenersatz bzw. Genugtuung betrachte, an die zuständige Instanz weiterleiten müssen. In der Beschwerdeschrift wird nicht dargelegt (E. 1.2), inwiefern die bundesrechtlichen Vorgaben für das Verfahren vor den kantonalen Aufsichtsbehörden (Art. 20 Abs. 2 SchKG) oder kantonale Verfahrensvorschriften (Art. 20 Abs. 3 SchKG) verletzt seien, wenn die Aufsichtsbehörde angenommen hat, dass die Eingabe des Beschwerdeführers keine Überweisungspflicht ausgelöst habe.
4. Der Beschwerde in Zivilsachen ist kein Erfolg beschieden. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer für das bundesgerichtliche Verfahren kostenpflichtig (Art. 66 Abs. 1 SchKG). Eine Entschädigungspflicht entfällt.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde in Zivilsachen wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 800.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Betreibungsamt A._ und der Aufsichtsbehörde Schuldbetreibung und Konkurs Basel-Landschaft schriftlich mitgeteilt.
Lausanne, 15. März 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Levante