Sachverhalt: A. A._, der seinen Wohnsitz im Vereinigten Königreich hat, B._ und D._ bilden die Erbengemeinschaft im Nachlass der am 30. Juni 2011 verstorbenen E._ mit letztem Wohnsitz in L._. Am 24. Mai 2013 erliess der Einzelrichter am Kantonsgericht Zug auf Begehren von B._ für eine Forderung von Fr. 50'106.-- einen Arrestbefehl an das Betreibungsamt L._, mit dem der Liquidationsanteil von A._ an der unverteilten Erbschaft bis zur Höhe der Arrestforderung nebst Zins und Kosten arrestiert wurde (Verfahren EA 2013 16). Nachdem B._ in Prosequierung des Arrests das Betreibungsbegehren gestellt hatte, stellte das Betreibungsamt L._ in der Betreibung Nr. xxx am 4. Juni 2013 den Zahlungsbefehl aus. Nach Eingang des Fortsetzungsbegehrens der Gläubigerin erliess das Betreibungsamt L._ am 28. Januar 2014 die Pfändungsankündigung. B. Am 19. April 2014 reichte A._ beim Obergericht des Kantons Zug als Aufsichtsbehörde über Schuldbetreibung und Konkurs eine Beschwerde ein und stellte sinngemäss den Antrag festzustellen, dass die Betreibung Nr. xxx des Betreibungsamts L._ und der Arrest zufolge örtlicher Unzuständigkeit des Betreibungsamts bzw. des Arrestrichters nichtig seien. Demgemäss seien die entsprechenden Einträge im Betreibungsregister zu löschen. Mit Urteil vom 6. Mai 2014 wies das Obergericht des Kantons Zug die Beschwerde ab und auferlegte A._ Verfahrenskosten von Fr. 600.--. C. C.a. A._ (Beschwerdeführer) gelangt am 23. Mai 2014 mit Beschwerde an das Bundesgericht. In der Sache stellt er folgende Begehren: "1.2.1 Feststellung / Anwendung der Nichtigkeit von Amtes wegen und Aufhebung der aufgrund eines angebl. angeordneten Arrestbefehls vom 24. Mai 2013 des Einzelrichters am Kantonsgericht Zug (xxx / zzz) zufolge örtlicher Unzuständigkeit und entsprechender internat. Gerichtsstandsgarantie. 1.2.2 Anwendung / Feststellung der Nichtigkeit und Aufhebung sämtlicher Handlungen wie Zahlungsbefehl, Pfändung (xxx / zzz) und event. Weitere des Betreibungsamtes Zug." Eventualiter habe das Bundesgericht die Rechtsgültigkeit des Rechtsvorschlags festzustellen. C.b. Am 17. Juli 2014 hat das präsidierende Mitglied der II. zivilrechtlichen Abteilung der Beschwerde antragsgemäss aufschiebende Wirkung erteilt und festgehalten, dass über das am gleichen Tag eingegangene Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege später entschieden wird. C.c. Das Bundesgericht hat am 30. Juli 2014 beim Obergericht des Kantons Zug, beim Kantonsgericht Zug, beim Betreibungsamt L._ und bei B._ Vernehmlassungen eingeholt. Mit Schreiben vom 7. August 2014 beantragt das Obergericht, die Beschwerde abzuweisen. Im Übrigen verzichtet das Obergericht auf eine Vernehmlassung und verweist auf die Erwägungen im angefochtenen Entscheid. Auch das Kantonsgericht verzichtet auf eine Vernehmlassung, erlaubt sich aber die Anmerkung, dass die Rechtslage bezüglich der örtlichen Zuständigkeit nicht klar sei. Namentlich sei dem Unterzeichnenden das bundesgerichtliche Urteil 5A_628/2012 vom 29. Januar 2013 beim Erlass des Arrestbefehls noch nicht bekannt gewesen. Im Übrigen legte das Kantonsgericht seiner Vernehmlassung Kopien des Arrestgesuchs vom 23. Mai 2013 und des Arrestbefehls vom 24. Mai 2013 bei. Das Betreibungsamt L._ hält in seiner Vernehmlassung vom 6. August 2014 fest, dass es örtlich und sachlich für den Arrest und die Pfändung zuständig sei und die Arrest- und Betreibungsurkunden korrekt zugestellt worden seien. Weshalb der Arrest Nr. zzz und die Betreibung Nr. xxx nichtig sein sollten, sei nicht nachvollziehbar. Nicht vernehmen liess sich B._. Die erwähnten Eingaben wurden dem Beschwerdeführer zur Wahrung des rechtlichen Gehörs zur Kenntnis gebracht. Dieser hat mit Schreiben vom 19. September 2014 davon Gebrauch gemacht und weitere Unterlagen eingereicht. Diese Eingabe wurde den übrigen Verfahrensbeteiligten zugestellt.