Erwägungen:
1.
Der Beschwerdeführer betreibt B._ (Schuldner) mit Zahlungsbefehl Nr. xxx des Betreibungsamtes Olten-Gösgen.
Dagegen erhob der Schuldner am 26. November 2020 Beschwerde. Mit Urteil vom 18. Januar 2021 hiess die Aufsichtsbehörde für Schuldbetreibung und Konkurs des Kantons Solothurn die Beschwerde gut und hob den Zahlungsbefehl auf, da mangels Vorliegens eines Betreibungsortes das Betreibungsamt zur Behandlung des Betreibungsbegehrens nicht zuständig gewesen sei.
Dagegen hat der Beschwerdeführer am 1. Februar 2021 (Postaufgabe) Beschwerde an das Bundesgericht erhoben.
2.
Nach <ref-law> ist in der Beschwerdebegründung in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Die beschwerdeführende Partei hat in gezielter Auseinandersetzung mit den für das Ergebnis des angefochtenen Entscheides massgeblichen Erwägungen aufzuzeigen, welche Rechte bzw. Rechtsnormen die Vorinstanz verletzt haben soll (<ref-ruling> E. 2 S. 88 f.; <ref-ruling> E. 2 S. 116). Der vorinstanzlich festgestellte Sachverhalt ist für das Bundesgericht grundsätzlich verbindlich (<ref-law>). Die unrichtige Feststellung des Sachverhalts kann nur unter den Voraussetzungen von <ref-law> gerügt werden (vgl. <ref-ruling> E. 1.3.1 S. 18; <ref-ruling> E. 2.3 S. 266).
3.
Der Beschwerdeführer geht auf die Erwägungen der Aufsichtsbehörde zu Wohnsitz und Aufenthalt (Art. 46 Abs. 1 und Art. 48 SchKG) des Schuldners nicht in genügender Weise ein. Er beschränkt sich auf blosses Bestreiten und übergeht insbesondere, dass die von ihm geltend gemachte Wohnsitznahme des Schuldners nach Beurteilung der Aufsichtsbehörde nur auf unbelegten Behauptungen beruht. Er erachtet die Frage des Betreibungsorts im Übrigen sogar ausdrücklich als irrelevant. Soweit er bemängelt, dass die Aufsichtsbehörde nicht dargelegt habe, auf welche Gesetzesartikel sie die Aufhebung stütze, übergeht er die eingehenden rechtlichen Erwägungen (mit Angaben von Gesetzesartikeln) im angefochtenen Urteil. Er verweist darauf, dass auch ein mangelhaft zugestellter Zahlungsbefehl seine Wirkungen entfalte, sobald der Schuldner davon erfahre. Er legt nicht dar, weshalb dies über einen fehlenden Betreibungsort hinweghelfen soll. Offensichtlich verkennt er die Bedeutung der von ihm zitierten Rechtsprechung zu Zustellungsmängeln und zu <ref-law>. Sodann macht er geltend, der Anwalt des Schuldners sei in Olten ansässig. Inwiefern dies einen Betreibungsort des Schuldners im Zuständigkeitsbereich des Betreibungsamts Olten-Gösgen begründen soll, legt er nicht dar.
Die Beschwerde enthält damit offensichtlich keine hinreichende Begründung. Auf sie ist im vereinfachten Verfahren durch das präsidierende Mitglied der Abteilung nicht einzutreten (<ref-law>).
4.
Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Gerichtskosten (<ref-law>).

Demnach erkennt das präsidierende Mitglied:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Verfahrensbeteiligten und der Aufsichtsbehörde für Schuldbetreibung und Konkurs des Kantons Solothurn schriftlich mitgeteilt.
Lausanne, 15. Februar 2021
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Zingg