Sachverhalt:
A.
A.a. A._ war zu Beginn des Jahres 2015 als Wochenaufenthalter im Kanton Basel-Stadt angemeldet. Da die Steuerverwaltung des Kantons Basel-Stadt (Steuerverwaltung BS) diesen Status in Zweifel zog, forderte sie A._ mehrmals auf, einen Fragebogen zur Abklärung des Steuerdomizils auszufüllen und stellte ihm, sollte diese Aufforderung weiterhin unbeantwortet bleiben, die Verfügung der ordentlichen Steuerpflicht im Kanton Basel-Stadt in Aussicht. Mangels Antwort erliess die Steuerverwaltung BS am 28. April 2015 eine Domizilverfügung, welche die Steuerpflicht von A._ im Kanton Basel-Stadt ab 1. Januar 2015 feststellte und unangefochten in Rechtskraft erwuchs.
A.b. Am 27. Oktober 2015 zog A._ nach U._ (Kanton Solothurn) und meldete sich dort an. Nachdem er trotz Mahnung, Mahngebührenverfügung vom 26. Mai 2016 und Ordnungsbussenverfügung vom 1. August 2016 keine Steuererklärung eingereicht hatte, wurde er mit zwei Verfügungen der Veranlagungsbehörde Olten-Gösgen (Veranlagungsbehörde SO) vom jeweils 5. September 2016 für die Steuerperiode 2015 nach pflichtgemässem Ermessen als Steuerpflichtiger im Kanton Solothurn für einerseits die Staatssteuer und andererseits die direkte Bundessteuer veranlagt. Auch im Kanton Basel-Stadt liess A._ Mahnungen zur Einreichung der Steuererklärung unbeantwortet und wurde daraufhin von der Steuerverwaltung BS mit zwei Verfügungen vom je 15. September 2016 bezüglich der Steuerperiode 2015 nach pflichtgemässem Ermessen für einerseits die Kantonssteuern und andererseits die direkte Bundessteuer veranlagt. Die Veranlagungsverfügungen der Steuerverwaltung BS erwuchsen unangefochten in Rechtskraft.
B.
B.a. Gegen die Veranlagungsverfügungen der Veranlagungsbehörde SO erhob A._ am 11. Januar 2017 Einsprache wegen interkantonaler Doppelbesteuerung. Erstere trat darauf mit Entscheid vom 13. Juni 2017 wegen Ablauf der Einsprachefrist nicht ein. Das nachfolgend angerufene Steuergericht des Kantons Solothurn stellte jedoch die Einsprachefrist wieder her, da die Zustellung der mit B-Post versandten Veranlagungsverfügungen nicht nachgewiesen werden konnte. Anstatt einer Rückweisung entschied es in der Sache und wies die Beschwerde und den Rekurs mit Urteil vom 18. Dezember 2017 (zugestellt am 26. März 2018) ab.
B.b. Ebenfalls am 11. Januar 2017 erhob A._ Einsprache wegen interkantonaler Doppelbesteuerung gegen die genannten Veranlagungsverfügungen der Steuerverwaltung BS. Letztere trat wegen Ablauf sowohl der Einsprache- als auch der Revisionsfrist mit Einspracheentscheid vom 13. Februar 2017 nicht darauf ein. Dieser blieb unangefochten.
C.
Mit Eingabe vom 24. April 2018 erhebt A._ (Beschwerdeführer) Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht wegen Verstosses gegen das Verbot der interkantonalen Doppelbesteuerung in Bezug auf die kantonalen Steuern 2015 (BS) respektive Staatssteuer 2015 (SO) sowie die direkte Bundessteuer 2015 (BS und SO). Er beantragt, der Einspracheentscheid der Steuerverwaltung BS vom 13. Februar 2017 sowie die Veranlagungsverfügungen der Steuerverwaltung des Kantons Basel-Stadt vom 15. September 2016 in Bezug auf die kantonalen Steuern 2015 und die direkte Bundessteuer 2015 seien aufzuheben (Rechtsbegehren 1). Die Steuerverwaltung BS sei anzuweisen, von den erhobenen Steuern (inkl. Verzugszinse und Gebühren) für die kantonalen Steuern 2015 und die direkte Bundessteuer 2015 gemäss den Veranlagungsverfügungen vom 15. September 2016 abzusehen und bereits in diesem Zusammenhang bezahlte Steuern an den Beschwerdeführer zurück zu erstatten (Rechtsbegehren 2). Eventualiter sei das Urteil des Steuergerichts des Kantons Solothurn vom 18. Dezember 2017 in Bezug auf die Staatssteuer 2015 sowie die direkte Bundessteuer 2015 inkl. die Steuerrechnungen der Veranlagungsbehörde SO vom 27. März 2018 aufzuheben (Rechtsbegehren 3.a). Ebenfalls eventualiter sei das Steueramt des Kantons Solothurn anzuweisen, von den erhobenen Steuern (inkl. Verzugszinse und Gebühren) für die Staatssteuer (und Gemeindesteuer) 2015 und die direkte Bundessteuer 2015 gemäss den Steuerrechnungen der Veranlagungsbehörde Olten-Gösgen vom 27. März 2018 abzusehen und bereits in diesem Zusammenhang bezahlte Steuern an den Beschwerdeführer zurück zu erstatten (Rechtsbegehren 3.b).
Das Steueramt des Kantons Solothurn beantragt in seiner Vernehmlassung die Gutheissung der Beschwerde in Bezug auf die Rechtsbegehren 1 und 2. Im Übrigen sei die Beschwerde abzuweisen. Das Steuergericht des Kantons Solothurn beantragt die Abweisung der Beschwerde. Die Steuerverwaltung BS und die Eidgenössische Steuerverwaltung (ESTV) haben auf eine Vernehmlassung verzichtet.

Erwägungen:
1.
1.1. Die Beschwerde richtet sich gemäss Rechtsbegehren 1 gegen einen kantonalen Einspracheentscheid, welcher an die Steuerrekurskommission des Kantons Basel-Stadt hätte weitergezogen werden können und demnach kantonal nicht letztinstanzlich im Sinne von <ref-law> ist. Rechtsprechungsgemäss muss jedoch in Anwendung von <ref-law> bei Streitigkeiten wegen interkantonaler Doppelbesteuerung der Instanzenzug nur in einem Kanton durchlaufen werden (<ref-ruling> E. 1.7 S. 379; <ref-ruling> E. 2.4 S. 306 f.; <ref-ruling> E. 2.4 S. 312 f.). Dies ist erfolgt, liegt doch ein Urteil des Steuergerichts des Kantons Solothurn vor, welches ebenfalls (eventualiter) angefochten wurde. Demzufolge richtet sich die Beschwerde auch gegen den verfahrensabschliessenden Entscheid einer letzten kantonalen Instanz in einer Angelegenheit des öffentlichen Rechts. Im Rahmen dieses Verfahrens kann ebenfalls eine rechtskräftige Veranlagung eines anderen Kantons für dieselbe Steuerperiode wie vorliegend jene der Steuerverwaltung BS angefochten werden (<ref-ruling> E. 1.7 in fine S. 378 f.; <ref-ruling> E. 2.4 S. 306 f.; <ref-ruling> E. 2.4 S. 312 f.; Urteil 2C_533/2018 vom 30. Oktober 2019 E. 1.2).
1.2. Aufgrund von <ref-law> (Bundesgesetz vom 14. Dezember 1990 über die direkte Bundessteuer; SR 642.11) ist jener Kanton für die Veranlagung der direkten Bundessteuer zuständig, in welchem die natürliche Person am Ende der Steuerperiode ihren steuerrechtlichen Wohnsitz hat. Im Falle eines Kompetenzkonflikts zwischen mehreren Kantonen bestimmt die ESTV die Veranlagungszuständigkeit und ist deshalb vorgängig einzuschalten (vgl. <ref-law>; Urteile 2C_151, 152, 178, 179/2017 vom 16. Dezember 2019 E. 2.3.7 [zur Publikation bestimmt]; 2C_116, 117/2013 vom 2. September 2013 E. 1.3.4 und 4.5.1). Vorliegend hat die Steuerverwaltung BS in ihrem Einspracheentscheid vom 13. Februar 2017 (lit. B.b oben) sachverhaltsmässig im Wesentlichen festgehalten, sie sei von den Behörden von V._ im Januar 2017 und daraufhin von der Veranlagungsbehörde SO über die Anmeldung des Beschwerdeführers in U._ am 27. Oktober 2015 informiert worden. Dass der Beschwerdeführer seinen (steuerrechtlichen) Wohnsitz am Ende der Steuerperiode 2015 im Kanton Solothurn hatte, ist unter den betroffenen Kantonen unbestritten. Im Kern ist vorliegend denn auch Streitgegenstand, ob der Beschwerdeführer sein Beschwerderecht aufgrund seines Verhaltens verwirkt hat. Abgesehen davon, dass es auch prozessökonomisch keinen Sinn ergeben würde (vgl. Urteil 2C_116, 117/2013 vom 2. September 2013 E. 4.5.2), erübrigt sich demnach vorliegend schon deshalb, gestützt auf <ref-law> die ESTV einzuschalten.
1.3. Die Voraussetzungen der Beschwerde in öffentlich-rechtlichen Angelegenheiten sind erfüllt, weshalb auf die Beschwerde - mit nachfolgender Einschränkung (E. 1.4) - grundsätzlich einzutreten ist (Art. 82 lit. a, Art. 83 e contrario, Art. 86 Abs. 1 lit. d und Abs. 2, Art. 89 Abs. 1 BGG, <ref-law> i.V.m. Art. 73 des Bundesgesetzes vom 14. Dezember 1990 über die Harmonisierung der direkten Steuern der Kantone und Gemeinden [StHG; SR 642.14]).
1.4. Nicht einzutreten ist auf die Beschwerde, soweit sie sich gegen die genannten Veranlagungsverfügungen der Steuerverwaltung BS richtet, denn diese gelten bei Anfechtung des Einspracheentscheides der Steuerverwaltung BS vom 13. Februar 2017 als mitangefochten (Devolutiveffekt; <ref-ruling> E. 2.5 S. 415; <ref-ruling> E. 1.2 S. 543).
2.
2.1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann insbesondere die Verletzung von Bundes- und Völkerrecht gerügt werden (Art. 95 lit. a und b BGG). Bei der Prüfung wendet das Bundesgericht das Recht von Amtes wegen an (<ref-law>), wobei es unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und 2 BGG) grundsätzlich nur die geltend gemachten Rechtsverletzungen prüft, sofern rechtliche Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.5 S. 144). In Bezug auf die Verletzung von Grundrechten gilt eine qualifizierte Rüge- und Substanziierungspflicht (<ref-law>; <ref-ruling> E. 2.2 S. 232; <ref-ruling> E. 2.5 S. 314). Aufgrund der Rechtsanwendung von Amtes wegen ist das Bundesgericht weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann die Beschwerde aus einem anderen als dem angerufenen Grund gutheissen oder sie mit einer vom angefochtenen Urteil abweichenden Begründung abweisen (Motivsubstitution; <ref-ruling> E. 3.1 S. 355 f.; <ref-ruling> E. 3 S. 415).
2.2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Eine Berichtigung oder Ergänzung der vorinstanzlichen Sachverhaltsfeststellungen ist von Amtes wegen (<ref-law>) oder auf Rüge hin (<ref-law>) möglich. Von den tatsächlichen Grundlagen des vorinstanzlichen Urteils weicht das Bundesgericht jedoch nur ab, wenn diese offensichtlich unrichtig, sprich willkürlich sind oder auf einer Rechtsverletzung im Sinne von <ref-law> beruhen und die Behebung des Mangels für den Verfahrensausgang entscheidend sein kann (<ref-law>; <ref-ruling> E. 1.6 S. 144 f.).
3.
3.1. Der Beschwerdeführer rügt eine Verletzung des Verbots der interkantonalen Doppelbesteuerung gemäss <ref-law>. Letztere liegt insbesondere vor, wenn eine steuerpflichtige Person von zwei oder mehreren Kantonen für das gleiche Steuerobjekt und für die gleiche Zeit zu Steuern herangezogen wird (aktuelle Doppelbesteuerung; <ref-ruling> E. 2.1 S. 306 f.; Urteil 2C_655/2016 vom 17. Juli 2017 E. 2.1).
3.2. Vorliegend ist durch die Besteuerung der Kantone Basel-Stadt und Solothurn in Bezug auf den Beschwerdeführer als Steuerpflichtigen das gleiche Steuerobjekt (Einkommen und Vermögen) und dieselbe Zeit (Steuerperiode 2015) betroffen, weshalb eine aktuelle Doppelbesteuerung vorliegt.
3.3. Nach der Rechtsprechung verwirkt der Steuerpflichtige sein Beschwerderecht bzw. das Recht zur Anfechtung der (rechtskräftigen) kantonalen Veranlagung, wenn er seine dortige Steuerpflicht in Kenntnis des kollidierenden Steueranspruchs eines anderen Kantons vorbehaltlos anerkennt, z. B. wenn er sich der Veranlagung ausdrücklich oder stillschweigend unterwirft oder wenn er im Veranlagungsverfahren seiner Mitwirkungspflicht nicht nachkommt, indem er beispielsweise die verlangte Steuererklärung nicht einreicht, sodass zur Ermessensveranlagung geschritten werden muss (<ref-ruling> E. 3.3.3 S. 278 f.; <ref-ruling> E. 2d S. 267; Urteile 2C_592/2018 vom 1. Oktober 2019 E. 6.1; 2C_655/2016 vom 17. Juli 2017 E. 2.3.2; 2C_396/2011 vom 26. April 2012 E. 3.2.2; 2C_27/2009 vom 9. Juli 2009 E. 1.2). Die Verwirkung wird vom Bundesgericht jedoch nicht von Amtes wegen berücksichtigt, sondern muss vom betroffenen Kanton oder der betroffenen Behörde geltend gemacht werden (<ref-ruling> E. 3.3.3 S. 278 f.; Urteile 2C_396/2011 vom 26. April 2012 E. 3.2.2 mit Hinweisen; 2C_27/2009 vom 9. Juli 2009 E. 1.2).
Die Steuerverwaltung BS hat vorliegend auf eine Vernehmlassung und damit auf die Geltendmachung der Verwirkung des Beschwerderechts verzichtet.
3.4. Der Beschwerdeführer macht geltend, er sei von einem Fehler der Steuerverwaltung BS ausgegangen, weshalb er im Kanton Basel-Stadt keine Steuererklärung eingereicht habe. Vor U._ sei er in V._ wohnhaft gewesen. Die Steuerverwaltung BS habe den massgebenden Sachverhalt im Veranlagungsverfahren unrichtig festgestellt und es sei ihre Pflicht gewesen, seine steuerliche Zugehörigkeit im Kanton Basel-Stadt festzustellen und zu beweisen. Die unbeschränkte Steuerpflicht im Kanton Solothurn wird vom Beschwerdeführer dagegen ausdrücklich anerkannt. Er sei am 31. Dezember 2015 in U._ mit der Absicht dauernden Verbleibs wohnhaft gewesen.
3.5. Dem Beschwerdeführer ist entgegen zu halten, dass die Steuerverwaltung BS sehr wohl die nötigen Schritte unternommen hat, um seine steuerliche Zugehörigkeit abzuklären, indem sie ihn mehrmals erfolglos aufgefordert hatte, einen entsprechenden Fragebogen auszufüllen und schliesslich die unbeschränkte Steuerpflicht im Kanton Basel-Stadt mittels Domizilverfügung festgestellt hat. Aufgrund letzterer musste der Beschwerdeführer davon ausgehen, dass er vom Kanton Basel-Stadt für die Steuerperiode 2015 als unbeschränkt Steuerpflichtiger betrachtet und demzufolge auch besteuert werden würde. Jedenfalls wäre es ihm, sollte er in der Steuerperiode 2015 zunächst Wohnsitz in V._ gehabt haben, problemlos möglich gewesen, die Steuerverwaltung BS über diesen Umstand aufzuklären. Auch über die Wohnsitznahme in U._ hätte er die Steuerverwaltung BS informieren können. Zudem verhält sich der Beschwerdeführer widersprüchlich, wenn er einerseits aufgrund seines Wohnsitzes in U._ ausführt, er sei von einem Fehler der Basler Behörden ausgegangen und die steuerliche Zugehörigkeit im Kanton Solothurn für die Steuerperiode 2015 anerkennt, andererseits aber auch im Kanton Solothurn sämtliche Aufforderungen zur Einreichung der Steuererklärung für diese Steuerperiode ignoriert hat. Aufgrund der genannten Umstände musste der Beschwerdeführer vorliegend von einem kollidierenden Steueranspruch des Kantons Basel-Stadt ausgehen und hat zudem seine (jedenfalls nach rechtskräftiger Domizilverfügung entstandene) Mitwirkungspflicht im Kanton Basel-Stadt mehrfach verletzt.
3.6. An sich hat der Beschwerdeführer durch sein Verhalten mehrere Gründe für die Verwirkung seines Beschwerderechts vor Bundesgericht gegenüber den an sich rechtskräftigen Veranlagungsverfügungen der Steuerverwaltung BS sowie gegenüber dem angefochtenen Urteil gesetzt. Der Kanton Basel-Stadt, vertreten durch die Steuerverwaltung BS, hat jedoch auf eine Geltendmachung der Verwirkung verzichtet. Trotz der genannten Gründe, welche auch ein treuwidriges Verhalten dokumentieren, ist rechtsprechungsgemäss in jedem Fall die Geltendmachung der Verwirkung des Beschwerderechts (des Steuerpflichtigen) durch zumindest einen der betroffenen Kantone erforderlich, andernfalls das Beschwerderecht nicht untergeht (vgl. Urteile 2C_592/2018 vom 1. Oktober 2019 E. 6 und 6.6; 2C_539/2017 vom 7. Februar 2019 E. 5.1; 2C_655/2016 vom 17. Juli 2017 E. 2.2). Aufgrund der bestehenden, aktuellen Doppelbesteuerung und der fehlenden Geltendmachung der Verwirkung seines Beschwerderechts dringt der Beschwerdeführer mit seiner Beschwerde durch.
4.
4.1. Da der Beschwerdeführer am Ende der Steuerperiode 2015 unbestrittenermassen ausschliesslich im Kanton Solothurn wohnhaft war, lag sein Steuerdomizil für die genannte Steuerperiode im Kanton Solothurn. Die Beschwerde ist demzufolge gutzuheissen, soweit sie sich gegen den Kanton Basel-Stadt richtet und darauf einzutreten ist. Demgegenüber ist sie abzuweisen, soweit sie sich gegen den Kanton Solothurn wendet und darauf einzutreten ist. Der Einspracheentscheid der Steuerverwaltung BS vom 13. Februar 2017 ist deshalb aufzuheben und der Kanton Basel-Stadt wird angewiesen, dem Beschwerdeführer allenfalls bereits für die Steuerperiode 2015 bezahlte Steuern (Kantonssteuern und direkte Bundessteuer) zurück zu erstatten.
4.2. Die Gerichtskosten für das bundesgerichtliche Verfahren werden in der Regel der unterliegenden Partei auferlegt (Art. 65 und Art. 66 Abs. 1 Satz 1 BGG). Wenn die Umstände es rechtfertigen, kann das Bundesgericht die Kosten anders verteilen oder darauf verzichten, Kosten zu erheben (<ref-law>). Der Beschwerdeführer obsiegt vorliegend im Hauptantrag. Angesichts seines Verhaltens rechtfertigt es sich freilich, ihm die Hälfte der Gerichtskosten aufzuerlegen (vgl. Urteil 2C_639/2017 vom 21. Dezember 2017 E. 2). Die andere Hälfte der Gerichtskosten ist dem Kanton Basel-Stadt, welcher im Hauptantrag unterlegen ist und vorliegend vermögensrechtliche Interessen verfolgt, aufzuerlegen (Art. 66 Abs. 1 und 4 BGG). Aus denselben Überlegungen hat der Kanton Basel-Stadt dem Beschwerdeführer lediglich eine reduzierte Parteienschädigung auszurichten (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gegenüber dem Kanton Basel-Stadt gutgeheissen, soweit darauf einzutreten ist.
2.
Der Einspracheentscheid der Steuerverwaltung des Kantons Basel-Stadt vom 13. Februar 2017 wird aufgehoben und der Kanton Basel-Stadt wird angewiesen, dem Beschwerdeführer allenfalls bereits für die Steuerperiode 2015 bezahlte Steuern (Kantonssteuern und direkte Bundessteuer) zurück zu erstatten.
3.
Gegenüber dem Kanton Solothurn wird die Beschwerde abgewiesen, soweit darauf einzutreten ist.
4.
Die Gerichtskosten für das bundesgerichtliche Verfahren von Fr. 2'000.-- werden je zur Hälfte dem Beschwerdeführer und dem Kanton Basel-Stadt auferlegt.
5.
Der Kanton Basel-Stadt hat dem Beschwerdeführer eine Parteientschädigung von Fr. 1'000.-- auszurichten.
6.
Dieses Urteil wird den Verfahrensbeteiligten, dem Kantonalen Steuergericht Solothurn und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 1. Mai 2020
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Der Gerichtsschreiber: Quinto