Sachverhalt:
A.
A._ deklarierte in seiner Steuererklärung 2011 vom 30. Oktober 2012 für die Staats- und Gemeindesteuern ein steuerbares Einkommen von Fr. 78'509.-- und ein steuerbares Vermögen von Fr. 0.-- (deklariert minus Fr. 42'222.--) sowie für die direkte Bundessteuer ein steuerbares Einkommen von Fr. 79'309.--. Mit Veranlagungsverfügung vom 18. März 2013 bestätigte die Veranlagungsbehörde Olten-Gösgen die deklarierten Faktoren (mit kleinen Rundungsdifferenzen), wobei sie immerhin in Ziffer 28.1 der Steuererklärung (Wertschriften und Guthaben) den Vermögenssteuerwert aufgrund des gewichteten Mittels aus Substanz- und Verkehrswert zu Gunsten des Steuerpflichtigen auf Fr. 4'679.-- reduzierte (deklariert Fr. 9'358.--). Diese Korrektur wirkte sich auf die Veranlagung nicht aus (steuerbares Vermögen Fr. 0.--).
Hiergegen erhob der Steuerpflichtige mit Eingabe vom 1. April 2013 Einsprache mit folgendem Wortlaut:
"Grund: Der Betrag unter Ziffer 28.1 wurde halbiert; grundlos.
Mit der Steuererklärung 2011 wurde eine Grundstückgewinnsteuererklärung eingereicht, die noch nicht veranlagt ist."
Mit Einspracheentscheid vom 14. Mai 2013 trat die Veranlagungsbehörde auf die Einsprache nicht ein, weil der Einsprecher hinsichtlich der Vermögenssteuerveranlagung nicht beschwert sei (Nullveranlagung) und die Einkommenssteuerveranlagungen nicht bestritten würden. Die Grundstückgewinnsteuer sei eine Sondersteuer, die separat veranlagt werde und keinen Einfluss auf die Veranlagung der Einkommens- und Vermögenssteuer habe.
B.
Mit Rekurs (Staats- und Gemeindesteuer) und Beschwerde (direkte Bundessteuer) an das Steuergericht des Kantons Solothurn machte der Steuerpflichtige neu den Abzug von Hypothekarzinsen im Umfang von Fr. 35'109.-- geltend. Mit Urteil vom 9. Dezember 2013 wies das Gericht Rekurs und Beschwerde ab. Es erwog, neue Anträge seien zwar grundsätzlich zulässig, doch sei vorliegend eine materielle Prüfung der Veranlagung nicht möglich, nachdem die Vorinstanz einen Nichteintretensentscheid gefällt habe. Das Steuergericht könne nur prüfen, ob die Einsprachebehörde zu Recht einen Nichteintretensentscheid gefällt habe, was es bejahte.
C.
Gegen dieses Urteil führt der Steuerpflichtige in getrennten Eingaben Beschwerde in öffentlich-rechtlichen Angelegenheiten für die Staatssteuer und die direkte Bundessteuer. Er beantragt, das Urteil des Steuergerichts des Kantons Solothurn vom 9. Dezember 2013 sei aufzuheben und die Sache zur materiellen Beurteilung an die Vorinstanz zurückzuweisen. Zudem beantragt er, es sei der Beschwerde aufschiebende Wirkung zu erteilen.
Das Bundesgericht holte ohne Ansetzung einer Vernehmlassungsfrist die kantonalen Akten ein.

Erwägungen:
1.
1.1. Angefochten ist der Entscheid des Steuergerichts des Kantons Solothurn in einer Angelegenheit des öffentlichen Rechts, die unter keinen Ausschlussgrund gemäss Art. 83 BGG fällt und daher mit Beschwerde an das Bundesgericht weitergezogen werden kann (Art. 82 lit. a BGG in Verbindung mit Art. 146 des Bundesgesetzes vom 14. Dezember 1990 über die direkte Bundessteuer [DBG, SR 642.11] bzw. Art. 73 des Bundesgesetzes vom 14. Dezember 1990 über die Harmonisierung der direkten Steuern der Kantone und Gemeinden [StHG, SR 642.14]). Der Beschwerdeführer ist durch den Entscheid des kantonalen Steuergerichts, welches den Einspracheentscheid (Nichteintretensentscheid) der Veranlagungsbehörde bestätigte, berührt und gestützt auf Art. 89 Abs. 1 BGG zur Beschwerde in öffentlich-rechtlichen Angelegenheiten legitimiert; auf die frist- und formgerecht eingereichten Beschwerden ist einzutreten.
1.2. Die Vorinstanz hat über die direkte Bundessteuer und die kantonalen direkten Steuern im gleichen Urteil befunden, was zulässig ist, soweit zwischen den beiden Steuern klar unterschieden werden kann. Der Beschwerdeführer seinerseits hat separate Beschwerden eingereicht. Das Bundesgericht seinerseits eröffnet regelmässig zwei Verfahren, wenn sowohl die kantonalen Steuern wie auch die direkte Bundessteuer streitig sind. Es behält sich aber vor, die beiden Verfahren zu vereinigen und im gleichen Urteil zu behandeln. Das rechtfertigt sich auch hier. Es geht um den gleichen Steuersachverhalt und die gleiche Rechtsfrage (vgl. Art. 71 BGG i.V.m. Art. 24 BZP; <ref-ruling> E. 1.2 S. 465, 59 E. 1 S. 60 f.; Urteil 2C_309/2013, 2C_310/2013 vom 18. September 2013 E. 1.2).
1.3. Mit der Beschwerde können Rechtsverletzungen nach Art. 95 und 96 BGG geltend gemacht werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Die Verletzung von Grundrechten und von kantonalem Recht untersucht es in jedem Fall nur insoweit, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG; zum Ganzen <ref-ruling> E. 1.6 S. 280 f.; <ref-ruling> E. 2.2.1 S. 389; <ref-ruling> E. 1.4 S. 400; <ref-ruling> E. 1.4.1 f. S. 254). Harmonisiertes kantonales Recht prüft das Bundesgericht gleich wie Bundesrecht mit freier Kognition. In den Bereichen, in denen das Steuerharmonisierungsgesetz den Kantonen einen gewissen Gestaltungsspielraum belässt oder keine Anwendung findet, beschränkt sich die Kognition des Bundesgerichts auf die Verletzung verfassungsmässiger Rechte und auf Willkür (<ref-ruling> E. 2 S. 210; <ref-ruling> E. 3.1 S. 205 f.; Urteil 2C_95/2013, 2C_96/2013 vom 21. August 2013 E. 1.6, in: StE 2013 B 22.2 Nr. 28).
2.
Angefochten war bei der Vorinstanz ein Nichteintretensentscheid der Einsprachebehörde. Die Vorinstanz hatte daher nur zu prüfen, ob diese aus zureichenden Gründen auf die Einsprache nicht eingetreten war. Lagen keine genügenden Gründe für ein Nichteintreten vor, so hätte die Vorinstanz Rekurs und Beschwerde gutheissen, den Einspracheentscheid aufheben und die Angelegenheit zur materiellen Prüfung der Einsprache an die Veranlagungsbehörde zurückweisen müssen. Erging hingegen der Nichteintretensentscheid der Veranlagungsbehörde zu Recht, bedeutete dies, dass Rekurs und Beschwerde unbegründet und daher abzuweisen waren, ohne dass die materiellen Rügen betreffend die Veranlagung zu prüfen waren. Genau nach diesem Prüfungsprogramm ist die Vorinstanz vorgegangen. Der Verfahrensgegenstand ist somit einstweilen beschränkt auf die Frage des Nichteintretens auf die Einsprache. Das gilt auch für das bundesgerichtliche Verfahren. Der Beschwerdeführer verkennt dies offensichtlich, wenn er ausführen lässt, die Vorinstanz hätte dennoch die Veranlagung materiell prüfen und den Abzug der Hypothekarzinsen zulassen oder anordnen oder mindestens prüfen müssen (Rügen der Verletzung des Anspruch auf rechtliches Gehör und des überspitzten Formalismus, Verletzung von Besteuerungsgrundsätzen, vgl. Beschwerde Rz. 8, 9, 20, 37 f. u.a.). Dies war nicht Verfahrensgegenstand des vorinstanzlichen Verfahrens. Der Streitgegenstand kann vor Bundesgericht nicht ausgedehnt, sondern nur eingeschränkt werden. Aus diesem Grund zielen auch die Ausführungen des Beschwerdeführers zum Recht auf neue Anträge und Noven und zur Abzugsfähigkeit von Hypothekarzinsen am vorliegend beschränkten Verfahrensgegenstand vorbei und sind unbeachtlich. Das betrifft im Wesentlichen den Abschnitt D der vorliegenden Beschwerde.
I. Direkte Bundessteuer
3.
3.1. Gemäss Art. 132 Abs. 1 DBG ist die Einsprache gegen die Veranlagungsverfügung innert 30 Tagen nach Zustellung bei der Veranlagungsbehörde schriftlich zu erheben. Im Übrigen ist die Einsprache an keine Form gebunden. Insbesondere braucht sie keinen Antrag mehr zu enthalten. Da die Eröffnung der Veranlagung durch die Steuerverwaltung im geltenden Recht nicht mehr "kurz zu begründen" ist (so noch Art. 95 des Bundesratsbeschlusses vom 9. Dezember 1940 über die direkte Bundessteuer [Wehrsteuer], BdBSt; BS 6 350), sondern nur noch die "Abweichungen von der Steuererklärung" nennen muss (Art. 131 Abs. 2 DBG), erübrigen sich auch eine Begründung und ein Antrag in der Einsprache (Botschaft vom 25. Mai 1983 zum Bundesgesetz über die Harmonisierung der direkten Steuern der Kantone und Gemeinden sowie über die direkte Bundessteuer, BBl 1983 III 1 S. 210 f. ad Art. 136 E-DBG; <ref-ruling> E. 3). Immerhin muss aber der Einsprachewille aus der schriftlichen Eingabe ausdrücklich oder sinngemäss hervorgehen (Urteile 2C_80/2012 vom 16. Januar 2013 E. 4.3; Hugo Casanova, in: Commentaire romand, Impôt fédéral direct, 2008, N. 18 zu Art. 132 DBG; Martin Zweifel, in: Kommentar zum schweizerischen Steuerrecht, Bd. I/2b, 2008, N. 18 zu Art. 132 DBG).
Andere Regeln gelten für die Anfechtung einer Veranlagung nach pflichtgemässem Ermessen (Art. 130 Abs. 2, Art. 132 Abs. 3 DBG), doch liegt eine solche hier nicht vor.
3.2. Die Einsprache "mit Rechtsmittelcharakter" (zum Begriff, s. Regina Kiener, in: Kommentar zum Bundesgesetz über das Verwaltungsverfahren [VwVG], 2008, N. 5 zu Art. 55 VwVG), wie sie hier in Frage steht, setzt zudem, wie jedes Rechtsmittel, ein Rechtsschutzinteresse voraus, wobei die formelle Beschwer genügt. An einem solchen Rechtsschutzinteresse fehlt es praxisgemäss, wenn das Einkommen oder Vermögen auf Fr. 0.-- festgesetzt wird (Richner/Frei/Kaufmann/ Meuter, Handkommentar zum DBG, 2. Aufl. 2009, N. 15 zu Art. 132 DBG). Das gilt selbst dann, wenn sich eine Nullveranlagung beim Reingewinn aufgrund einer Verlustverrechnung ergibt und sich der Steuerpflichtige gegen die Berechnung des Verlustvortrages wendet, wie das Bundesgericht wiederholt erkannt hat (s. dazu Urteile 2C_91/2012 vom 17. August 2012 E. 1.3.3, in: StR 68/2013 S. 158; 2C_645/2011 vom 12. März 2012 E. 3.4, in: StR 67/2012 S. 436, StE 2012 B 72.19 Nr. 15, RDAF 2012 II S. 266; je mit weiteren Hinweisen). Ebenso fehlt das Rechtsschutzinteresse dann, wenn die Einsprache nicht erkennbar auf die Abänderung der in der Veranlagungsverfügung festgesetzten Steuerfaktoren (steuerbares Einkommen, steuerbares Vermögen), den Steuersatz oder die Steuerbeträge abzielt (Zweifel, a.a.O., N. 12 zu Art. 132 DBG). Ein schutzwürdiges Interesse besteht hingegen dann, wenn die Veranlagung der eingereichten Steuererklärung entspricht, der Steuerpflichtige sich aber in diesem Zeitpunkt eines Irrtums bei der Deklaration bewusst wird und diesen berichtigen möchte (Casanova, a.a.O., N. 16 zu Art. 132 DBG).
3.3. Vorliegend wurde der Beschwerdeführer entsprechend der eingereichten Steuererklärung mit einem für die direkte Bundessteuer massgebenden Einkommen von Fr. 79'309.-- eingeschätzt. Er erhob Einsprache mit der Begründung, dass der Betrag unter Ziffer 28.1, Wertschriften und Guthaben, der Steuererklärung ohne Grund um die Hälfte reduziert worden sei. Diese Ziffer bezieht sich auf die Vermögenssteuerwerte und damit auf die Vermögenssteuer und betrifft die direkte Bundessteuer nicht, welche bei den natürlichen Personen (nur) auf dem Einkommen erhoben wird. Zudem verwies der Beschwerdeführer in seiner Einsprache auf die Steuererklärung für die Grundstückgewinnsteuer, welche noch nicht veranlagt sei. Diese Steuererklärung betrifft eine andere Steuer und wird in einem separaten Veranlagungsverfahren erhoben.
Die Einsprache zielt damit nicht erkennbar auf die Einkommenssteuerveranlagung und damit auf die direkte Bundessteuer ab. Damit ist auch ein schutzwürdiges Interesse an der Abänderung der Veranlagung für die direkte Bundessteuer nicht nachgewiesen. Die Vorinstanz bestätigte im angefochtenen Urteil den Nichteintretensentscheid hinsichtlich der Bundessteuerveranlagung zu Recht. Die Beschwerde für die direkte Bundessteuer ist offensichtlich unbegründet.
II. Kantons- und Gemeindesteuern
4.
4.1. Art. 48 Abs. 1 StHG lautet wörtlich gleich wie Art. 132 Abs. 1 DBG. § 149 ff. des Gesetzes über die Staats- und Gemeindesteuern [des Kantons Solothurn] vom 1. Dezember 1985 (StG/SO) regelt die Einsprachevoraussetzungen grundsätzlich gleich wie bei der direkten Bundessteuer. Bezüglich Form und Inhalt der Einsprache sind somit kantonales und Bundesrecht harmonisiert, und kann das zur direkten Bundessteuer Gesagte (E. 3.1, 3.2 hiervor) auch Geltung für die Auslegung der kantonalen Vorschriften beanspruchen.
4.2. Vorliegend wurde der Beschwerdeführer für die Staats- und Gemeindessteuern mit einem Vermögen von Fr. 0.-- (Nullveranlagung) eingeschätzt. Der Einsprache gegen die Vermögenssteuerveranlagung fehlt es bereits aus diesem Grund an einem Rechtsschutzinteresse (E. 3.2 hiervor).
In Bezug auf die Einkommenssteuer liegt zwar keine Nullveranlagung vor, doch entspricht die Veranlagung vollumfänglich den deklarierten Faktoren und ergibt sich aus der Einsprache nicht, dass der Beschwerdeführer eine Abänderung der Veranlagung hinsichtlich der Einkommenssteuer anstrebte. Es fehlt damit auch hinsichtlich dieser Steuer an einem schutzwürdigen Interesse zur Abänderung dieser Veranlagung. Es kann diesbezüglich vollumfänglich auf das bei der direkten Bundessteuer Gesagte (vorn E. 3.2) verwiesen werden.
Die Beschwerde für die kantonalen Steuern erweist sich somit ebenfalls als unbegründet, soweit darauf einzutreten ist.
5.
Die Beschwerden sind nach dem Gesagten abzuweisen, soweit darauf einzutreten ist (E. 2 i.f. hiervor).
Mit dem Entscheid über die Beschwerden wird das Gesuch, es sei den Beschwerden die aufschiebende Wirkung zu erteilen, gegenstandslos.
Entsprechend dem Verfahrensausgang ist der Beschwerdeführer kostenpflichtig (Art. 65 und 66 BGG). Eine Parteientschädigung ist dem Kanton nicht zuzusprechen (Art. 68 Abs. 3 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Verfahren 2C_253/2014 und 2C_254/2014 werden vereinigt.
2.
Die Beschwerde für die direkte Bundessteuer wird abgewiesen.
3.
Die Beschwerde für die Staats- und Gemeindesteuern wird abgewiesen.
4.
Die Gerichtskosten von insgesamt Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
5.
Dieses Urteil wird den Parteien, dem Kantonalen Steuergericht Solothurn und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 11. Dezember 2014
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Wyssmann