Sachverhalt:
A.
A._ ist Inhaber des Einzelunternehmens "X._", welches am 30. November 2004 im Handelsregister eingetragen worden war. Zweck des Einzelunternehmens ist die "Unabhängige Vermögensverwaltung".
B.
Mit Einspracheentscheid vom 20. Oktober 2014 setzte die Steuerkommission/Verwaltung für die direkte Bundessteuer des Kantons Schwyz die Steuern von A._ wie folgt fest:
Kantons- und Gemeindesteuern Direkte Bundessteuer 2010 Einkommen: Fr. 964'600.-- Vermögen: Fr. 0.-- Einkommen: Fr. 969'900.-- 2011 Einkommen: Fr. 62'400.-- Vermögen: Fr. 0.-- Einkommen: Fr. 1'116'300.--
Die gegen die Veranlagung erhobene Beschwerde wies das Verwaltungsgericht des Kantons Schwyz am 17. Dezember 2015 ab.
C.
A._ erhebt am 9. Februar 2016 zwei gleichlautende Beschwerden in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht mit den Anträgen, den angefochtenen Entscheid aufzuheben und die kantonale Steuerverwaltung anzuweisen, in der Steuerveranlagung 2011 sowohl für die direkte Bundessteuer als auch für die kantonalen Einkommenssteuern einen Kapitalverlust von Fr. 750'000.-- auf der Beteiligung der Y._ AG zu berücksichtigen; zudem sei die interkantonale Steuerausscheidung für das Steuerjahr 2011 entsprechend anzupassen.
Das Verwaltungsgericht und die Eidgenössische Steuerverwaltung verzichten auf Vernehmlassung. Die Steuerkommission/Verwaltung für die direkte Bundessteuer schliesst auf Abweisung der Beschwerden.
Erwägungen:
1.
1.1. Gegen die angefochtenen Urteile ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig (Art. 82 lit. a BGG i.V.m. Art. 146 DBG [SR 642.11] und Art. 73 Abs. 1 des Bundesgesetzes vom 14. Dezember 1990 über die Harmonisierung der direkten Steuern der Kantone und Gemeinden [StHG; SR 642.14], Art. 86 Abs. 1 lit. d BGG, Art. 90 BGG). Der Beschwerdeführer ist als Steuerpflichtiger zur Erhebung der Rechtsmittel legitimiert (Art. 89 Abs. 1 BGG und Art. 73 Abs. 2 StHG). Auf die frist- (Art. 100 Abs. 1 BGG) und formgerecht (Art. 42 BGG) eingereichten Beschwerden ist einzutreten, soweit damit die Aufhebung der angefochtenen Urteile und die Korrektur der Veranlagung verlangt wird. Der Antrag, die interkantonale Steuerausscheidung 2011 sei anzupassen, ist akzessorisch zum Hauptantrag, weshalb sich eine separate Behandlung erübrigt.
1.2. Stehen - wie hier - sowohl die direkte Bundessteuer als auch die Kantons- und Gemeindesteuern zur Diskussion, so hat das Verwaltungsgericht grundsätzlich zwei Entscheide zu fällen, wobei beide im gleichen Akt ergehen können (vgl. BGE 135 II 260 E. 1.3.1 S. 262). Die steuerpflichtige Person hat ihrerseits grundsätzlich zwei Beschwerden an das Bundesgericht einzureichen, welche wiederum in der gleichen Rechtsschrift enthalten sein können.
Die Vorinstanz hat die direkte Bundessteuer und die Kantons- und Gemeindesteuern im gleichen Akt behandelt, so dass zwei gleichlautende Entscheide vorliegen. Diese hat der Beschwerdeführer korrekt angefochten mit zwei gleichlautenden Beschwerden, welche sowohl die direkte Bundessteuer als auch die Kantons- und Gemeindesteuern betreffen. Das Bundesgericht hat dementsprechend zwei Dossiers angelegt. Da beide Steuerarten auf demselben Sachverhalt beruhen und sich dieselben Rechtsfragen stellen, sind die beiden Verfahren zu vereinigen und die Beschwerden in einem einzigen Urteil zu erledigen (Art. 71 BGG in Verbindung mit Art. 24 BZP; BGE 131 V 59 E. 1 S. 60 f. mit Hinweis, vgl. auch Urteil 2C_182/2014 vom 26. Juli 2014 E. 1).
2.
2.1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 und Art. 96 BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden (BGE 139 II 404 E. 3 S. 415).
2.2. Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinn von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (BGE 140 III 115 E. 2). Die beschwerdeführende Partei kann die Feststellung des Sachverhalts unter den gleichen Voraussetzungen beanstanden, wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG).
I. Direkte Bundessteuer
3.
3.1. Im Verfahren vor der Vorinstanz waren die Veranlagungen betreffend die Steuerjahre 2010 und 2011 zu überprüfen. Unter dem Titel "Kapitalverlust" beantragt der Beschwerdeführer, bei der Einkommenssteuer für das Steuerjahr 2011 einen Abzug von Fr. 750'000.-- zu berücksichtigen. Die Veranlagung für das Steuerjahr 2010 ficht er nicht mehr an. Streitig ist somit einzig die Frage, ob für die Steuerperiode 2011 ein Wertverlust im Umfang von Fr. 750'000.-- auf der Beteiligung an der Y._ AG zu berücksichtigen ist.
3.2. Im Unterschied zur Verwaltung für die direkte Bundessteuer qualifizierte die Vorinstanz nicht nur die Tätigkeit des Beschwerdeführers als Vermögensverwalter im Rahmen der Einzelfirma, sondern auch dessen Tätigkeit als Investor ("Private Equity") als selbständige Erwerbstätigkeit. Sie erwog, Direktinvestitionen seien insbesondere im Private Equity-Bereich mit grossen Risiken verbunden und brächten einen erheblichen Betreuungsaufwand mit sich. Dies dürfte regelmässig über die schlichte Verwaltung von Privatvermögen hinausgehen und die Voraussetzungen einer selbständigen Erwerbstätigkeit erfüllen. Privatanleger würden kaum in Private Equity investieren. Im vorliegenden Fall könnten die Investitionen im Private Equity-Bereich auch als sinnvolle Ergänzung des ursprünglichen Geschäftsbereichs der Vermögensverwaltung betrachtet werden. Für die Zuordnung zum Geschäftsvermögen spreche das vom Beschwerdeführer verfolgte Geschäftsmodell, parallel zu seinem eigenen Engagement im Private Equity-Bereich weitere Investoren für die Anlage im Private Equity-Bereich gewinnen zu können. Damit eröffne sich das Potenzial, den Geschäftsbereich der Vermögensverwaltung auszudehnen und das Geschäftsergebnis im Bereich der Vermögensverwaltung zu verbessern. Schliesslich würden der enge Konnex zur beruflichen Tätigkeit und die speziellen Fachkenntnisse des Beschwerdeführers auf einen gewerbsmässigen Quasi-Wertschriftenhandel schliessen lassen. Auch die Tatsache, dass den Direktinvestitionen im Private Equity-Bereich vertiefte Abklärungen vorausgingen und es sich um risikoreiche Anlagen mit hohen Beträgen handle, deute auf ein gewerbsmässiges Vorgehen hin.
Diese Einschätzung ist nicht zu beanstanden. Die Zulässigkeit des Abzugs von Fr. 750'00.-- von der Einkommenssteuer 2011 ist somit im Licht der Bestimmungen über die selbständige Erwerbstätigkeit zu beurteilen.
3.3. Der Einkommenssteuer unterliegen alle wiederkehrenden und einmaligen Einkünfte (Art. 16 Abs. 1 DBG). Steuerbar sind alle Einkünfte aus einem Handels-, Industrie-, Gewerbe-, Land- und Forstwirtschaftsbetrieb, aus einem freien Beruf sowie aus jeder anderen selbständigen Erwerbstätigkeit (Art. 18 Abs. 1 DBG). Bei selbständiger Erwerbstätigkeit werden die geschäfts- oder berufsmässig begründeten Kosten abgezogen (Art. 27 Abs. 1 DBG). Dazu gehören insbesondere die Abschreibungen und Rückstellungen nach Art. 28 und 29 DBG (Art. 27 Abs. 2 lit. a DBG) und die eingetretenen und verbuchten Verluste auf Geschäftsvermögen (Art. 27 Abs. 2 lit. b DBG). Abschreibungen sind Aufwand, weshalb sie sich auf die Erfolgsrechnung auswirken. Wirtschaftsgüter des Anlagevermögens, die der Abnutzung unterliegen, müssen planmässig abgeschrieben werden (aus steuerlicher Sicht vgl. Art. 28 Abs. 2 DBG). Kommt es dagegen zu einer unvorhergesehenen, erheblichen Wertbeeinträchtigung (Impairment), so kann im gleichen Jahr eine ausserplanmässige Abschreibung nötig sein, sofern das Wirtschaftsgut des Anlagevermögens ohne diese zu hoch bewertet wäre (Vorsichtsprinzip, Art. 958c Abs. 1 Ziff. 5 und Art. 960 Abs. 2 OR). Dies erfolgt durch eine Wertberichtigung gemäss Art. 960 Abs. 3 OR (vgl. zum Ganzen Urteil 2C_142/2012 vom 12. Dezember 2013 E. 2.4).
3.4. Der Beschwerdeführer erwarb am 20. April 2010 eine Beteiligung an der Y._ AG für Fr. 1 Mio. und aktivierte diese in der Bilanz seiner Einzelunternehmung. In der Jahresrechnung 2010 nahm er auf dieser Beteiligung eine Wertberichtigung im Umfang von Fr. 750'000.-- vor. Am 5. Dezember 2011 veräusserte er die Beteiligung zum Preis von insgesamt Fr. 250'000.-- an die Z._ AG.
Entgegen der Deklaration des Beschwerdeführers wurde die Wertberichtigung von Fr. 750'000.-- in der Veranlagung 2010 nicht zum Abzug von der Einkommenssteuer zugelassen. Im Einspracheentscheid vom 20. Oktober 2014 hielt die Verwaltung für die direkte Bundessteuer daran fest mit der Begründung, die Beteiligung an der Y._ AG befinde sich im Privatvermögen des Beschwerdeführers, so dass eine Wertberichtigung ausgeschlossen sei. Demgegenüber qualifizierte die Vorinstanz, wie in E. 3.2 dargelegt, die Beteiligung an der Y._ AG als dem Geschäftsvermögen zugehörig. Die geltend gemachte Wertberichtigung um Fr. 750'000.-- auf der Beteiligung liess sie jedoch nicht zu, weil der Beschwerdeführer nicht rechtsgenüglich belegt habe, inwiefern die Wertberichtigung geschäftsmässig begründet gewesen sei. Der Nachweis lasse sich auch durch den Umstand, dass der Beschwerdeführer die Beteiligung am 5. Dezember 2011 zum Preis von insgesamt Fr. 250'000.-- an die Z._ AG verkauft habe, per Stichtag 31. Dezember 2010 nicht rechtsgenüglich erbringen.
3.5. Die Entscheidung der Vorinstanz, die Wertberichtigung von Fr. 750'000.-- auf der Beteiligung an der Y._ AG im Steuerjahr 2010 nicht zum Abzug zuzulassen, hat eine Abweichung der steuerlich relevanten Abschlusszahlen gegenüber dem handelsrechtlichen Abschluss zur Folge. Um diese Abweichung festzuhalten, hat die Steuerbehörde eine Steuerbilanz zu führen. Darin ist die fragliche Beteiligung weiterhin - also über das Jahr 2010 hinaus - mit Fr. 1 Mio. eingebucht, während der entsprechende Wert in der Handelsbilanz nur noch Fr. 250'000.-- beträgt.
Wird nun die Beteiligung in einem späteren Jahr veräussert, so hat dies zur Folge, dass handelsrechtlich die Beteiligung ausgebucht wird (Bank/Beteiligung bzw. - vorliegend nicht relevant - allenfalls zusätzlich eine erfolgswirksame Buchung der Differenz Verkaufspreis/Buchwert). Steuerlich wird eine analoge Buchung (Bank/Beteiligung) im gleichen Betrag vorgenommen. Im vorliegenden Fall wurde die Beteiligung zum - handelsrechtlichen - Buchwert von Fr. 250'000.-- veräussert. Da jedoch der Wert der Beteiligung in der Steuerbilanz Fr. 1 Mio. betrug, verblieb - steuerrechtlich - ein Saldo von Fr. 750'000.--. Nachdem die Beteiligung im Jahr 2011 veräussert worden ist, muss dieser Saldo ausgebucht werden (ausserordentlicher Aufwand/Beteiligung Fr. 750'000.--).
3.6. Der Beschwerdeführer hatte vor der Vorinstanz die Veranlagungen für die Steuerjahre 2010 und 2011 angefochten. Somit hätte die Vorinstanz die Korrektur in der Steuerbilanz des Jahres 2011 vornehmen und den Abzug von Fr. 750'000.-- zulassen müssen.
4.
Aus dem Gesagten ergibt sich, dass die Beschwerde betreffend die direkte Bundessteuer 2011 gutzuheissen und das angefochtene Urteil aufzuheben ist. Die Sache ist zur Neuberechnung der Steuer unter Gewährung des Abzugs von Fr. 750'000.-- von der Einkommenssteuer an die Vorinstanz zurückzuweisen.
II. Kantons- und Gemeindesteuern
5.
Die massgeblichen Bestimmungen des kantonalen Rechts zu den Einkommenssteuern und Abzügen bei selbständiger Erwerbstätigkeit entsprechen den in E. 3.3 zitierten bundesrechtlichen Bestimmungen. Es sind § 17 Abs. 1 des Steuergesetzes des Kantons Schwyz vom 9. Februar 2000 (StG/SZ; SRSZ 172.200), § 19 Abs. 1 StG/SZ sowie § 29 Abs. 1 und Abs. 2 lit. b StG/SZ. Gestützt auf diese Bestimmungen kann vollumfänglich auf die Erwägungen zur direkten Bundessteuer verwiesen werden. Dementsprechend ist die Beschwerde betreffend die Kantons- und Gemeindesteuern 2011 gutzuheissen und das angefochtene Urteil aufzuheben. Die Sache ist zur Neuberechnung der Steuer unter Gewährung des Abzugs von Fr. 750'000.-- von der Einkommenssteuer an die Vorinstanz zurückzuweisen.
III. Kosten und Entschädigung
6.
Dem Verfahrensausgang entsprechend sind die Gerichtskosten von Fr. 6'000.-- dem unterliegenden Kanton Schwyz, um dessen Vermögensinteresse es geht, aufzuerlegen (Art. 66 Abs. 1 und 4 BGG). Der Kanton Schwyz hat den Beschwerdeführer für das bundesgerichtliche Verfahren angemessen zu entschädigen (Art. 68 Abs. 2 BGG). Die Sache ist zur Neuberechnung der Steuern sowie zur Neuverlegung der Kosten- und Entschädigungsfolgen im kantonalen Verfahren an die Vorinstanz zurückzuweisen (Art. 68 Abs. 5 BGG).
Demnach erkennt das Bundesgericht:
1.
Die Verfahren 2C_141/2016 und 2C_142/2016 werden vereinigt.
2.
Die Beschwerde betreffend die direkte Bundessteuer 2011 wird gutgeheissen. Der Entscheid des Verwaltungsgerichts des Kantons Schwyz vom 17. Dezember 2015 wird aufgehoben. Die Sache wird zur Neuberechnung der Steuer sowie zur Neuverlegung der Kosten und der Parteientschädigung des kantonalen Verfahrens an das Verwaltungsgericht des Kantons Schwyz zurückgewiesen.
3.
Die Beschwerde betreffend die Kantons- und Gemeindesteuern 2011 wird gutgeheissen. Der Entscheid des Verwaltungsgerichts des Kantons Schwyz vom 17. Dezember 2015 wird aufgehoben. Die Sache wird zur Neuberechnung der Steuer sowie zur Neuverlegung der Kosten und der Parteientschädigung des kantonalen Verfahrens an das Verwaltungsgericht des Kantons Schwyz zurückgewiesen.
4.
Die Gerichtskosten von Fr. 6'000.-- werden dem Kanton Schwyz auferlegt.
5.
Der Kanton Schwyz hat dem Beschwerdeführer für das Verfahren vor dem Bundesgericht eine Parteientschädigung von Fr. 2'500.-- zu bezahlen.
6.
Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Schwyz, Kammer II, und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 13. Oktober 2016
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Die Gerichtsschreiberin: Genner