Sachverhalt:
A.
A._, wohnhaft in Herrliberg/ZH, ist bei der KPMG AG als Partner und Steuerberater unselbständig erwerbstätig. Am 3. August 2004 stellte er namens seiner Arbeitgeberin eine Rulinganfrage an die Eidgenössische Steuerverwaltung (ESTV). Inhalt der Anfrage war unter anderem die steuerliche Behandlung von Schuldzinsen im Zusammenhang mit Investitionen in eine australische Limited Partnership ("X._") im Rahmen der direkten Bundessteuer. In der Anfrage wurde unter anderem beantragt, Schuldzinsen, welche die australische Limited Partnership an weitere Geldgeber bezahle, seien beim schweizerischen Investor innerhalb der Schranken von <ref-law> (SR 642.11) steuermindernd zu berücksichtigen. Am 4. August 2004 stimmte die ESTV dem Antrag zu.
B.
In den Steuererklärungen 2006 und 2007 deklarierte das Ehepaar A._ und B._ ein steuerbares Einkommen von Fr. 459'576.-- (2006) bzw. Fr. 544'450.-- (2007). Davon abweichend veranlagte das kantonale Steueramt die Pflichtigen für die direkte Bundessteuer am 5. März 2013 mit einem Einkommen von Fr. 506'100.-- (2006) bzw. Fr. 604'400.-- (2007). Dabei liess es insbesondere die von den Steuerpflichtigen im Zusammenhang mit einer Beteiligung an der australischen Limited Partnership steuermindernd geltend gemachten Schuldzinsen in der Höhe von Fr. 29'905.-- (2006) bzw. Fr. 52'051.-- (2007) nicht zum Abzug zu. Die hiergegen erhobene Einsprache wies das kantonale Steueramt am 23. April 2013 ab.
C.
Das Steuerrekursgericht des Kantons Zürich bestätigte mit Urteil vom 27. September 2013 diesen Entscheid.
Das Verwaltungsgericht des Kantons Zürich wies mit Urteil vom 2. April 2014 die von den Steuerpflichtigen dagegen erhobene Beschwerde ab. Es erwog, das am 3./4. August 2004 bei der Eidgenössischen Steuerverwaltung eingeholte "Ruling" sei für die kantonale Steuerbehörde, welche für die Veranlagung der direkten Bundessteuer zuständig sei, nicht bindend. Sodann sei die Abzugsfähigkeit der streitbetroffenen Schuldzinsen vom Bundesgericht in einem Parallelfall verneint worden.
D.
A._ und B._ erheben mit Eingabe vom 28. Mai 2014 Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht. Sie beantragen, der Schuldzinsenabzug in Höhe von Fr. 29'905.-- (2006) bzw. Fr. 52'051.-- (2007) sei zu gewähren.
Das Verwaltungsgericht und das Steueramt des Kantons Zürich sowie die Eidgenössische Steuerverwaltung beantragen, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. Die Beschwerdeführer halten mit Eingaben vom 25. September 2014 und 29. Oktober 2014 an ihrem Antrag fest.

Erwägungen:
1.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist zulässig (Art. 82 lit. a, Art. 86 Abs. 1 lit. d und Art. 90 BGG sowie <ref-law>) und die Beschwerdeführer sind als Steuerpflichtige dazu legitimiert (<ref-law>).
2.
Das Bundesgericht hat in <ref-ruling>, worauf sich die Vorinstanz stützt, in einem analogen Fall den Schuldzinsenabzug abgelehnt. Die Beschwerdeführer stellen diese materiellrechtliche Beurteilung an sich nicht in Frage. Sie machen jedoch geltend, gestützt auf das von der ESTV genehmigte "Ruling" seien die Zinsen dennoch abziehbar. Streitig ist somit einzig, ob vorliegend ein Steuerruling der Aufrechnung entgegensteht.
2.1. "Rulings" bilden einen Anwendungsfall des allgemeinen Vertrauensschutzes. Es handelt sich um vorgängige Auskünfte der Steuerverwaltung, die zwar nicht Verfügungscharakter haben, aber nach den allgemein anerkannten Grundsätzen von Treu und Glauben (<ref-law>) Rechtsfolgen gegenüber den Behörden auslösen können (Urteil 2C_708/2011 vom 5. Oktober 2012 E. 4.3.2, nicht publ. in: <ref-ruling>; <ref-ruling> E. 3e S. 520; <ref-ruling> E. 2c S. 479; Urteile 2C_664/2013 vom 28. April 2014 E. 4.2, in: ASA 82 S. 737; 2A.46/2000 vom 1. November 2000 E. 3). Voraussetzung für die Bindungswirkung des "Rulings" ist u.a., dass die Behörde für die Erteilung der betreffenden Auskunft zuständig war oder dass sie der Rechtsuchende aus zureichenden Gründen als zuständig betrachten konnte (BGE <ref-ruling> E. 2c S. 479; <ref-ruling> E. 3c S. 187; Urteil 2A.46/2000 vom 1. November 2000 E. 3a).
2.2. Sachverhaltlich hat die Vorinstanz grundsätzlich verbindlich (<ref-law>) festgestellt, dass die ESTV am 4. August 2004 der Rulinganfrage vom 3. August 2004 unterschriftlich zugestimmt habe, dass der Steuerpflichtige es aber unterlassen habe, dieselbe Zusicherung bezüglich der direkten Bundessteuer auch von der kantonalen Steuerverwaltung einzuholen. Die Beschwerdeführer bringen in ihrer Beschwerde unter "Sachverhalt" vor, die verwaltungsgerichtliche Sachverhaltsdarstellung sei nicht zu beanstanden. Sie ergänzen dann allerdings den Sachverhalt, wobei sie hauptsächlich vorbringen, sie hätten nach der positiven Antwort der ESTV vom 4. August 2004 in fünf Kantonen, darunter auch im Kanton Zürich, von der kantonalen Steuerbehörde entsprechende "Rulings" für die kantonalen Steuerneingeholt. Sie machen aber nicht geltend, für die direkte Bundessteuerein "Ruling" auch von der kantonalen Steuerverwaltung eingeholt zu haben.
2.3. Die Vorinstanz hat erwogen, da für die Veranlagung der direkten Bundessteuer die kantonale Behörde zuständig sei, könne einem lediglich mit der ESTV abgeschlossenen "Ruling" keine verbindliche Wirkung zukommen. Diese fehlende Zuständigkeit der ESTV wäre für die Steuerpflichtigen bzw. die KPMG ohne Weiteres erkennbar gewesen, zumal sie fachkundig seien. Die Beschwerdeführer machen demgegenüber geltend, die ESTV sei zur Erteilung von Steuerrulings betreffend die direkte Bundessteuer zuständig. Zumindest hätten sie - die Beschwerdeführer - aufgrund einer langjährigen Praxis der ESTV wie auch der kantonalen Steuerverwaltung von einer solchen Zuständigkeit ausgehen können.
2.4. Streitig und zu prüfen ist somit im Folgenden, ob die ESTV zur Abgabe des "Rulings" zuständig war (vgl. E. 3 hiernach) bzw. ob die Beschwerdeführer sie als zuständig erachten konnten (vgl. E. 4 hiernach).
3.
3.1. Das "Ruling" ist gesetzlich nicht vorgesehen, weshalb auch keine ausdrückliche Gesetzesbestimmung über die Zuständigkeit besteht. Da sich die Auskunft aber auf eine zukünftige Veranlagung bezieht, ist klar, dass die Zuständigkeit bei der Veranlagungsbehörde liegen muss, für die direkte Bundessteuer somit bei der kantonalen Verwaltung für die direkte Bundessteuer, welche die Steuer veranlagt (<ref-law>; Art. 2 und Art. 104 Abs. 1 und 2 DBG; Urteil 2A.46/2000 vom 1. November 2000 E. 3b; Richner/Frei/Kaufmann/Meuter, Handkommentar zum DBG, 2. Aufl. 2009, VB zu Art. 109-121 N. 65; Peter Eisenring, Vorgängige Auskünfte von Steuerbehörden in der Schweiz, ASA 68 S. 114 f.; Massetti/Pedroli, Il ruling nel diritto tributario svizzero, RtiD 2006 I pag. 594; Schreiber/Jaun/Kobierski, Steuerruling - eine systematische Auslegeordnung unter Berücksichtigung der Praxis, ASA 80 S. 310, 331; vgl. auch bereits zur Wehrsteuer: JÜRG ANDREAS BAUR, Auskünfte und Zusagen der Steuerbehörden an Private im schweizerischen Steuerrecht, 1979, S. 42). Das wird auch von den Beschwerdeführern nicht bestritten. Umstritten und zu prüfen ist aber, ob neben oder anstatt der kantonalen Verwaltung auch die Eidgenössische Steuerverwaltung eine Rulingauskunft erteilen kann.
3.2. Der Bund erhebt die direkte Bundessteuer (<ref-law>; <ref-law>). Die Steuer wird unter Aufsicht des Bundes von den Kantonen veranlagt und eingezogen; ihnen fallen mindestens 17 % des Rohertrags zu, während sie die restlichen 83 % an den Bund abliefern (<ref-law>; Art. 2, 104, 160 und 196 DBG). Obwohl der Steueranspruch überwiegend dem Bund zusteht, ist somit Steuergläubiger der Kanton (Urteil 5P.471/2000 vom 19. Februar 2001 E. 5; Peter Locher, Kommentar zum DBG, 2001, Art. 2 Rz. 1; Richner/Frei/Kaufmann/Meuter, a.a.O., Art. 2 N. 1). Die Aufsicht des Bundes über die Steuererhebung wird vom Eidgenössischen Finanzdepartement ausgeübt (<ref-law>). Die Eidgenössische Steuerverwaltung sorgt für die einheitliche Anwendung des Gesetzes. Sie erlässt die Vorschriften für die richtige und einheitliche Veranlagung und den Bezug der direkten Bundessteuer. Sie kann die Verwendung bestimmter Formulare vorschreiben (<ref-law>). Sie kann nach <ref-law> insbesondere bei den kantonalen Veranlagungs- und Bezugsbehörden Kontrollen vornehmen und in die Steuerakten der Kantone und Gemeinden Einsicht nehmen (lit. a), sich bei den Verhandlungen der Veranlagungsbehörden vertreten lassen und diesen Anträge stellen (lit. b), im Einzelfalle Untersuchungsmassnahmen anordnen oder nötigenfalls selber durchführen (lit. c) oder im Einzelfalle verlangen, dass die Veranlagung oder der Einspracheentscheid auch ihr eröffnet wird (lit. d). Das Eidgenössische Finanzdepartement kann auf Antrag der Eidgenössischen Steuerverwaltung die nötigen Anordnungen treffen, wenn sich ergibt, dass die Veranlagungsarbeiten in einem Kanton ungenügend oder unzweckmässig durchgeführt werden. Die Eidgenössische Steuerverwaltung weist den Kanton gleichzeitig mit dem Antrag an, dass einstweilen keine Veranlagungen eröffnet werden dürfen (<ref-law>). Die Eidgenössische Steuerverwaltung kann ferner gegen jede Veranlagungsverfügung und jeden Einspracheentscheid Beschwerde an die kantonalen Rechtsmittelinstanzen und an das Bundesgericht erheben (Art. 141 und Art. 145 Abs. 2 DBG; <ref-law> i.V.m. Art. 4 und 12 der Organisationsverordnung für das Eidgenössische Finanzdepartement vom 17. Februar 2010 [OV-EFD; SR 172.215.1]). Die ESTV ist somit nicht selber Veranlagungsbehörde für die direkte Bundessteuer (<ref-ruling> E. 1b S. 516; <ref-ruling> E. 3b S. 482; MICHAEL BEUSCH, in: Kommentar zum Schweizerischen Steuerrecht, Band I/2b, 2. Aufl. 2008, <ref-law> Rz. 15; RICHNER/FREI/KAUFMANN/MEUTER, a.a.O., Art. 103 N 6). Ihr obliegt aber die unmittelbare Aufsicht über die Veranlagungsbehörden (BGE <ref-ruling> E. 3b S. 481 f.; VALLENDER/LOOSER, in: Kommentar zum Schweizerischen Steuerrecht, Band I/2a, 2. Aufl. 2008, <ref-law> Rz. 4).
3.3. Das Bundesgericht hat sich in Bezug auf die Zuständigkeit der ESTV für die Erteilung von "Rulings" bei der direkten Bundessteuer wie folgt geäussert:
3.3.1. In den von der Vorinstanz zitierten Leitentscheiden BGE <ref-ruling> und <ref-ruling> hatte sich das Bundesgericht mit der Kompetenz der ESTV zum Erlass von Feststellungsverfügungen befasst. Es erwog, die ESTV könne ihre Aufsicht durch die in <ref-law> genannten Mittel und durch die Ergreifung von Rechtsmitteln wahrnehmen. Sie sei aber nicht Veranlagungsbehörde für die direkte Bundessteuer und sei demnach zum Erlass einer Feststellungsverfügung über konkrete Steuerfolgen nicht zuständig (BGE <ref-ruling> E. 3b S. 482; <ref-ruling> E. 2 S. 385 f.). Der Meinungsäusserung der Eidgenössischen Steuerverwaltung über die steuerrechtliche Qualifizierung eines Versicherungsprodukts komme daher keine Verfügungsqualität zu, sondern sie habe den Sinn, die kantonalen Vollzugsbehörden (und die Steuerpflichtigen bzw. die Versicherungsgesellschaft) frühzeitig über die Rechtsauffassung der antrags- und beschwerdebefugten Aufsichtsbehörde zu informieren (BGE <ref-ruling> E. 3 ). Anders verhalte es sich indes aufgrund der ausdrücklichen Vorschrift von Art. 1 Abs. 4 BVV 3 (SR 831.461.3) in Bezug auf die Anerkennung von Säule 3a-Modellen (BGE <ref-ruling> E. 3 S. 386 ff.).
3.3.2. An dieser Rechtsprechung ist auch für die vorliegende Konstellation grundsätzlich festzuhalten: Es geht hier ebenfalls um die Beurteilung der steuerlichen Folgen eines geplanten Produkts - und somit einer Sachverhaltsdarstellung - in Bezug auf die direkten Bundessteuern. Damit können die bundesgerichtlichen Ausführungen in BGE <ref-ruling> unter dem Titel "Feststellungsentscheid" analog auf die Frage der Zuständigkeit zum Erlass von "Rulings" angewandt werden. Daraus ergibt sich, dass die ESTV keine Befugnis zur verbindlichen Feststellung bezüglich der steuerlichen Behandlung geplanter Sachverhalte im Sinne eines "Rulings" hat (vgl. dazu auch die Urteile 2A.53/1998 vom 12. November 1998 E. 7 und 8, in: StR 54/1999 S. 118; 2A.46/2000 vom 1. November 2000 E. 3b; 2C_79/2010 vom 16. Juni 2010 E. 2.3.1, in: StE 2010 A 21.23 Nr. 7; anders dagegen: Urteil 2C_603/2012 vom 10. Dezember 2012, in: StE 2013 A 21.14 N. 23, wo das Bundesgericht ausführte, für Abschluss eines "accord de procédure" in Bezug auf die direkte Bundessteuer sei die ESTV zuständig).
Auch die Literatur vertritt mehrheitlich die Auffassung, die Veranlagung und damit auch die Genehmigung von Rulinganträgen falle bei der direkten Bundessteuer ausschliesslich in die Zuständigkeit der Kantone, welche auch ohne Zustimmung der ESTV "Rulings" mit Bindungswirkung genehmigen könne (Broger/Aebi, Bindungswirkung kantonaler Steuerrulings für die direkte Bundessteuer, ST 2013 S. 607; Bürgisser/Danon/Meller/Obrist, La jurisprudence fiscale du Tribunal fédéral en 2013, RJN 2013 S. 86 f.; Jerôme Bürgisser, Du ruling fiscal, RDAF 2014 II p. 411 f.; Hugo Casanova, Die steuerrechtliche Rechtsprechung des Bundesgerichts im Jahr 2012, ASA 82 S. 538 f.; Pierre-Marie Glauser/Michael Beusch, Entwicklungen im Steuerrecht, SJZ 2013, S. 260; Stefan Oesterhelt, Bindungswirkung kantonaler Steuerrulings gegenüber ESTV, StR 2013 S. 191, 194; derselbe, Steuerrechtliche Entwicklungen (insbesondere im Jahr 2013), SZW 2014 S. 87; Saner/Seiler/Kobierski, Offshore-Finanzierung von schweizerischen Konzernen, ST 2013 S. 231; für Zuständigkeit bzw. Miteinbezug der ESTV dagegen: Baur, a.a.O., S. 42 [zur Wehrsteuer]; Morf/Müller/Amstutz, Schweizer Steuerruling - Erfolgsmodell und Werthaltigkeit, ST 2008 S. 814; Danielle Yersin, in: Commentaire romand, Impôt fédéral direct, 2008, Remarques préliminaires N. 87; Schreiber/Jaun/Kobierski, a.a.O., S. 331; Marc Vogelsang, Inkonsistenzen in der bundesgerichtlichen Rechtsprechung zu Betriebsstätten und Steuerrulings, jusletter 25. März 2013, Rz. 36).
3.3.3. Nichts anderes ergibt sich aus dem Urteil 2C_565/2011 vom 26. Oktober 2012 (<ref-ruling>), in dem es um dasselbe "Ruling" der ESTV vom 3./4. August 2004 ging, welches hier streitig ist. Das Bundesgericht hat dazu ausgeführt, im Bereich der Staats- und Gemeindesteuern seien einzig die Steuerbehörden des Kantons Freiburg zuständig gewesen; da diese Behörden jedoch nicht angefragt worden seien, seien sie durch die Zusagen anderer Steuerverwaltungen nicht gebunden (E. 2.1). Auch das "Ruling" der ESTV könne für die Staatssteuer nicht verbindlich sein, da die in <ref-law> vorgesehene Aufsichtsfunktion der ESTV nur die direkte Bundessteuer betreffe. Es sei nicht zu beanstanden, wenn das kantonale Gericht dem "Ruling" der ESTV für den Bereich der Staatssteuer die Bindungswirkung abgesprochen habe. Aus diesen bundesgerichtlichen Ausführungen betreffend die Staats- und Gemeindesteuern können die Beschwerdeführer damit ebensowenig etwas zu ihren Gunsten ableiten wie aus dem Urteil 2C_708/2011 vom 5. Oktober 2012 E. 4.3.2, nicht publ. in: <ref-ruling>, wo die Verbindlichkeit eines "Rulings" der Zuger Steuerverwaltung für die ESTV im Streite stand.
3.4. Damit ergibt sich für den vorliegenden Fall, dass die ESTV für die Abgabe des umstrittenen "Rulings" betreffend die direkte Bundessteuer nicht zuständig war.
4.
Indes ist auch bei fehlender Zuständigkeit der ESTV zu beachten, dass eine behördliche Auskunft nicht nur dann verbindlich sein kann, wenn sie von der zuständigen Behörde erging, sondern auch wenn der Bürger die Behörde aus zureichenden Gründen als zuständig erachten konnte (Vertrauensschutz; vgl. E. 2.1 hiervor). Das ist vorliegend aus den folgenden Gründen zu bejahen:
4.1. Wie bereits dargelegt, ist die hier streitige Frage gesetzlich nicht geregelt. Zwar stand aufgrund der amtlich publizierten bundesgerichtlichen Rechtsprechung fest, dass grundsätzlich die kantonalen Steuerverwaltungen zuständig sind für "Ruling"-Anfragen in Bezug auf die direkte Bundessteuer, was aber eine parallele Zuständigkeit der ESTV nicht zwingend ausschliesst. Zudem ergibt sich aus der - wenn auch beiläufigen - Bemerkung im (unpublizierten) Entscheid 2C_603/2012 (vgl. E. 3.3.2 hiervor), dass die fehlende Zuständigkeit der ESTV nicht offensichtlich war. Unter diesen Umständen kann der Vorinstanz nicht gefolgt werden, wenn sie ausführt, die Beschwerdeführer hätten ohne Weiteres erkennen können, dass mit dem lediglich von der ESTV bewilligten "Ruling" die Veranlagung der direkten Bundessteuer durch die kantonale Steuerbehörde "keineswegs bindend" vereinbart gewesen sei (vgl. angefochtener Entscheid E. 2.3.2).
4.2. Zudem musste auch das Verhalten der ESTV die Steuerpflichtigen in ihrem Vertrauen auf deren Zuständigkeit bestärken: Einerseits hat - was den Steuerpflichtigen gerade als fachkundigen Personen bekannt war - die ESTV in verschiedenen Bereichen im Einvernehmen mit den Kantonen bzw. der Schweizerischen Steuerkonferenz "Rulings" erlassen. Andererseits hat sie auch im konkreten vorliegenden Fall die "Ruling"-Genehmigung vorbehaltlos erteilt und sich offensichtlich dafür als zuständig erachtet. Insbesondere hat sie nicht, wie dies offenbar in anderen "Rulings" der ESTV vorkommt (Saner/Seiler/Kobierski, a.a.O., S. 231), auf die Zuständigkeiten der kantonalen Steuerbehörden hingewiesen oder diese vorbehalten. Wenn nun sogar die von Amtes und Gesetzes wegen fachkundige Bundesbehörde ihre Zuständigkeit ohne Vorbehalte als gegeben erachtete, kann man nicht dem - wenn auch fachkundigen oder fachkundig vertretenen - Privaten vorhalten, er hätte die fehlende Zuständigkeit bemerken müssen. Die Auffassung der Vorinstanz, die ESTV habe mit einer solchen Zustimmung nur Sicherheit geben wollen, wie sie sich im Lichte des ihr zustehenden Beschwerderechts stelle, kann jedenfalls für die vorliegende Konstellation nicht überzeugen: Der Private weiss, dass die ESTV ein Beschwerderecht hat, von dem sie gegen eine rechtswidrige Veranlagung sowohl zu Gunsten als auch zu Ungunsten des Steuerpflichtigen Gebrauch machen kann.
4.3. Unbehelflich ist sodann das Argument der Vorinstanz, die streitbetroffene Rulinganfrage sei nicht an die Sektion Wertschriftenbewertung und Finanzderivate der ESTV gerichtet worden, sondern an die Abteilung Rechtswesen. Der Private braucht nicht zu wissen, welche Abteilung oder Personen innerhalb eines Amtes zuständig sind; es ist vielmehr Sache der Verwaltung sich so zu organisieren, dass Anfragen an die intern zuständigen Personen gelangen (<ref-ruling> E. 3b S. 316; <ref-ruling> E. 3b S. 100; RICHNER/FREI/KAUFMANN/MEUTER, a.a.O., VB zu Art. 109-121 N. 65).
4.4. Schliesslich betrifft das Argument der ESTV, in der Rulinganfrage sei nicht offen gelegt worden, dass es sich bei "X._" um ein an unbeschränkt viele Anleger anzubietendes Finanzprodukt handle, nicht die Frage der Zuständigkeit für das "Ruling", sondern dessen inhaltlichen Verbindlichkeit.
4.5. Als Ergebnis ist festzuhalten, dass sich die Beschwerdeführer jedenfalls in guten Treuen darauf verlassen konnten, dass die ESTV für die am 3./4. August 2004 erteilte "Ruling"-Genehmigung zuständig war. Die Bindungswirkung des "Rulings" kann nicht mit der fehlenden Zuständigkeit verneint werden.
5.
Damit der Steuerpflichtige sich auf ein "Ruling" verlassen kann, müssen nebst der Zuständigkeit der genehmigenden Behörde weitere Voraussetzungen erfüllt sein (vgl. BGE <ref-ruling> E. 2c S. 479). Die Vorinstanz hat die Verbindlichkeit des "Rulings" schon mit der fehlenden Zuständigkeit begründet und die übrigen Voraussetzungen nicht geprüft. Die Sache ist daher an die Vorinstanz zurückzuweisen, damit sie prüft, ob diese Voraussetzungen erfüllt sind.
6.
Die Rückweisung zu ergebnisoffenen weiteren Abklärungen gilt praxisgemäss als Obsiegen (<ref-ruling> E. 13 S. 471; Urteil 2C_846/2013 vom 28. April 2014 E. 3.2). Damit trägt der Kanton Zürich, um dessen Vermögensinteresse es geht, die Kosten des Verfahrens (Art. 66 Abs. 1 und 4 BGG). Er hat zudem den Beschwerdeführern für das bundesgerichtliche Verfahren eine Parteientschädigung zu bezahlen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen. Das Urteil des Verwaltungsgerichts des Kantons Zürich vom 2. April 2014 wird aufgehoben und die Sache zur weiteren Abklärung im Sinne der Erwägungen an das Verwaltungsgericht zurückgewiesen.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Kanton Zürich auferlegt.
3.
Der Kanton Zürich hat den Beschwerdeführern für das bundesgerichtliche Verfahren eine Parteientschädigung von Fr. 2'000.-- zu bezahlen.
4.
Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 2. Abteilung, 2. Kammer, und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 24. August 2015
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Winiger