Sachverhalt: Sachverhalt: A. A.X._ ist Kaminfegermeister mit eigenem Betrieb. Am 22. Juli 1999 erwarb er in C._ für 1,9 Mio. Franken ein Mehrfamilienhaus, in welches er im Jahr 2001 noch rund Fr. 180'000.-- investierte; der Kauf wurde vollständig fremdfinanziert mit einem Bankkredit von 1,6 Mio. Franken und einem verzinslichen Hypothekardarlehen von Fr. 300'000.--, das die Z._ Aktiengesellschaft, Vaduz (Z._ AG), A.X._ am 30. November 1999 gewährte. Dieser hatte die Gesellschaft am 22. November 1999 mit einem grösstenteils fremdfinanzierten Aktienkapital von Fr. 350'000.-- gegründet. Die Z._ AG, in der A.X._ keine Organstellung hat, bezweckt namentlich die Durchführung von Finanz- und Handelsgeschäften jeder Art. Am 30. April 2001 erhöhte die Gesellschaft ihr Aktienkapital, welches vollständig einbezahlt und fremdfinanziert wurde, auf 1,15 Mio. Franken. Sie gab A.X._ am 4. Mai 2001 einen Betriebsmittelkredit von Fr. 138'000.-- und ein weiteres Hypothekardarlehen von Fr. 700'000.--. Dieser bezahlte der Gesellschaft im Jahr 2001 für die Darlehen Schuldzinsen von insgesamt Fr. 45'009.--, die er in der Steuererklärung desselben Jahres abzog. Die Steuerkommission C._ liess diese Schuldzinsen jedoch nicht zum Abzug zu mit der Begründung, es liege eine Steuerumgehung vor; sie veranlagte am 2. Oktober 2003 A.X._ und seine Ehefrau B.X._, die er am 31. Juli 2001 geheiratet hatte, für die Kantons- und Gemeindesteuern 2001 mit einem steuerbaren Einkommen von Fr. 217'000.-- und einem steuerbaren Vermögen von Fr. 410'000.--. Eine dagegen erhobene Einsprache hiess die Steuerkommission am 31. März 2004 teilweise gut und reduzierte das steuerbare Einkommen auf Fr. 207'085.--. Mit Bezug auf die der Z._ AG geleisteten Schuldzinsen hielt sie indessen an ihrem Standpunkt fest. Die Steuerkommission C._ liess diese Schuldzinsen jedoch nicht zum Abzug zu mit der Begründung, es liege eine Steuerumgehung vor; sie veranlagte am 2. Oktober 2003 A.X._ und seine Ehefrau B.X._, die er am 31. Juli 2001 geheiratet hatte, für die Kantons- und Gemeindesteuern 2001 mit einem steuerbaren Einkommen von Fr. 217'000.-- und einem steuerbaren Vermögen von Fr. 410'000.--. Eine dagegen erhobene Einsprache hiess die Steuerkommission am 31. März 2004 teilweise gut und reduzierte das steuerbare Einkommen auf Fr. 207'085.--. Mit Bezug auf die der Z._ AG geleisteten Schuldzinsen hielt sie indessen an ihrem Standpunkt fest. B. Gegen diesen Einspracheentscheid rekurrierten die Eheleute X._ an das Steuerrekursgericht des Kantons Aargau. Dieses hiess den Rekurs am 16. Dezember 2004 gut und setzte das steuerbare Einkommen auf Fr. 162'076.-- fest; es verneinte eine Steuerumgehung und liess die fraglichen Schuldzinsen zum Abzug zu. B. Gegen diesen Einspracheentscheid rekurrierten die Eheleute X._ an das Steuerrekursgericht des Kantons Aargau. Dieses hiess den Rekurs am 16. Dezember 2004 gut und setzte das steuerbare Einkommen auf Fr. 162'076.-- fest; es verneinte eine Steuerumgehung und liess die fraglichen Schuldzinsen zum Abzug zu. C. Das Steueramt des Kantons Aargau führte gegen diesen Entscheid Beschwerde beim Verwaltungsgericht des Kantons Aargau; es beantragte, das angefochtene Urteil aufzuheben und das steuerbare Einkommen gemäss Einspracheentscheid vom 31. März 2004 festzusetzen ohne Berücksichtigung der Schuldzinsen. Das Verwaltungsgericht hiess die Beschwerde am 21. Dezember 2005 gut (Postversand: 26. Januar 2006), hob den Entscheid des Steuerrekursgerichts auf und bestätigte den Einspracheentscheid der Steuerkommission. C. Das Steueramt des Kantons Aargau führte gegen diesen Entscheid Beschwerde beim Verwaltungsgericht des Kantons Aargau; es beantragte, das angefochtene Urteil aufzuheben und das steuerbare Einkommen gemäss Einspracheentscheid vom 31. März 2004 festzusetzen ohne Berücksichtigung der Schuldzinsen. Das Verwaltungsgericht hiess die Beschwerde am 21. Dezember 2005 gut (Postversand: 26. Januar 2006), hob den Entscheid des Steuerrekursgerichts auf und bestätigte den Einspracheentscheid der Steuerkommission. D. Gegen das Urteil des Verwaltungsgerichts haben A.X._ und B.X._ am 27. Februar 2006 beim Bundesgericht Verwaltungsgerichtsbeschwerde eingereicht; sie beantragen, den angefochtenen Entscheid aufzuheben, die Sache an die Vorinstanz zurückzuweisen und diese anzuweisen, den Beschwerdeführern den geltend gemachten Schuldzinsenabzug von Fr. 45'009.-- zu gewähren. Das Kantonale Steueramt und die Eidgenössische Steuerverwaltung beantragen, die Beschwerde abzuweisen. Das Verwaltungsgericht hat Stellung genommen, ohne einen ausdrücklichen Antrag zu stellen.