Sachverhalt:
A. Im Jahr 2001 praktizierte X._ als Anwalt in Bern, wo er auch wohnte. Seit 1979 ist er zudem Eigentümer des Schlosses S._ (Baujahr 1748) in A._. Das Schloss und der dazugehörende Park unterstehen dem Gesetz über den Schutz der Kulturgüter des Kantons Freiburg.
Mit Verfügungen vom 11. August 2004 veranlagte die Steuerverwaltung des Kantons Bern X._ und seine Ehefrau Y._ für die Steuerperiode 2001 in Abweichung der Selbstschatzung für ein steuerbares Einkommen von Fr. 717'019.-- bei den Kantons- und Gemeindesteuern bzw. von Fr. 732'169.-- bei der direkten Bundessteuer.
B. Eine gegen die Veranlagungsverfügungen gerichtete Einsprache der Steuerpflichtigen wurde am 10. August 2006 (nur) teilweise gutgeheissen und das steuerbare Einkommen auf Fr. 564'591.-- bei den Kantons- und Gemeindesteuern bzw. auf Fr. 582'141.-- bei der direkten Bundessteuer herabgesetzt.
Hiergegen rekurrierten die Steuerpflichtigen bei der Steuerrekurskommission des Kantons Bern. Diese wies den Rekurs am 10. Juni 2008 unter Vornahme einer "reformatio in peius" ab und erhöhte das steuerbare Einkommen auf Fr. 609'600.-- bei den Kantons- und Gemeindesteuern bzw. auf Fr. 625'500.-- bei der direkten Bundessteuer.
Gegen den Entscheid der Steuerrekurskommission beschwerten sich die Steuerpflichtigen beim Verwaltungsgericht des Kantons Bern. Dieses hiess die Beschwerde mit Urteil vom 4. Juni 2009 teilweise gut, hob den angefochtenen Entscheid der Steuerrekurskommission auf und wies die Sache zur Neuveranlagung im Sinne der Erwägungen an die Steuerverwaltung des Kantons Bern zurück.
C. Mit Eingabe vom 9. Juli 2009 führen die Ehegatten X._ und Y._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht. Sie beantragen die Aufhebung des Urteils des Verwaltungsgerichts vom 4. Juni 2009 und die Zulassung weiterer Abzüge vom steuerbaren Einkommen. Eventualiter sei die Sache zwecks Neuveranlagung unter Zulassung der beantragten Abzüge an die Vorinstanz bzw. an die Steuerverwaltung des Kantons Bern zurückzuweisen.
Die Steuerverwaltung und das Verwaltungsgericht des Kantons Bern sowie die Eidgenössische Steuerverwaltung schliessen auf Abweisung der Beschwerde. Mit Eingabe vom 4. Januar 2010 nehmen die Steuerpflichtigen unaufgefordert zum Vernehmlassungsergebnis Stellung.
Mit Verfügung vom 17. Juli 2009 lehnte es der Präsident der Il. öffentlich-rechtlichen Abteilung des Bundesgerichts ab, der Beschwerde die beantragte aufschiebende Wirkung zuzuerkennen.

Erwägungen:
1. 1.1 Die Beschwerde an das Bundesgericht ist gemäss <ref-law> zulässig gegen Entscheide, die das Verfahren abschliessen (Endentscheide). Weist eine kantonale Instanz die Sache demgegenüber zu neuer Behandlung an eine untere Instanz zurück, so handelt es sich hierbei um einen Zwischenentscheid, gegen den nur unter den Voraussetzungen von <ref-law> bzw. <ref-law> beim Bundesgericht Beschwerde erhoben werden kann. Wenn jedoch der unteren Instanz, an welche die Sache zurückgewiesen wird, kein Entscheidungsspielraum verbleibt und die Rückweisung - wie im vorliegenden Fall - nur der (rechnerischen) Umsetzung des oberinstanzlich Angeordneten dient, wird ein solcher Rückweisungsentscheid wie ein Endentscheid behandelt (<ref-ruling> E. 1.3 S. 127). Das angefochtene, kantonal letztinstanzliche Urteil betrifft eine Angelegenheit des öffentlichen Rechts, die unter keinen Ausschlussgrund gemäss <ref-law> fällt. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht ist daher zulässig (Art. 82 ff. und Art. 86 Abs. 1 lit. d BGG in Verbindung mit Art. 146 des Bundesgesetzes vom 14. Dezember 1990 über die direkte Bundessteuer [DBG; SR 642.11], bzw. Art. 73 des Bundesgesetzes vom 14. Dezember 1990 über die Harmonisierung der direkten Steuern der Kantone und Gemeinden [StHG; SR 642.14]). Die Beschwerdeführer sind gemäss <ref-law> zur Beschwerde in öffentlich-rechtlichen Angelegenheiten legitimiert. Auf das frist- und formgerecht eingereichte Rechtsmittel (Art. 42 und Art. 100 Abs. 1 BGG) kann somit grundsätzlich eingetreten werden (unter Vorbehalt von E. 1.3 und E. 1.4 hiernach).
1.2 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann namentlich die Verletzung von Bundesrecht gerügt werden (<ref-law>). Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist daher weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen, und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen.
1.3 Das Bundesgericht legt seinem Urteil die Sachverhaltsfeststellungen der Vorinstanz zugrunde (<ref-law>). Mit einer Beschwerde in öffentlich-rechtlichen Angelegenheiten können diese nur dann gerügt werden, wenn sie offensichtlich unrichtig, d.h. willkürlich sind (<ref-ruling> E. 1.2.2 S. 252; <ref-ruling> E. 7.1 S. 398) oder auf einer Rechtsverletzung im Sinne von <ref-law> beruhen. Zudem ist vom Beschwerdeführer aufzuzeigen, dass die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Soweit die Steuerpflichtigen im vorliegenden Verfahren die vorinstanzlichen Sachverhaltsfeststellungen beanstanden, genügen ihre Ausführungen diesen Anforderungen an eine Sachverhaltsrüge nicht, weswegen darauf nicht eingetreten werden kann.
1.4 Die Beschwerdeschrift hat gemäss <ref-law> die Begehren und deren Begründung zu enthalten; im Rahmen der Begründung ist in gedrängter Form darzulegen, inwiefern der angefochtene Entscheid Recht verletzt (<ref-law>). Dies setzt voraus, dass sich die Beschwerdeführer wenigstens kurz mit den Erwägungen des angefochtenen Entscheides auseinandersetzen (<ref-ruling> E. 2.1 S. 245 f.). Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht. Das Bundesgericht prüft eine solche Rüge nur insoweit, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (<ref-law>). Eine diesen qualifizierten Anforderungen genügende Begründung ist vorliegend nur teilweise zu erkennen, werden doch von den angeführten, angeblich verletzten Verfassungsnormen nur die behaupteten Verstösse gegen den Grundsatz von Treu und Glauben (<ref-law> i.V.m. <ref-law>; vgl. E. 5 hiernach) sowie gegen das Legalitätsprinzip im Abgaberecht (<ref-law>; vgl. E. 2 hiernach) näher begründet. Soweit es an einer genügenden Begründung fehlt, ist auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten nicht einzutreten.
2. 2.1 Die Beschwerdeführer beanstanden die Höhe des ihnen zugestandenen Schuldzinsenabzuges.
Gemäss <ref-law> können von den Einkünften die privaten Schuldzinsen im Umfang der steuerbaren Vermögenserträge und weiterer Fr. 50'000.-- abgezogen werden. Anders als die Vorinstanzen vertreten die Beschwerdeführer die Ansicht, dass dieser "Freibetrag" von Fr. 50'000.-- jedem der gemeinsam besteuerten Ehegatten einzeln zu gewähren ist.
Im Wesentlichen machen die Beschwerdeführer geltend, dass steuerliche Leistungsverpflichtungen einer ausdrücklichen Grundlage im Gesetz bedürften und Gleiches auch betreffend der zulässigen Abzüge gelte. Die bloss einmalige Gewährung des Freibetrags bei Ehegatten verletze das Legalitätsprinzip und stelle eine unzulässige Lückenfüllung dar. Um eine Benachteiligung von Ehegatten gegenüber Konkubinatspaaren zu verhindern, müsse man <ref-law> vielmehr im gegenteiligen Sinn auslegen.
Die Steuerpflichtigen berufen sich hierbei auf eine entsprechende Lehrmeinung von URS DUTTWEILER, Bemerkungen zum Kreisschreiben Nr. 1 Steuerperiode 2001/2002 der Eidgenössischen Steuerverwaltung, in: StR 55 (2000) S. 757 ff. insb. S. 758. Ferner verweisen sie auf ein Urteil der Steuerrekurskommission I des Kantons Zürich vom 26. Juni 2003 E. 3, in: StE 2004 B 27.2 Nr. 27, welches den "doppelten Grundfreibetrag" zwar verweigert, diesbezüglich jedoch einen verfassungsrechtlichen Vorbehalt erhoben habe.
2.2 Der Auffassung der Beschwerdeführer kann nicht gefolgt werden:
Ziel der in <ref-law> enthaltenen Regelung ist die Beschränkung des Schuldzinsenabzugs (Bericht der Expertenkommission zur Prüfung des Systems der direkten Steuern auf Lücken, 1998, S. 134 ff.). Im Gesetzgebungsverfahren vertrat der Bundesrat die Ansicht, es sei mit erheblichen praktischen Schwierigkeiten verbunden, zwischen Schuldzinsen mit Gewinnungskostencharakter einerseits und Schuldzinsen ohne Gewinnungskostencharakter andererseits zu unterscheiden, weshalb er eine einfache und schematische Lösung anstrebte. Diese sah der Bundesrat darin, den Abzug der Schuldzinsen primär auf den Betrag der steuerbaren Brutto-Vermögenserträge zu beschränken. Aus sozialpolitischen Gründen und zur Wohneigentumsförderung schlug er eine Erweiterung des Schuldzinsenabzugs um Fr. 20'000.-- über die steuerbaren Brutto-Vermögenserträge hinaus vor (Botschaft des Bundesrates zum Stabilisierungsprogramm 1998 vom 28. September 1998, BBl 1999, S. 4 ff., insb. S. 81 ff.; vgl. auch Urteil der Steuerrekurskommission I des Kantons Zürich vom 26. Juni 2003 E. 3, in: StE 2004 B 27.2 Nr. 27). Das Parlament erhöhte dann diese Toleranzmarge (unzutreffend oft als "Freibetrag" bezeichnet) auf Fr. 50'000.-- (AB N 1998 S. 2424 f.; AB S 1999 S. 53 ff.).
Eine Verdoppelung des "Grundfreibetrags" bei Ehegatten sieht der Wortlaut von <ref-law> nicht vor. Dies im Unterschied zu Art. 33 Abs. 1 lit. g. DBG, welcher betreffend der maximalen Abzugsfähigkeit von bestimmten Versicherungsbeiträgen eine vom Zivilstand abhängige Unterscheidung vorgenommen hat und den in rechtlich und tatsächlich ungetrennter Ehe lebenden Personen den doppelten Maximalabzug (gegenwärtig Fr. 3'000.-- statt Fr. 1'500.--) zugesteht. Hieraus ist zu schliessen, dass beim Schuldzinsenabzug von <ref-law>, welcher eine solche Differenzierung gerade nicht enthält, eine andere Lösung statuiert werden sollte und die von den Beschwerdeführern geforderte Verdoppelung der Toleranzmarge nicht statthaft ist.
Soweit die Steuerpflichtigen hierin eine Benachteiligung von Ehegatten gegenüber Konkubinatspartnern sehen, ist auf die zutreffenden Erwägungen der Vorinstanz hinzuweisen, wonach Ehepartner im Gegenzug insoweit privilegiert sind, als der Abzug gemäss <ref-law> vom gemeinsamen Gesamteinkommen des Ehepaars vorgenommen werden kann: Anders als bei Konkubinatspaaren können daher Abzugsüberschüsse beim einen Ehegatten vom Einkommen des jeweils anderen Ehegatten abgesetzt werden. Wollte man Ehegatten den Abzug der doppelten Toleranzmarge gestatten, müssten demgegenüber die jeweiligen Brutto-Vermögenserträge und die entsprechenden Schuldzinsen den beiden Partnern individuell zugerechnet werden; dies widerspräche dem von Bundesrat und Parlament angestrebten Ziel einer einfachen und schematischen Ausgestaltung des Schuldzinsenabzuges. Aus diesem Grund spricht sich denn nicht nur das Kreisschreiben Nr. 1 der Eidgenössischen Steuerverwaltung vom 19. Juli 2000 betreffend die Beschränkung des Schuldzinsenabzuges (publ. in: ASA 69 S. 176 ff.) gegen eine Verdoppelung des Betrages von Fr. 50'000.-- aus, sondern auch die nahezu einhellige Lehre sowie die diesbezügliche Judikatur (LOCHER, Kommentar zum DBG, I. Teil, 2001, N. 8 zu <ref-law>; ZIGERLIG/JUD, in: Zweifel/Athanas [Hrsg.], Kommentar zum schweizerischen Steuerrecht, Band I/2a: Bundesgesetz über die direkte Bundessteuer, 2. Aufl. 2008, N. 8a zu <ref-law>; RICHNER/FREI/KAUFMANN/MEUTER, Kommentar zum DBG, 2. Aufl. 2009, N. 21 zu <ref-law>; Urteil des Steuergerichts Basel-Landschaft vom 17. August 2007, in: StE 2008 B 27.2 Nr. 32; Urteil der Steuerrekurskommission I des Kantons Zürich vom 26. Juni 2003, in: StE 2004 B 27.2 Nr. 27).
2.3 Aufgrund der obenstehenden Erwägungen führt eine korrekte Auslegung von <ref-law> zum Ergebnis, dass eine Verdoppelung der Toleranzmarge beim Schuldzinsenabzug betreffend die direkte Bundessteuer von gemeinsam veranlagten Ehegatten nicht vorgesehen ist. Von einer unzulässigen Lückenfüllung bzw. von einer Verletzung des Legalitätsprinzipes im Abgaberecht (<ref-law>), wie dies die Beschwerdeführer behaupten, kann keine Rede sein.
Nichts anderes gilt bezüglich der Kantons- und Gemeindesteuern: Art. 9 Abs. 2 lit. a StHG entspricht <ref-law> hinsichtlich der Toleranzmarge von Fr. 50'000.-- und schreibt den Kantonen zwingend eine analoge Regelung vor, was der Kanton Bern in Art. 38 Abs. 1 lit. a des kantonalen Steuergesetzes vom 21. Mai 2000 (StG/BE) auch umgesetzt hat.
3. 3.1 Weiter verlangen die Beschwerdeführer, es seien die Kosten zur Beheizung der im Winter nicht bewohnten bzw. nicht bewohnbaren Räumlichkeiten des Schlosses zum Abzug zuzulassen. Diese Auslagen in Höhe von Fr. 2'807.-- setzen sich zusammen aus einer Stromrechnung von Fr. 747.--, Heizölkosten von Fr. 1'500.--, einer Abonnementsrechnung der freiburgischen Elektrizitätswerke über Fr. 320.10 sowie einer Abonnementsrechnung der Gemeinde A._ für Wasser in Höhe von Fr. 240.--.
3.2 Bei Liegenschaften im Privatvermögen können u.a. die Unterhaltskosten von den steuerbaren Einkünften abgezogen werden (<ref-law>). Nicht abziehbar sind die übrigen Kosten und Aufwendungen, insbesondere die sog. Lebenshaltungskosten (<ref-law>). In Art. 1 der Verordnung der Eidgenössischen Steuerverwaltung (EStV) vom 24. August 1992 über die abziehbaren Kosten von Liegenschaften des Privatvermögens bei der direkten Bundessteuer (EStV-Liegenschaftskostenverordnung; SR 642.116.2) werden diese Begriffe konkretisiert. Danach gelten u.a. als absetzbar die wiederkehrenden Gebühren für die Kehrichtentsorgung (unter Ausschluss von Gebühren, die nach dem Verursacherprinzip erhoben werden) oder Gebühren für die Abwasserentsorgung. Demgegenüber sind nicht absetzbar die Heizungs- und Warmwasseraufbereitungskosten, die mit dem Betrieb der Heizanlage oder der zentralen Warmwasseraufbereitungsanlage direkt zusammenhängen, insbesondere Energiekosten sowie die Wasserzinsen (Art. 1 Abs. 1 lit. a Ziff. 3 und Art. 1 Abs. 2 EStV-Liegenschaftskostenverordnung). Kosten, die in einem engen, unmittelbaren Zusammenhang mit dem Konsum von Gütern stehen, deren Nutzung vorwiegend verbrauchsabhängig in Rechnung gestellt wird (Wasser, Abfallentsorgung, Energie), gehören damit zu den nicht abzugsfähigen Lebenshaltungskosten (vgl. Urteil 2A.683/2004 vom 15. Juli 2005 E. 3.3, in: ASA 77 S. 161 ff. insb. S. 166 f.).
Nebst den Unterhaltskosten sind ferner abziehbar die Kosten denkmalpflegerischer Arbeiten, die der Steuerpflichtige aufgrund gesetzlicher Vorschriften, im Einvernehmen mit den Behörden oder auf deren Anordnung hin vorgenommen hat, soweit diese Arbeiten nicht subventioniert sind (<ref-law>; vgl. LOCHER, a.a.O., N. 44 zu <ref-law>; BERNHARD ZWAHLEN in: Zweifel/Athanas [Hrsg.], a.a.O, N. 29 zu <ref-law>; NICOLAS MERLINO in: Yersin/Noël [Hrsg.], Commentaire romand de la loi sur l'impôt fédéral direct, 2008, N. 81 ad Art. 32 LIFD).
3.3 Die Beschwerdeführer bringen vor, dass es sich bei der Beheizung der betreffenden Räume um "präventive Frostschutzmassnahmen" zur Vermeidung einer Wertverminderung des Gebäudes und von grösseren Unterhalts- oder Reparaturkosten handle. Diese seien als vorweggenommene "Reparatur- oder Renovationskosten" (Art. 1 Abs. 1 lit. a Ziff. 1 EStV-Liegenschaftskostenverordnung) abziehbar. Im Übrigen gehe es hier ohnehin um "denkmalpflegerische Arbeiten" (<ref-law>).
3.4 Die Ausführungen der Beschwerdeführer überzeugen nicht:
Eine Umdeutung von Heizkosten in vorweggenommene Reparatur- oder Renovationskosten geht nicht an: Mit Ausnahme der sog. Dumont-Praxis, die aber auf den 1. Januar 2010 aufgehoben wurde (AS 2009 S. 1515), sind die Begriffe "Reparatur- oder Renovationskosten" in einem engen, technischen Sinne zu verstehen (LOCHER, a.a.O., N. 45 zu <ref-law>). Andernfalls würde eine praktikable Abgrenzung gegenüber den Betriebskosten verunmöglicht, tragen doch insbesondere Heizkosten stets (auch) dazu bei, die Nutzbarkeit von Wohnraum zu ermöglichen bzw. zu erhalten und damit künftigen Reparaturen vorzubeugen.
Eine Subsumtion der fraglichen Auslagen unter den Begriff "Kosten denkmalpflegerischer Arbeiten" erscheint abwegig: Hierunter sind ausschliesslich Restaurations- bzw. Instandstellungsarbeiten zu verstehen (vgl. die französische Fassung von <ref-law>: "[Sont en outre déductibles] les frais occasionnés par des travaux de restauration de monuments historiques"). Im Übrigen gebricht es vorliegend an einer gesetzlichen Vorschrift, welche die denkmalpflegerische Arbeit vorschreibt: Die von den Beschwerdeführern angeführten, generell gehaltenen "recommandations pour les immeubles protégés" des Amtes für Kulturgüter des Kantons Freiburg vom Mai 2003 genügen hierzu nicht. Zudem konnten diese Empfehlungen des Jahres 2003 ohnehin nicht für Massnahmen im Jahr 2001 kausal gewesen sein.
Entscheidend ist schliesslich die Begründung, welche die Vorinstanz hilfsweise anführt: Die Beschwerdeführer stellen nicht in Abrede, dass der Eigenmietwert des Schlosses die fraglichen Räume nicht miterfasst, weshalb eine Berücksichtigung damit zusammenhängender Kosten nicht in Frage kommt: Sämtliche Kosten sind ausnahmslos unter dem Titel "Gewinnungskosten" abzugsberechtigt; nur von steuerbaren Einkünften können die zu ihrer "Gewinnung" aufgewendeten Kosten abgesetzt werden (Urteil 2A.683/2004 vom 15. Juli 2005 E. 2.3, in: ASA 77 S. 161 ff. insb. S. 165, mit Hinweisen). Der Hinweis der Steuerpflichtigen auf den Unternutzungsabzug im Sinne von <ref-law> (vgl. <ref-ruling> E. 2.3 ff. S. 418 ff.) vermag hieran nichts zu ändern, setzt doch auch ein solcher Abzug voraus, dass die nicht genutzten Räume grundsätzlich im Eigenmietwert berücksichtigt sind.
3.5 Die fraglichen Auslagen können demzufolge bei der direkten Bundessteuer weder unter dem Titel Unterhaltskosten noch als Kosten denkmalpflegerischer Arbeiten zum Abzug zugelassen werden.
Bei den Kantons- und Gemeindesteuern ist die Rechtslage identisch. Zur Begründung genügt ein Verweis auf Art. 36 Abs. 1 StG/BE, Art. 36 Abs. 3 StG/BE (i.V.m. Art. 9 Abs. 3 lit. b StHG), Art. 39 lit. a StG/BE sowie Art. 1 und Art. 2 der kantonalen Verordnung vom 12. November 1980 über die Unterhalts-, Betriebs- und Verwaltungskosten von Grundstücken (VUBV/BE).
4. Sodann beanstanden die Beschwerdeführer, dass die Vorinstanzen Prämienzahlungen in Höhe von Fr. 9'213.90 für Erwerbsunfähigkeits- und Todesfallversicherungen, die im Zusammenhang mit der hypothekarischen Belastung des Schlosses verpfändet wurden, nicht in voller Höhe zum Abzug zugelassen haben.
Die Rüge ist unbegründet: Bei Grundstücken im Privatvermögen können gemäss <ref-law> zwar u.a. die Versicherungsprämien abgezogen werden, doch betrifft diese Bestimmung ausschliesslich solche Versicherungen, die wirtschaftlich oder rechtlich mit dem Halten der Liegenschaft unmittelbar verknüpft sind. Dies ist hier nicht der Fall: Wohl können Prämien für eine Todesfallrisikoversicherung zur Sicherstellung eines Betriebskredites bei einer selbstständig erwerbenden Person allenfalls absetzbare Geschäftsunkosten darstellen (vgl. LAZZARINI/LEDERGERBER, Die steuerliche Behandlung von Versicherungsleistungen im Geschäftsbereich, in: TREX 2007 S. 16 ff. insb. S. 20). Vorliegend geht es jedoch um die Absicherung eines Hypothekarkredits für eine Privatliegenschaft, weshalb es sich bei den im Streit stehenden Versicherungsprämien um eine blosse Einkommensverwendung bzw. um nicht abzugsfähige Lebenshaltungskosten handelt. Die Prämien können bei der direkten Bundessteuer daher nur im Rahmen des allgemeinen Versicherungsabzuges von <ref-law> (Maximalbetrag für Ehegatten gegenwärtig Fr. 3'000.--) berücksichtigt werden. Der Einwand der Beschwerdeführer, dass es sich beim fraglichen Schloss in A._ um ein schwer zu finanzierendes Spezialobjekt handle, ändert daran nichts.
Art. 9 Abs. 3 StHG und Art. 36 Abs. 1 StG/BE entsprechen der Regelung von <ref-law>. Gleich wie <ref-law> statuieren Art. 9 Abs. 2 lit. g StHG und Art. 38 Abs. 1 lit. g StG/BE einen allgemeinen, betragsmässig limitierten Versicherungsabzug. Die obenstehenden Erwägungen zur direkten Bundessteuer sind demzufolge für die Kantons- und Gemeindesteuern analog massgebend.
5. Schliesslich berufen sich die Beschwerdeführer in Zusammenhang mit dem von ihnen beantragten Abzug von Heizkosten und Versicherungsprämien (vgl. E. 3 und E. 4 hiervor) auch auf den Grundsatz des Vertrauensschutzes. Sie begründen dies einerseits mit Auskünften, die sie vom zuständigen Mitarbeiter der Steuerverwaltung des Kantons Bern erhalten hätten und andererseits damit, dass die beantragten Abzüge durch diese Behörde in vergangenen Steuerperioden anerkannt wurden.
Der in <ref-law> verankerte Grundsatz von Treu und Glauben umfasst das Verbot widersprüchlichen Verhaltens und verleiht einer Person Anspruch auf Schutz des berechtigten Vertrauens in behördliche Zusicherungen oder in ein sonstiges, bestimmte Erwartungen begründendes Verhalten der Behörden. Eine Voraussetzung für die Berufung auf den Vertrauensschutz ist indes, dass die betroffene Person sich berechtigterweise auf die Vertrauensgrundlage verlassen durfte und gestützt darauf nachteilige Dispositionen getroffen hat, die sie nicht mehr rückgängig machen kann (<ref-ruling> E. 6 S. 636 ff.; <ref-ruling> E. 4.1 S. 170; <ref-ruling> E. 3a S. 36; HÄFELIN/MÜLLER/UHLMANN, Allgemeines Verwaltungsrecht, 5. Auflage 2006, S. 130 ff.): Zwischen dem Vertrauen in das Verhalten einer staatlichen Behörde und der vom Betroffenen getätigten Disposition muss also ein Kausalzusammenhang bestehen. Ein solcher fehlt, wenn anzunehmen ist, dass die Disposition auch ohne ein Vertrauen begründendes behördliches Verhalten bzw. bei Kenntnis der Mangelhaftigkeit der Vertrauensbasis vorgenommen worden wäre (HÄFELIN/MÜLLER/UHLMANN, a.a.O., S. 139 N. 664).
Im vorliegenden Fall scheitert eine Berufung auf den Vertrauensschutz bereits daran, dass die Beschwerdeführer nicht aufzeigen, welche Dispositionen sie ausschliesslich aufgrund der ihnen angeblich erteilten Auskünfte oder aufgrund der bisherigen Anerkennung von Steuerabzügen getätigt haben: Vielmehr ist anzunehmen, dass die Beschwerdeführer wohl unabhängig von einer steuerlichen Absetzbarkeit eine Temperierung der im Winter nicht genutzten Räume vorgenommen haben. Auch hinsichtlich des Abschlusses und der Verpfändung der betreffenden Versicherungspolicen ist kein Kausalzusammenhang zu einem behördlichen Verhalten ersichtlich: Die Steuerpflichtigen führen selbst aus, dass die von ihnen gewählte Vorgehensweise die einzige Möglichkeit gewesen sei, um von den Banken überhaupt einen wirtschaftlich tragbaren Hypothekarkredit zu erhalten.
6. Nach dem Ausgeführten erweist sich die Beschwerde sowohl betreffend die direkte Bundessteuer als auch betreffend die Kantons- und Gemeindesteuern als unbegründet. Sie ist deshalb abzuweisen, soweit darauf überhaupt eingetreten werden kann.
Dem Verfahrensausgang entsprechend sind die Kosten des bundesgerichtlichen Verfahrens den Beschwerdeführern unter solidarischer Haftbarkeit aufzuerlegen (Art. 65 f. BGG). Es ist keine Parteientschädigung geschuldet (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde betreffend die direkte Bundessteuer wird abgewiesen, soweit darauf einzutreten ist.
2. Die Beschwerde betreffend die Kantons- und Gemeindesteuern wird abgewiesen, soweit darauf einzutreten ist.
3. Die Gerichtskosten von Fr. 3'000.-- werden den Beschwerdeführern unter solidarischer Haftbarkeit auferlegt.
4. Dieses Urteil wird den Beschwerdeführern, der Steuerverwaltung und dem Verwaltungsgericht des Kantons Bern sowie der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 3. Februar 2010
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Müller Zähndler