Sachverhalt:
A. A.X._ und B.X._ wohnen in einer eigenen Liegenschaft in F._(SO). Per 1. Januar 2005 erwarben sie für Fr. 280'000.-- (inkl. Inventar und Mobiliar) eine Zweitwohnung in einem Chalet in G._ (VS). Im Jahr 2006 liessen sie an der Zweitwohnung Arbeiten für Fr. 68'527.-- ausführen.
Am 18. Februar 2008 wurden A.X._ und B.X._ von der Veranlagungsbehörde Dorneck-Thierstein für die Staats- und die direkte Bundessteuer 2006 veranlagt. Dabei wurden die von den Steuerpflichtigen geltend gemachten Liegenschaftsunterhaltskosten für die Zweitwohnung nicht zum Abzug zugelassen.
B. Gegen die Veranlagungsverfügung erhoben A.X._ und B.X._ Einsprache. Die Veranlagungsbehörde Dorneck-Thierstein hiess diese am 20. Oktober 2008 teilweise gut und erkannte immerhin gewisse Auslagen für Energiespar- und Umweltschutzmassnahmen zur Hälfte als abzugsberechtigt an. Zusammen mit den Prämien für Sachversicherungen wurden bezüglich der Zweitwohnung insgesamt Liegenschaftsunterhaltskosten in Höhe von Fr. 10'340.-- zum Abzug zugelassen, wovon Fr. 5'933.-- dem Kanton Wallis zugewiesen wurden.
Einen Rekurs der Steuerpflichtigen betreffend die Staatssteuer bzw. eine von ihnen erhobene Beschwerde betreffend die direkte Bundessteuer wies das Steuergericht des Kantons Solothurn am 8. März 2010 ab.
C. Mit Eingabe vom 26. April 2010 führen A.X._ und B.X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht mit dem sinngemässen Antrag, den vorinstanzlichen Entscheid sowie die Veranlagungsverfügung und den Einspracheentscheid aufzuheben und die geltend gemachten Unterhaltskosten für die Immobilie im Kanton Wallis in vollem Umfang zum Abzug zuzulassen. Am 3. Juni 2010 reichen A.X._ und B.X._ zudem eine "ergänzende Akteneingabe" ein.
D. Das Steueramt des Kantons Solothurn und die Eidgenössische Steuerverwaltung stellen den Antrag, es sei auf die Beschwerde nicht einzutreten. Eventualiter beantragen sie die Abweisung der Beschwerde. Das Steuergericht des Kantons Solothurn schliesst auf Abweisung der Beschwerde, soweit darauf einzutreten sei.

Erwägungen:
1. 1.1 Die eingereichte Beschwerde ist nicht zulässig, soweit damit die Aufhebung der Verfügung und des Einspracheentscheids der Veranlagungsbehörde Dorneck-Thierstein beantragt wird: Nach dem Prinzip des Devolutiveffekts wurden diese prozessual durch das Urteil des Steuergerichts des Kantons Solothurn vom 8. März 2010 ersetzt; Letzteres bildet alleiniger Anfechtungsgegenstand für den nachfolgenden Instanzenzug (vgl. Häfelin/Müller/Uhlmann, Allgemeines Verwaltungsrecht, 6. Aufl. 2010, Rz. 1807).
1.2 Soweit sich die Beschwerde gegen das Urteil des Steuergerichts des Kantons Solothurn vom 8. März 2010 richtet, handelt es sich beim angefochtenen Entscheid um einen kantonal letztinstanzlichen Endentscheid betreffend die direkten Steuern des Kantons und des Bundes. Hiergegen steht gemäss <ref-law> in Verbindung mit Art. 146 des Bundesgesetzes vom 14. Dezember 1990 über die direkte Bundessteuer (DBG; SR 642.11) bzw. Art. 73 des Bundesgesetzes vom 14. Dezember 1990 über die Harmonisierung der direkten Steuern der Kantone und Gemeinden (Steuerharmonisierungsgesetz, StHG; SR 642.14) die Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht offen. Die Beschwerdeführer sind gestützt auf <ref-law> zur Beschwerde legitimiert. Bezüglich der Eingabe vom 26. April 2010 erweist sich die Beschwerde auch als fristgerecht (<ref-law>). Erst nach Ablauf der gesetzlichen Beschwerdefrist ging dagegen die "ergänzende Akteneingabe" der Beschwerdeführer vom 3. Juni 2010 ein. Bei dieser handelt es sich nicht etwa um eine (zulässige) Stellungnahme zum Vernehmlassungsergebnis, sondern um eine verspätete und damit unzulässige Ergänzung der ursprünglichen Beschwerdeschrift. Die Zuschrift vom 3. Juni 2010 ist deswegen aus den Akten zu weisen.
1.3 Das Bundesgericht legt seinem Urteil die Sachverhaltsfeststellungen der Vorinstanz zugrunde (<ref-law>). Mit einer Beschwerde in öffentlich-rechtlichen Angelegenheiten können diese nur dann gerügt werden, wenn sie offensichtlich unrichtig, d.h. willkürlich sind (<ref-ruling> E. 1.2.2 S. 252; <ref-ruling> E. 7.1 S. 398) oder auf einer Rechtsverletzung im Sinne von <ref-law> beruhen. Zudem ist von den Beschwerdeführern aufzuzeigen, dass die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>).
Zwar wendet das Bundesgericht das Recht von Amtes wegen an (<ref-law>), doch prüft es, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (<ref-law>), nur die geltend gemachten Vorbringen, falls allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.4.1 S. 254). Der Grundsatz der Rechtsanwendung von Amtes wegen gilt ferner nicht, soweit eine Verletzung von Grundrechten und von kantonalem Recht geltend gemacht wird (vgl. <ref-law>). Diesfalls müssen die Beschwerdeführer in ihrer Eingabe präzise und in Auseinandersetzung mit den Ausführungen der Vorinstanz im Einzelnen darlegen, inwiefern der angefochtene Entscheid widerrechtlich sein soll ("qualifizierte Rügepflicht"; vgl. <ref-ruling> S. 1.4.2 S. 254).
Es ist sehr fraglich, ob diese Begründungsanforderungen von den Beschwerdeführern erfüllt wurden und mithin auf die Beschwerde überhaupt eingetreten werden kann, soweit diese denn zulässig ist. Die Frage kann offen bleiben, zumal sich die Beschwerde jedenfalls als unbegründet erweist, wie die nachfolgenden Erwägungen zeigen.
2. 2.1 Betreffend die direkte Bundessteuer können bei Liegenschaften im Privatvermögen die Unterhaltskosten, die Versicherungsprämien und die Kosten der Verwaltung durch Dritte von den steuerbaren Einkünften abgezogen werden (Art. 32 Abs. 2 erster Satz DBG). Nicht abziehbar sind dagegen die übrigen Kosten und Aufwendungen, insbesondere die Aufwendungen für die Anschaffung, Herstellung oder Wertvermehrung von Vermögensgegenständen (<ref-law>). Bis zum 31. Dezember 2009, d.h. auch während der hier im Streit stehenden Steuerperiode 2006, waren zudem Art. 1 Abs. 1 zweiter Satz der Verordnung des Bundesrats vom 24. August 1992 über den Abzug der Kosten von Liegenschaften des Privatvermögens bei der direkten Bundessteuer (SR 642.116; in der bis Ende 2009 gültigen Fassung) sowie Art. 1 Abs. 2 lit. a der Verordnung der Eidgenössischen Steuerverwaltung vom 24. August 1992 über die abziehbaren Kosten von Liegenschaften des Privatvermögens bei der direkten Bundessteuer (SR 642.116.2; in der bis Ende 2009 gültigen Fassung) zu beachten: Gemäss diesen Normen waren die Kosten, die ein Steuerpflichtiger zur Instandstellung einer neuerworbenen, vom bisherigen Eigentümer vernachlässigten Liegenschaft kurz nach der Anschaffung aufwenden musste, nicht abziehbar. Dies entsprach der mit BGE 99 lb 362 begründeten und in <ref-ruling> präzisierten "Dumont-Praxis". Sinn und Zweck dieser Regelung war, dass eine steuerpflichtige Person, die eine im Unterhalt vernachlässigte Liegenschaft kaufte, um sie danach instand zu stellen, steuerlich nicht besser gestellt werden sollte als derjenige Steuerpflichtige, der ein bereits renoviertes Grundstück erwarb (Urteil 2A.480/2004 vom 2. Februar 2005 E. 2.1 publ. in: ASA 75, 488 S. 491 f. mit Hinweis). Die Frage, wann eine Liegenschaft in diesem Sinne als "vernachlässigt" gilt, war nach der bundesgerichtlichen Praxis anhand der konkreten Umstände, namentlich des Alters des erworbenen Gebäudes, der Art und des Umfangs der vorgenommenen Arbeiten, des Verhältnisses zwischen Renovationsaufwand und Erwerbspreis sowie der Höhe des Kaufpreises zu beantworten (Urteil 2C_525/2008 vom 23. Juli 2008 E. 4; 2A.71/2006 vom 21. Juni 2006 E. 3.1.1; 2A.480/2004 vom 2. Februar 2005 E. 2.2 publ. in: ASA 75, 488 S. 492; 2A.389/2003 vom 10. März 2004 E. 2).
2.2 Die Beschwerdeführer behaupten, die Vorinstanz habe die obenstehenden Grundsätze falsch angewandt:
Sie bestreiten, dass sich die von ihnen erworbene Zweitwohnung im Kanton Wallis zum Zeitpunkt des Kaufs in einem vernachlässigten Zustand befunden habe. Sie verweisen darauf, dass sie diese Liegenschaft auch vor Durchführung der erfolgten Unterhaltsarbeiten während mehreren Jahren dem Zweck entsprechend hätten nutzen können.
Zudem rügen die Beschwerdeführer, dass das Steuergericht zu Unrecht von einem unüblich tiefen Kaufpreis ausgegangen sei; vielmehr sei dieser zum Erwerbszeitpunkt marktkonform gewesen und auch heute würden entsprechende Preise für vergleichbare Objekte bezahlt. Hierfür spreche auch, dass die besagte Liegenschaft mit einem Vorkaufsrecht belastet sei: Wäre der Preis damals tatsächlich zu tief angesetzt gewesen, so hätte der Vorkaufsberechtigte mit Sicherheit sein Recht wahrgenommen um in der Folge mittels Weiterverkauf den marktüblichen Preis zu erzielen.
Sodann stellen die Steuerpflichtigen in Abrede, dass die erfolgten Arbeiten zu einer signifikanten Wertvermehrung der Zweitwohnung geführt hätten bzw. es sich dabei sogar um eine Luxuserweiterung handle.
Die Beschwerdeführer sehen sich in ihrer Argumentation im Übrigen dadurch bestätigt, dass der Kanton Wallis, welcher über bessere Kenntnisse der lokalen Gegebenheiten verfüge, in seiner Steuerveranlagung für dieselbe Periode sämtliche Aufwendungen als steuerlich abzugsfähig anerkannt habe.
2.3 Die Einwendungen der Beschwerdeführer gehen offenkundig fehl:
Soweit sie die Marktkonformität des Kaufpreises der Liegenschaft behaupten, ist ihnen entgegenzuhalten, dass sich die Vorinstanz - anders als noch die Veranlagungsbehörde Dorneck-Thierstein - im angefochtenen Urteil überhaupt nicht auf einen angeblich zu tiefen Erwerbspreis abstützt, sondern anhand anderer Kriterien zu ihrem Entscheid gelangte.
Insbesondere führt das Steuergericht aus, es ergebe sich aufgrund der beigebrachten Abrechnungen, dass die Zweitwohnung einem um-fassenden Umbau unterzogen wurde. Diese Auffassung überzeugt: Der Rechnung der Sanitärunternehmung M._ AG über Fr. 13'673.90 ist etwa zu entnehmen, dass das Badezimmer komplett renoviert wurde (Einbau einer neuen Dusche, eines neuen Waschtisches und einer neuen Toilette); die Leistungsabrechnung der Firma N._ AG in Höhe von Fr. 9'097.15 belegt die Sanierung sämtlicher Elektroinstallationen und der Heizungsanlage (Ersetzen des Speicherofens durch Bodenheizung in allen Räumen samt Fernabfrage und -einschaltung) sowie die Aufwertung des Fernseh- und Radioempfangs (Installation einer Satellitenanlage); die Rechnung der Firma O._ AG zeigt schliesslich auf, dass sogar eine komplette Küche im Wert von Fr. 30'560.-- geliefert wurde. Wird eine Liegenschaft in dieser Art umfassend erneuert, spricht die Vermutung dafür, dass die gesamten Aufwendungen wertvermehrenden Charakter hatten (Urteil 2A.71/2006 vom 21. Juni 2006 E. 3.2; Urteil 2A.480/2004 vom 2. Februar 2005 E. 2.3 publ. in: StE 2005 A 23.1 Nr. 10 / ASA 75 S. 488; jeweils mit Hinweisen). Diese Vermutung erhärtet sich aufgrund des Umstandes, dass der geltend gemachte Aufwand rund 25 Prozent des Kaufpreises beträgt und mithin auch unter diesem Gesichtspunkt als sehr beträchtlich erscheint (vgl. Urteil 2A.71/2006 vom 21. Juni 2006 E. 3.1.1). Bei dieser Sachlage ist von der Instandstellung einer zuvor vernachlässigten Liegenschaft bzw. von einer wertvermehrenden Investition auszugehen; dass die Beschwerdeführer geltend machen, die Liegenschaft bereits vor den durchgeführten Arbeiten zweckgemäss genutzt zu haben, ändert daran nichts.
Unbehelflich ist sodann der Hinweis der Beschwerdeführer auf die Veranlagungsverfügung des Kantons Wallis: Betreffend die direkte Bundessteuer liegt die alleinige Zuständigkeit für die Steuererhebung beim Kanton, in welchem ein Pflichtiger am Ende der betreffenden Steuerperiode seinen steuerrechtlichen Wohnsitz hat (<ref-law>), d.h. im vorliegenden Fall beim Kanton Solothurn.
Bezüglich der direkten Bundessteuer ist es demzufolge nicht zu beanstanden, wenn die Vorinstanz den von den Beschwerdeführern beantragten vollumfänglichen Abzug der geltend gemachten Auslagen von den steuerbaren Einkünften verweigerte.
3. Die massgeblichen Bestimmungen im Steuerharmonisierungsgesetz sowie im kantonalen Steuerrecht stimmen mit der damals gültigen Regelung betreffend die direkte Bundessteuer überein (vgl. Art. 9 Abs. 3 StHG; § 39 Abs. 3 und § 41 Abs. 4 lit. e des Steuergesetzes des Kantons Solothurn vom 1. Dezember 1985 [StG/SO]; § 2 Abs. 3 der Steuerverordnung Nr. 16 des Kantons Solothurn; jeweils in der bis zum 31. Dezember 2009 gültig gewesenen Fassung).
Wie bei der direkten Bundessteuer ist die von den Beschwerdeführern ins Recht gelegte Veranlagungsverfügung des Kantons Wallis auch bei den kantonalen solothurnischen Steuern nicht von Bedeutung: Unter Vorbehalt der bundesrechtlichen Regeln zur interkantonalen Steuerausscheidung und zur Vermeidung der interkantonalen Doppelbesteuerung ermittlet jeder Kanton die für die kantonalen Steuern massgebenden Faktoren anhand seiner eigenen Steuerordnung. Dies folgt ohne weiteres aus der grundsätzlichen Steuerhoheit der Kantone, welche ihrerseits aus der subsidiären kantonalen Generalkompetenz (<ref-law>) resultiert.
Für die Staatssteuern ergibt sich somit kein anderes Ergebnis als bezüglich der direkten Bundessteuer (vgl. Urteile 2C_677/2008 vom 29. Mai 2009 E. 4 und 2A.480/2004 vom 2. Februar 2005 E. 3 publ. in: ASA 75, 488 S. 493 f.).
4. Nach dem Ausgeführten erweist sich die Beschwerde sowohl hinsichtlich der direkten Bundessteuer als auch hinsichtlich der Staatssteuer als unbegründet und ist abzuweisen, soweit darauf überhaupt eingetreten werden kann.
Dem Ausgang des Verfahrens entsprechend, sind die Kosten des bundesgerichtlichen Verfahrens den Beschwerdeführern unter Solidarhaft aufzuerlegen (Art. 65 f. BGG). Eine Parteientschädigung ist nicht auszurichten (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten betreffend die direkte Bundessteuer wird abgewiesen, soweit darauf einzutreten ist.
2. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten betreffend die Staatssteuer wird abgewiesen, soweit darauf einzutreten ist.
3. Die Gerichtskosten von Fr. 2'500.-- werden den Beschwerdeführern unter Solidarhaft auferlegt.
4. Dieses Urteil wird den Beschwerdeführern, dem Steueramt und dem Steuergericht des Kantons Solothurn sowie der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 19. Oktober 2010
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Zähndler