Sachverhalt:
A. Der im Kanton Solothurn steuerpflichtige X._ machte in seiner Steuererklärung für die Staats- und Bundessteuer 2007 unter der Rubrik "Krankheits- und Unfallkosten" Fr. 2'500.-- geltend und fügte insoweit handschriftlich bei "Schwerhörigk. Batterien f. Hörgerät, PC für Verständigung". Mit definitiver Veranlagung vom 5. Mai 2008 lehnte die Veranlagungsbehörde Thal-Gäu den Abzug der Fr. 2'500.-- mit folgender Begründung ab: "Behinderungsbedingte Kosten. Arztzeugnis fehlt; daher kein Abzug für Schwerhörigkeit". Hiegegen erhob X._ Einsprache. Dieser fügte er eine ärztliche Bestätigung bei, in der attestiert wurde, dass er schwerhörig sei. Mit Entscheid vom 4. Juni 2008 wies die Veranlagungsbehörde die Einsprache ab. Auch die von X._ anschliessend eingereichten Rechtsmittel wies das Kantonale Steuergericht Solothurn mit Urteil vom 3. November 2008 ab.
B. Mit Eingabe vom 6. März 2009 beantragt X._ dem Bundesgericht sinngemäss, das zuletzt erwähnte Urteil des Steuergerichts aufzuheben und den Abzug von behinderungsbedingten Kosten in Höhe von Fr. 2'500.-- anzuerkennen.
C. Das Steuergericht und das Steueramt des Kantons Solothurn ersuchen um Abweisung der Beschwerde, soweit auf diese einzutreten sei. Die Eidgenössische Steuerverwaltung stellt den Antrag, die Beschwerde teilweise gutzuheissen, das Urteil des Steuergerichts aufzuheben und die Sache zur Sachverhaltsergänzung sowie zum Neuentscheid an die Vorinstanz zurückzuweisen.

Erwägungen:
1. Die nicht näher bezeichnete Eingabe vom 6. März 2009 ist als Beschwerde in öffentlich-rechtlichen Angelegenheiten entgegenzunehmen, welche gegen den kantonal letztinstanzlichen Entscheid des Steuergerichts sowohl bezüglich der Bundes- als auch der Staatssteuer zulässig ist (Art. 82 lit. a und 86 Abs. 1 lit. d BGG, Art. 146 BDG [SR 642.11] und Art. 73 StHG [SR 642.14]). Der Beschwerdeführer erklärt zwar, er fechte ein Urteil vom 10. Februar 2009 an; in Wirklichkeit meint er aber das erwähnte Urteil vom 3. November 2008, das vom Steuergericht erst am 10. Februar 2009 versandt wurde. Insoweit ist die Beschwerde vom 6. März 2009 auch fristgerecht eingereicht worden (<ref-law>).
2. Bei der direkten Bundessteuer können von den Einkünften (Art. 16-23 DBG) die Krankheits- und Unfallkosten abgezogen werden, soweit der Steuerpflichtige diese selber trägt und sie fünf Prozent der um die Aufwendungen (Art. 26-33 DBG) verminderten steuerbaren Einkünfte übersteigen (<ref-law>). Steuerpflichtige mit Behinderungen im Sinne des Behindertengleichstellungsgesetzes vom 13. Dezember 2002 (BehiG; SR 151.3) können zudem behinderungsbedingte Kosten gemäss Art. 33 Abs. 1 lit. hbis DBG vollumfänglich von den Einkünften abziehen, soweit sie die Kosten selber tragen. Als Personen mit Behinderung gelten nach <ref-law> diejenigen, denen eine voraussichtlich dauernde körperliche, geistige oder psychische Beeinträchtigung erschwert oder verunmöglicht, alltägliche Verrichtungen vorzunehmen, soziale Kontakte zu pflegen, sich fortzubewegen, sich aus- und fortzubilden oder eine Erwerbstätigkeit auszuüben.
3. Das Steuergericht führt unter Hinweis auf Ziff. 4.1 letzter Absatz des Kreisschreibens Nr. 11 der Eidgenössischen Steuerverwaltung vom 31. August 2005 zum Thema Abzug von Krankheits- und Unfallkosten sowie von behinderungsbedingten Kosten (publ. in: StR 60/2005 S. 795 ff.) aus, eine leichte Behinderung, deren Auswirkungen - wie etwa bei einer Seh- oder Hörschwäche - durch ein Hilfsmittel einfach behoben werden können (Brille oder Hörgerät), gelte nicht als Behinderung. Der Beschwerdeführer könne mit Hilfe eines Hörgerätes offenbar mindestens einen grossen Teil seines Handicaps auffangen. Das eingereichte Arztzeugnis spreche von Schwerhörigkeit und nicht von Gehörlosigkeit. Daher seien die gesetzlichen Voraussetzungen für einen steuerlichen Abzug nicht gegeben.
4. Der Beschwerdeführer hatte dem Steuergericht gegenüber erklärt, er sei am rechten Ohr gehörlos, während die Hörleistung des linken Ohrs weniger als 20% und mit Hörgerät 40% betrage; damit habe er eine schwerwiegende Behinderung, weswegen er unter anderem sämtliche Schulklassen an einer Schwerhörigenschule ausserhalb des Kantons Solothurn besucht habe. Um nicht zu vereinsamen, pflege er Kontakte mit Eltern, Geschwistern und Freunden per sms oder E-Mail. Am Arbeitsplatz könne er kein Telefon entgegennehmen und beantworten. Wegen seiner Behinderung sei es nicht einfach den Anforderungen am Arbeitsplatz immer gerecht zu werden; das sei nur mit grosser Einsicht und viel Verständnis des Arbeitgebers möglich. Auch habe er durch den Besuch spezieller Kurse seinen Arbeitsplatz bis anhin behalten können.
Das Steuergericht zweifelt diese Darstellungen nicht an. Mit Blick darauf erweist sich aber sein Schluss, der Beschwerdeführer könne durch ein Hörgerät einen grossen Teil seines Handicaps auffangen, weshalb er nicht als Person mit Behinderungen im Sinne von Art. 33 Abs. 1 lit. hbis DBG angesehen werden könne, als offensichtlich falsch. Denn es ist insoweit augenfällig, dass die voraussichtlich dauernde Schwerhörigkeit dem Beschwerdeführer wenn schon nicht verunmöglicht, so doch zumindest erschwert, mehreren in <ref-law> aufgelisteten Aktivitäten nachzugehen. Entgegen den Andeutungen der Vorinstanz ist nicht von einer blossen Hörschwäche auszugehen, die durch Inanspruchnahme eines Hörgeräts einfach ausgeglichen werden kann. Wie vom Beschwerdeführer dargestellt, leidet er an einer stärkeren Defizienz seiner Hörfähigkeit. Zudem erhöht sich durch den Einsatz eines Hörgerätes seine Hörleistung auf dem linken Ohr bloss auf 40%, wobei das rechte Ohr gehörlos bleibt. Deshalb ist der Beschwerdeführer - wie die kantonale Steuerverwaltung in ihrer Vernehmlassung an das Bundesgericht nunmehr einräumt - als Behinderter im Sinne von Art. 33 Abs. 1 lit. hbis DBG zu behandeln.
5. Demzufolge kann der Beschwerdeführer gemäss dieser Bestimmung behinderungsbedingte Kosten von den Einkünften abziehen.
5.1 Insoweit macht er einen Betrag von Fr. 2'500.-- geltend. In den Akten finden sich jedoch keine Berechnungen und Belege, wie sich dieser Betrag genau zusammensetzt. Offenbar will der Beschwerdeführer mit dem erwähnten Betrag von Fr. 2'500.-- eine Pauschale geltend machen. Das ergibt sich unter anderem aus einem Informationsblatt, das der Beschwerdeführer seiner Einsprache an die Veranlagungsbehörde beifügte. Jährliche Pauschalabzüge lässt die Eidgenössische Steuerverwaltung gemäss Ziff. 4.4 des erwähnten Kreisschreibens für behinderte Personen zu, die Hilflosenentschädigung beziehen (dazu <ref-law> [SR 831.10] und Art. 42 f. IVG [SR 831.20] in Verbindung mit <ref-law> [SR 830.1]). Unabhängig davon sollen auch "Gehörlose" jährlich Fr. 2'500.-- abziehen dürfen. Ob diese im Gesetz - im Gegensatz zu den Berufskosten nach <ref-law> - nicht ausdrücklich vorgesehenen Pauschalen zulässig sind, braucht hier nicht beantwortet zu werden. Der Beschwerdeführer ist seinen eigenen Angaben zufolge jedenfalls nicht gehörlos, sondern (bloss) schwerhörig. Es ist zudem nicht ersichtlich und wird vom Beschwerdeführer ebenso wenig behauptet, dass er im Jahr 2007 Hilflosenentschädigung bezogen hat. Eine Gleichbehandlung mit den soeben genannten Personenkategorien, die einen Pauschalabzug vornehmen dürfen, drängt sich auch nicht auf. Der Beschwerdeführer hat im Übrigen keine entsprechende - substantiierte - Rüge geltend gemacht (vgl. <ref-law>).
5.2 Demnach kann der Beschwerdeführer keinen Pauschalabzug vornehmen. Vielmehr kann er gemäss Art. 33 Abs. 1 lit. hbis DBG nur die effektiv angefallenen behinderungsbedingten Kosten, die er selber zu tragen hatte, von den Einkünften abziehen. Diese Kosten muss er als steuermindernde Tatsachen entsprechend den allgemeinen Grundsätzen rechtsgenüglich dartun und allenfalls belegen. Der Steuerpflichtige trägt insoweit die Folgen der Beweislosigkeit (vgl. <ref-ruling> E. 4.3 S. 158 f. zur Mehrwertsteuer; zum DBG: Urteile 2C_681/2008 vom 12. Dezember 2008 E. 3.5 und 2C_566/2008 vom 16. Dezember 2008 E. 3; insb. zu Krankheitskosten: 2C_722/2007 vom 14. April 2008 E. 3.2; vgl. auch Ziff. 6 des erwähnten Kreisschreibens). Hat die steuerpflichtige Person im Rahmen des Zumutbaren bei der Sachverhaltsermittlung mitgewirkt, ist bei Unmöglichkeit des strikten Nachweises notorisch steuermindernder Tatsachen freilich nicht ausschliesslich nach der erwähnten Beweislastregel zu entscheiden, sondern es ist der mutmassliche Aufwand zu schätzen (Urteile 2C_708/2007 vom 19. Mai 2008 E. 4.1, in: StR 63/2008 S. 890, und 2C_681/2008 vom 12. Dezember 2008 E. 3.5).
5.3 Das kantonale Steueramt weist in seiner Vernehmlassung an das Bundesgericht zutreffend darauf hin, dass der Beschwerdeführer keinen Nachweis erbracht hat, inwiefern ihm effektiv Kosten angefallen sind. Dieser Einwand wurde von den Vorinstanzen zuvor jedoch nicht erhoben. Es ist daher zu prüfen, ob und wie sich das hier auswirkt.
Der Untersuchungsgrundsatz gilt für die Behörden grundsätzlich auch im Steuerrecht. Demnach nimmt die Veranlagungsbehörde die erforderlichen Untersuchungen vor und stellt zusammen mit dem Steuerpflichtigen die für eine vollständige und richtige Besteuerung massgebenden tatsächlichen und rechtlichen Verhältnisse fest (vgl. Art. 123 und 130 Abs. 1 DBG). Allerdings handelt es sich bei der Einkommenssteuerveranlagung um ein Massenverfahren, wobei dem Steuerpflichtigen eine Wegleitung ausgehändigt wird, die Instruktionen zum Ausfüllen der Steuererklärung und zu den beizufügenden Unterlagen enthält. Der Steuerpflichtige muss das Formular für die Steuererklärung wahrheitsgemäss und vollständig ausfüllen und samt den vorgeschriebenen Beilagen einreichen (<ref-law>). Gemäss <ref-law> muss er alles tun, um eine vollständige und richtige Veranlagung zu erreichen. Daher ist normalerweise zu erwarten, dass der Steuerpflichtige die steuermindernden Tatsachen von sich aus darlegt und nachweist, und nicht erst die Steuerbehörde entsprechende Anfragen stellen muss (erwähntes Urteil 2C_566/2008 E. 3.1).
Vorliegend verhält es sich allerdings anders: Der Beschwerdeführer ging davon aus, er könne als Schwerhöriger einen Pauschalabzug vornehmen. Die Veranlagungsbehörde beanstandete insoweit nur das Fehlen eines Nachweises der Schwerhörigkeit. Da sie diesen Einwand zudem erst in der definitiven Veranlagung erhob, reichte der Beschwerdeführer in der hiegegen gerichteten Einsprache das geforderte ärztliche Attest nach. Ausserdem erwähnte er diverse - wenn auch unbezifferte - Aufwendungen, die zumindest teilweise mit seiner Behinderung im Zusammenhang stehen. Darauf gingen die Vorinstanzen jedoch nicht weiter ein, sondern hielten ihm - wie in Erwägung 3 und 4 hievor dargelegt - zu Unrecht vor, er erfülle bereits die Voraussetzung der Behinderung im Sinne von Art. 33 Abs. 1 lit. hbis DBG nicht. Bei richtiger Beurteilung hätten die Vorinstanzen den Beschwerdeführer hingegen darauf hinweisen müssen, dass er seine behinderungsbedingten Kosten genau zu beziffern bzw. zu belegen habe. Das gilt erst recht, da dieser keine fachkundige Beratung seitens Dritter genoss, tatsächlich behindert ist und offensichtlich der falschen Meinung war, er könne wegen seiner Behinderung einen Pauschalbetrag von den Einkünften abziehen. Statt dessen liessen die Behörden den Beschwerdeführer in seinem diesbezüglichen Irrtum, in welchem sie ihn letztlich dadurch bestärkten, dass sie zum Nachweis des geltend gemachten Abzugs zunächst einzig ein Arztzeugnis über die Schwerhörigkeit verlangten und anschliessend argumentierten, er habe nur eine leichte Behinderung, die keine Abzüge rechtfertige. Aus diesen Gründen können die Steuerbehörden dem Beschwerdeführer nicht erst im bundesgerichtlichen Verfahren das Fehlen eines Kostennachweises entgegenhalten.
Dafür spricht im Übrigen zusätzlich, dass die Wegleitung zur Steuererklärung in Bezug auf Krankheits- und behinderungsbedingte Kosten nur erklärt, es sei eine Aufstellung "oder" Belege über diese Kosten beizulegen; bezüglich anderer Abzüge, die auf der gleichen Seite der Wegleitung aufgelistet sind, wird hingegen von einer Aufstellung "und" Belegen gesprochen, wobei dieses Bindewort dort dann sogar fett gedruckt ist.
6. Dem Dargelegten zufolge ist dem Beschwerdeführer in Bezug auf die Bundessteuer noch Gelegenheit zu geben, die von ihm im Steuerjahr 2007 getragenen behinderungsbedingten Kosten darzutun, zu beziffern und soweit möglich zu belegen. Hierzu ist das angefochtene Urteil aufzuheben und die Sache an die Veranlagungsbehörde Thal-Gäu zurückzuweisen. Diese wird nach erfolgter Sachverhaltsergänzung unter Berücksichtigung vorstehender Erwägungen neu entscheiden müssen.
7. Was die Staatssteuer 2007 anbetrifft, stimmen die massgeblichen kantonalrechtlichen Bestimmungen mit den Beurteilungsgrundlagen bei der direkten Bundessteuer überein (§§ 41 Abs. 1 lit. m, 127, 140, 142 und 147 des Solothurner Gesetzes vom 1. Dezember 1985 über die Staats- und Gemeindesteuern). Auch die Vorinstanzen treffen diesbezüglich keine Unterscheidungen. Zudem hat der Bundesgesetzgeber insoweit weitgehend eine vertikale Harmonisierung zwischen kantonalem und Bundesrecht verwirklicht (vgl. Art. 9 Abs. 2 lit. hbis, 42 und 46 Abs. 1 StHG). Daher kann für die Staatssteuer auf vorstehende Ausführungen zur Bundessteuer verwiesen werden.
8. Dem Verfahrensausgang entsprechend und angesichts der von der Steuerverwaltung Solothurn verfolgten Vermögensinteressen hat der Kanton Solothurn die bundesgerichtlichen Kosten zu tragen (Art. 65 und 66 Abs. 1 und 4 BGG). Da der Beschwerdeführer weder vor Bundesgericht noch bei der Vorinstanz vertreten war, entfällt praxisgemäss eine Parteientschädigung (vgl. <ref-law>; <ref-ruling> E. 4 S. 446).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, das Urteil des Kantonalen Steuergerichts Solothurn vom 3. November 2008 aufgehoben und die Sache zur Sachverhaltsergänzung und neuem Entscheid im Sinne der Erwägungen an die Vorinstanz zurückgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Kanton Solothurn auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Steueramt des Kantons Solothurn, dem Kantonalen Steuergericht Solothurn und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 28. September 2009
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Müller Merz