Sachverhalt:
A. Mit Einsprache gegen die definitive Veranlagung 2005 beantragten die Steuerpflichtigen A.X._ und B.X._ u.a., es seien die Kosten der Handelsschule für die Ausbildung ihres Sohnes (geb. 1988) zum Kaufmann von Fr. 14'039.-- zuzüglich Wegkosten und Kosten der auswärtigen Verpflegung als Weiterbildungskosten zum Abzug zuzulassen. Die Steuerkommission der Gemeinde gab der Einsprache in diesem Punkt nicht statt.
Mit Rekurs an das Steuerrekursgericht des Kantons Aargau beantragten die Steuerpflichtigen erneut, es seien die Weiterbildungskosten für den Sohn, bereinigt um den Kinderabzug von Fr. 6'400.--, zum Abzug zuzulassen. Das Steuerrekursgericht wies das Rechtsmittel am 24. Juni 2010 ab.
B. Mit Beschwerde an das Verwaltungsgericht des Kantons Aargau machten die Steuerpflichtigen erstmals geltend, dass die Weiterbildungskosten für den Sohn als Krankheitskosten, nämlich als Folge seines von der Invalidenversicherung (IV) anerkannten Geburtsgebrechens (infantiles psychoorganisches Syndrom, POS), abziehbar seien. Das Geburtsgebrechen sei bereits mit Urteil des Steuerrekursgerichts des Kantons Aargau vom 25. Oktober 2007 bei der Steuerveranlagung 2002 anerkannt und die damaligen Kosten für den Besuch einer privaten Grundschule seien zum Abzug zugelassen worden.
Das Verwaltungsgericht holte beim früheren Hausarzt einen ärztlichen Bericht ein. Dieser bestätigte ein hirnorganisches Psychosyndrom, konnte aber über den Gesundheitszustand im Jahr 2005 keine Angaben machen. Mit Urteil vom 1. Juni 2011 wies das Verwaltungsgericht des Kantons Aargau die Beschwerde ab. Zur Begründung wurde im Wesentlichen ausgeführt, es sei nicht nachgewiesen, dass der Besuch der Privatschule die einzig mögliche und notwendige Massnahme für die angemessene schulische Ausbildung des Sohnes dargestellt habe. Demzufolge könne auch offenbleiben, ob eine Behinderung im Jahre 2005 vorgelegen habe, und könne auf die Einholung eines ärztlichen Gutachtens verzichtet werden.
C. Gegen den Entscheid des Verwaltungsgerichts des Kantons Aargau vom 1. Juni 2011 führen A.X._ und B.X._ Beschwerde beim Bundesgericht mit dem Antrag, es seien die Kosten für den Besuch der privaten Handelsschule in der Höhe von Fr. 18'785.-- (einschliesslich Verpflegungs- und Fahrtkosten) als durch die Behinderung bedingte Kosten zum Abzug zuzulassen.
Das Steueramt des Kantons Aargau schliesst auf Abweisung der Beschwerde. Die Eidgenössische Steuerverwaltung und das Verwaltungsgericht des Kantons Aargau stellten keine Anträge.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen den Entscheid des Steuergerichts des Kantons Aargau über die Kantons- und Gemeindesteuern ist zulässig (Art. 82 ff., 86 Abs. 1 lit. d und Abs. 2 BGG; Art. 73 StHG [642.14]). Die Beschwerdeführer sind zur Beschwerde legitimiert (<ref-law>).
1.2 Mit der Beschwerde kann nach <ref-law> die Verletzung von Bundesrecht gerügt werden, von kantonalem Recht nur in den Fällen von lit. c-e dieser Vorschrift. Die Verletzung von kantonalem Recht bildet keinen eigenständigen Rügegrund. Im vorliegenden Fall geht es um die Kantons- und Gemeindesteuern 2005. Soweit die Vorinstanz kantonales Recht anzuwenden hatte, kann daher im Wesentlichen nur geltend gemacht werden, der angefochtene Entscheid verstosse gegen Normen des Bundesrechts (<ref-law>) und namentlich über die Steuerharmonisierung oder gegen verfassungsmässige Rechte und Grundsätze (<ref-ruling> E. 4.2.2 S. 158; <ref-ruling> E. 3 S. 351; <ref-ruling> E. 1.2 S. 382 f.). Die Frage des abzugsfähigen Aufwandes und der allgemeinen Abzüge im Einkommenssteuerrecht ist von Bundesrechts wegen harmonisiert. Das Bundesgericht prüft daher die Anwendung der harmonisierten Normen frei.
2. 2.1 Gemäss Art. 9 Abs. 1 des Bundesgesetzes über die Harmonisierung der direkten Steuern der Kantone und Gemeinden vom 14. Dezember 1990 (StHG; SR 642.14) werden von den gesamten steuerbaren Einkünften die zu ihrer Erzielung notwendigen Aufwendungen und die allgemeinen Abzüge abgerechnet. Zu den notwendigen Aufwendungen gehören nach dieser Vorschrift auch "die mit dem Beruf zusammenhängenden Weiterbildungs- und Umschulungskosten". Damit soll nach dem Willen des Gesetzgebers das gleiche Kriterium angewendet werden wie bei den Gewinnungskosten Selbständigerwerbender, die gemäss Art. 10 Abs. 1 StHG die "geschäfts- oder berufsmässig begründeten Kosten" abziehen können. Art. 9 Abs. 1 StHG findet seine Entsprechung in § 35 Abs. 1 lit. e des Steuergesetzes des Kantons Aargau vom 15. Dezember 1998 (StG).
Als "mit dem Beruf zusammenhängende Weiterbildungskosten" sind indessen nur solche Kosten abziehbar, die im Rahmen des bereits erlernten und ausgeübten Berufs anfallen, nicht dagegen "Ausbildungskosten" für die erstmalige Aufnahme einer Berufstätigkeit bzw. für einen neuen (oder zusätzlichen) Beruf. Das folgt aus Art. 9 Abs. 4 StHG zwar nur indirekt ("andere Abzüge sind nicht zulässig"), wird aber in <ref-law> und in § 41 lit. b StG ausdrücklich statuiert. Auslagen, die anfallen, um die notwendigen Fähigkeiten und Kenntnisse zur Ausübung eines eigentlichen Berufs zu erlernen (z.B. Lehre, Handelsschule, Matura, Studium, Nachdiplomstudien usw.), sind demnach als Lebenshaltungskosten nicht abziehbar (<ref-ruling> E. 3d S. 34; <ref-ruling> E. 2a; Urteile 2C_28/2011 vom 15. November 2011 E. 2.1 f.; 2C_750/2009 vom 26. Mai 2010, E. 2.2.1, in: StR 65/2010 S. 675; 2C_589/2007 vom 9. April 2008, E. 3.2, in: StE 2008 B 22.3 Nr. 96; je mit weiteren Hinweisen). Kosten für die Ausbildung minderjähriger Kinder und volljähriger Kinder in Ausbildung werden nur durch die kantonalen Kinderzulagen bzw. Familientarife (teilweise) aufgefangen (§ 42 Abs. 1 lit. a StG; vgl. Daniel Aeschbach, in: Kommentar zum Aargauer Steuergesetz, Bd. 1, 3. Aufl. 2009, N. 14a zu § 42 StG).
2.2 Um nicht abziehbare Ausbildungskosten geht es auch im vorliegenden Fall. Wie die Beschwerdeführer im kantonalen Verfahren ausgeführt und belegt haben, schloss ihr Sohn seine Ausbildung an der C._ - eine Schule des Verbands Schweizerischer Handelsschulen (VSH) - im Jahr 2004 mit dem Bürofachdiplom VSH ab. Anschliessend absolvierte er eine kaufmännische Ausbildung. Er erwarb im Jahr 2006 das Handelsdiplom VSH und im Jahre 2007 das Eidgenössische Fähigkeitszeugnis als Kaufmann mit erweiterter Grundbildung (wobei vorliegend nur die Ausbildungskosten für das Jahr 2005 in Frage stehen). Es geht dabei um die gewöhnliche (ordentliche) Ausbildung im Rahmen einer Handelsschule. Die Beschwerdeführer machten denn auch in der Vorinstanz zu Recht nicht mehr geltend, dass die fraglichen Kosten als Weiterbildungskosten abziehbar seien.
3. Zu prüfen ist, ob die Kosten der Ausbildung des Sohnes der Beschwerdeführer zum kaufmännischen Angestellten und Kaufmann mit Handelsdiplom VSH als behinderungsbedingte Kosten von den steuerbaren Einkünften abgezogen werden können.
3.1 Art. 9 Abs. 2 lit. hbis des Bundesgesetzes über die Harmonisierung der direkten Steuern der Kantone und Gemeinden (StHG; SR 642.14) lautet:
"Allgemeine Abzüge sind: ... die behinderungsbedingten Kosten des Steuerpflichtigen oder der von ihm unterhaltenen Personen mit Behinderungen im Sinne des Behindertengleichstellungsgesetzes vom 13. Dezember 2002, soweit der Steuerpflichtige die Kosten selber trägt".
Diese Bestimmung wurde durch Anhang Ziff. 3 des Bundesgesetzes über die Beseitigung von Benachteiligungen von Menschen mit Behinderungen (Behindertengleichstellungsgesetz, BehiG; SR 151.3) eingefügt und auf den 1. Januar 2005 in Kraft gesetzt. Eine Anpassungsfrist ist den Kantonen nicht eingeräumt worden. Der Kanton Aargau hat die gleichlautende Bestimmung in § 40 lit. ibis seines Steuergesetzes vom 15. Dezember 1998 erst auf den 1. Januar 2007 in Kraft gesetzt. Betroffen ist vorliegend die Steuerperiode 2005. Art. 9 Abs. 2 lit. hbis StHG findet daher im vorliegenden Fall direkt Anwendung (Art. 72 Abs. 2 SHG). Davon ging auch die Vorinstanz aus.
3.2 Als Mensch mit Behinderung gilt gemäss <ref-law> eine Person, der es eine voraussichtlich dauernde körperliche, geistige oder psychische Beeinträchtigung erschwert oder verunmöglicht, alltägliche Verrichtungen vorzunehmen, soziale Kontakte zu pflegen, sich fortzubewegen, sich aus- oder fortzubilden oder eine Erwerbstätigkeit auszuüben. Um abzugsfähig zu sein, müssen die Kosten als direkte Folge einer Behinderung im Sinne von <ref-law> anfallen. Auf die Therapie oder Therapiefähigkeit kommt es für den Begriff der Behinderung nicht an; es geht nicht um die Beseitigung oder Milderung des Gebrechens. Das Behindertengleichstellungsgesetz bezweckt vielmehr die soziale und berufliche Integration trotz des Gebrechens.
Der gleichstellungsrechtliche Begriff der Behinderung in der Bundesverfassung (<ref-law>) und im Gleichstellungsgesetz ist auch mit dem Begriff der Invalidität im Sinn des Rechts über die Invalidenversicherung (IV) nicht deckungsgleich (Margrith Bigler-Eggenberger, in: Die schweizerische Bundesverfassung, 2. Aufl. 2008, N. 100 zu <ref-law>; Peter Uebersax, Der Anspruch Behinderter auf ausreichende Schulung und Sonderschulung, in: Kinder und Jugendliche mit Behinderungen, 2011, S. 31 f.). Während die Invalidenvorsorge und -versicherung vor allem die durch die Arbeitsunfähigkeit entstandene Erwerbsunfähigkeit abdeckt, geht es beim Behinderungsbegriff im Sinne von <ref-law> und des Behindertengleichstellungsgesetzes um die soziale und berufliche Integration behinderter Menschen als vollwertige Mitglieder der Gesellschaft (ausführlich Uebersax, a.a.O., S. 32 ff.; s. auch <ref-ruling> E. 6.1). Aus dieser Sicht ist zu beurteilen, ob die zum Abzug beantragten Kosten einer Massnahme zur Integration von körperlich, geistig und psychisch behinderten Menschen in die Gesellschaft dienen oder nicht. Zu beachten ist, dass solche Kosten - gleich wie auch die Abzüge für Krankheitskosten (Urteil 2C_103/2009 vom 10. Juli 2009 E. 2.1 mit Hinweis, in: StE 2009 B 27.5 Nr. 15) - von den Lebenshaltungs- und Luxuskosten abzugrenzen sind.
3.3 Diese Überlegungen sind namentlich im Bildungsbereich von erheblicher Bedeutung, weil Bildung stets zu besseren Integrationschancen führt. Die Förderung behinderter Menschen gerade im Bildungsbereich kommt jetzt auch in dem - hier freilich noch nicht anwendbaren - <ref-law> (Anspruch auf Sonderschulung aller behinderten Kinder bis zum vollendeten 20. Altersjahr, in Kraft seit 1. Januar 2008) zum Ausdruck und entspricht auch einer der Zielsetzungen des Behindertengleichstellungsgesetzes (hierzu ausführlich Uebersax, a.a.O., S. 32 f. und 35 ff.).
Da der berufliche Erwerb für die meisten Menschen die wirtschaftliche Existenz sichert, sollen auch Jugendliche mit Lernbehinderungen einen ihren Fähigkeiten entsprechenden Beruf erlernen können. Gemäss <ref-law> soll durch entsprechende Rahmenbedingungen den Menschen mit Behinderungen erleichtert werden, am gesellschaftlichen Leben teilzunehmen und insbesondere selbständig soziale Kontakte zu pflegen, sich aus- und fortzubilden und eine Erwerbstätigkeit auszuüben. Das Behindertengleichstellungsgesetz sieht daher auch eine Förderung von behinderten Jugendlichen bei der Ausbildung vor, indem z.B. die Verwendung von behindertenspezifischen Hilfsmitteln und der Beizug notwendiger persönlicher Assistenz ermöglicht und die Dauer und Ausgestaltung des Bildungsangebots den spezifischen Bedürfnissen Behinderter angepasst wird (Art. 1 in Verbindung mit Art. 2 Abs. 5 lit. a und b BehiG; vgl. Botschaft des Bundesrats vom 11. Dezember 2000, BBl 2001 1727 f. Ziff. 2.1.3.3). Bei Betroffenen im Kindes- und jugendlichen Alter, denen der alleinige Besuch der Regelschule nicht möglich ist oder die mit dem Besuch der ordentlichen Ausbildungsstätten aufgrund ihrer Behinderung das Bildungs- oder Berufsziel nicht erreichen können, kommen vor allem sonderpädagogische Massnahmen zum Tragen (Uebersax, a.a.O., S. 33). Das gilt namentlich auch bei Sprach- und Aufmerksamkeitsstörungen (etwa bei einem POS), wo sich der Besuch einer Privatschule oder einer anderen privaten Institution unter Umständen als adäquate Massnahme erweisen kann (s. auch das Urteil des aargauischen Verwaltungsgerichts vom 20. Januar 2006, in: StE 2007 B 27.5 Nr. 12 in Bezug auf Legasthenie).
3.4 Im Kreisschreiben Nr. 11 vom 31. August 2005, Ziffer 4.3.10, hat die Eidgenössische Steuerverwaltung die Kriterien aufgestellt, wann die durch den Besuch einer Privatschule bedingten Mehrkosten als behinderungsbedingte Kosten zu verstehen sind. Solche Kosten liegen dann vor, wenn es sich beim Besuch der Privatschule um die einzig mögliche und notwendige Massnahme für eine angemessene schulische Ausbildung des behinderten Kindes handelt. Nach dem Kreisschreiben muss die Notwendigkeit der Massnahme durch einen Bericht des kantonalen schulpsychologischen Dienstes nachgewiesen sein.
In der kantonalen Rechtsprechung hat namentlich das Verwaltungsgericht des Kantons Luzern in einem Entscheid vom 25. November 2008 (LGVE 2008 II Nr. 19) diese Kosten näher umschrieben und zum genannten Kreisschreiben Stellung genommen: Dass die Kosten einer Privatschule als notwendig erscheinen müssen, ergibt sich aus dem Kausalzusammenhang, der zwischen der Behinderung und den Mehrkosten für die Privatschule bestehen muss. Hingegen erweise sich das weitere Element, dass es sich um die einzig mögliche Massnahme handeln muss, als zu eng, weil sie andere gleichwertige Massnahmen ausschliesst (E. 4a/bb/ccc). Es sei daher im Einzelfall zu prüfen, ob eine andere, weniger kostspielige oder weitergehende Anordnung nicht ebenfalls zum Erfolg führen würde. Dabei müsse es für den Steuerpflichtigen auch möglich sein, den Nachweis durch ein Fachgutachten erbringen zu können, wenn ein Bericht des schulpsychologischen Dienstes nicht erhältlich ist. - Diesen Ausführungen ist beizupflichten, zumal es um den Grundsatz der freien (richterlichen) Beweiswürdigung geht (s. auch Zigerlig/Jud, in: Kommentar zum Schweizerischen Steuerrecht, I/2a, 2. Aufl. 2008, N. 32za zu <ref-law>).
3.5 Vorliegend geht es nicht um die Grundschulausbildung, sondern um die Berufsausbildung (Erstausbildung) eines Jugendlichen oder jungen Erwachsenen. Diese gehört wie die Schulausbildung zur elementaren Ausbildung, weshalb auch hier Diskriminierungen auftreten können, sofern behinderungsbedingt, wegen eines körperlichen oder psychischen Gebrechens, es der betreffenden Person nicht möglich ist, eine ihren handwerklichen und/oder geistigen Fähigkeiten angemessene Ausbildung zu absolvieren (<ref-law>). Art. 9 Abs. 2 hbis StHG und der gleichlautende Art. 33 Abs. 1 hbis DBG knüpfen wie das Behindertengleichstellungsgesetz an <ref-law> an, der nicht nur die soziale, sondern auch die berufliche Integration bezweckt (vgl. vorstehende E. 3.3; ferner Botschaft des Bundesrats vom 11. Dezember 2000, BBl 2001 1791 Ziff. 4.4.2). Sofern die Kosten einer Privatschule für die berufliche Ausbildung wegen der Behinderung notwendig und mit Blick auf andere Ausbildungsmöglichkeiten angemessen erscheint, sind sie daher abzugsfähig.
3.6 Es ist erstellt, dass der Sohn der Beschwerdeführer an einer Behinderung im Sinne von <ref-law> leidet. Es besteht bei ihm von Geburt an ein hirnorganisches Psychosyndrom (POS, Geburtsgebrechen Ziff. 404 gemäss Anhang zur Verordnung über Geburtsgebrechen vom 9. Dezember 1985, GgV; SR 831.232.21) mit schweren psychomotorischen und sprachlichen Störungen. Deswegen wurde er auch jahrelang therapiert. Dieser gesundheitlichen Probleme wegen besuchte er in den Jahren 2002 bis 2004 eine private Sonderschule. Er hätte in den sehr grossen Klassen der Sekundar- oder Realschule nicht bestehen können, wie der Hausarzt in seinem Bericht an die Vorinstanz festhielt.
Nach Beendigung der ordentlichen Schulzeit ab 2004 absolvierte der Sohn der Beschwerdeführer aber vollzeitlich eine Ausbildung zum kaufmännischen Angestellten und Kaufmann an der erwähnten privaten Handelsschule. Dabei geht es um die gewöhnliche Berufsausbildung, wie sie auch den nichtbehinderten Personen offensteht. Es ist nicht nachgewiesen, dass der Sohn der Beschwerdeführer wegen seiner Behinderung in schulischer Hinsicht zusätzlicher Betreuung bedurfte. Die intellektuellen Fähigkeiten sind nicht eingeschränkt, wie auch der Bericht des Hausarztes zeigt. Auch die Sprachstörungen haben ihn an der erfolgreichen Absolvierung der Schule nicht gehindert. Es sind keine behinderungsbedingten Kosten zu sehen, die zum Abzug zugelassen werden könnten.
3.7 Die Beschwerdeführer wollen die Abzugsfähigkeit des Aufwandes für die private Handelsschule damit begründen, dass ihr Sohn aufgrund seiner Behinderung keine Lehre habe absolvieren können; der "ungewöhnliche Weg über eine Privatschule" sei nur aus diesem Grund gewählt worden. Das mag zutreffen, ist aber nicht entscheidend. Die Beschwerdeführer lassen ausser Acht, dass sowohl die Ausbildung an einer Handelsschule zum kaufmännischen Angestellten und Kaufmann wie auch die Absolvierung einer Lehre in einem kaufmännischen Betrieb und Besuch einer kaufmännischen Berufsfachschule vollwertige Berufsausbildungszweige darstellen. Die Handelsschule ist nicht Surrogat der Berufslehre und umgekehrt. Bereits aus diesem Grund kann nicht gesagt werden, der Sohn der Beschwerdeführer habe behinderungsbedingt Mehrkosten gehabt gegenüber Nichtbehinderten, welche die gleiche Schule besuchen. Es ist vielmehr festzustellen, dass er trotz seiner Behinderung eine private Handelsschule erfolgreich absolvieren und bestehen konnte. Aus diesem Grund handelt es sich vorliegend beim Aufwand für den Besuch der privaten Handelsschule nicht um behinderungsbedingte Kosten, die zum Abzug zugelassen werden müssen.
3.8 Die Vorinstanz hat den Abzug daher zu Recht verweigert. Allerdings bedarf ihre Begründung gewisser Korrekturen. Sie ist der Ansicht, dass im Jahr 2005 eine Behinderung im Sinne von <ref-law> nicht mehr bestand; eine Persistenz der Krankheit bis ins Erwachsenenalter sei nicht anzunehmen. Solche Aussagen ohne gesicherte, d.h. durch eine medizinische Fachperson oder Fachstelle bestätigte Erkenntnisse sind aber eher spekulativ. Immerhin hat auch der Hausarzt, bei dem der Sohn der Beschwerdeführer in den Jahren 2001 und 2002 in allgemeinärztlicher Behandlung stand, gegenüber der Vorinstanz bestätigt, dass die Störung des Redeflusses "erst allmählich, sicher erst nach 2005" gemildert werden konnte (Bericht vom 10. März 2011). Das würde eher dafür sprechen, dass sich das Gebrechen und die Sprachstörungen auch im Jahre 2005 noch nachteilig auswirkten.
Entscheidend ist jedoch, dass vorliegend eine Lösung auf dem normalen Bildungsweg gefunden werden konnte und keine zusätzlichen Sondermassnahmen erforderlich waren. Die Frage, ob der Sohn der Beschwerdeführer auch eine kaufmännische Lehre hätte absolvieren können, stellt sich daher nicht. Mit diesen Präzisierungen kann der angefochtene Entscheid des Verwaltungsgerichts bestätigt werden.
4. Das führt zur Abweisung der Beschwerde. Als unterliegende Partei haben die Beschwerdeführer die Kosten des bundesgerichtlichen Verfahrens zu tragen; sie haften hierfür solidarisch (Art. 65 und 66 Abs. 1 und 5 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 1'500.-- werden den Beschwerdeführern unter solidarischer Haftung auferlegt.
3. Dieses Urteil wird den Parteien, dem Steueramt des Kantons Aargau, dem Verwaltungsgericht des Kantons Aargau, 2. Kammer, und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 16. Dezember 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Wyssmann