Sachverhalt:
A. Mit Verfügung vom 15. Februar 2008 veranlagte die Verwaltung für die Wehrpflichtersatzabgabe des Kantons Schwyz X._ provisorisch für das Ersatzjahr 2006 aufgrund eines taxpflichtigen Einkommens von Fr. _ zu einer Wehrpflichtersatzabgabe von Fr. _. Der Ansatz betrug 3 Prozent des taxpflichtigen Einkommens, angerechnet wurden 2 Tage Zivilschutz im Ersatzjahr. Das taxpflichtige Einkommen enthält Sondereinkommen in der Höhe von Fr. _. Es geht um eine Kapitalleistung aus der gebundenen Selbstvorsorge (Säule 3a). Der Ersatzpflichtige bezog das Kapital im Hinblick auf die Aufnahme einer selbstständigen Erwerbstätigkeit (Vorbezug). Am 16. Juni 2008 erging die definitive Veranlagung.
Mit Einsprache machte der Ersatzpflichtige geltend, nach dem Recht der direkten Bundessteuer würden Kapitalbezüge aus der gebundenen Selbstvorsorge zu einem Fünftel der ordentlichen Tarife besteuert. Das gelte auch für die Wehrpflichtersatzabgabe. Der fragliche Kapitalvorbezug sei somit lediglich zu einem Fünftel zu besteuern. Das Amt für Militär, Feuer- und Zivilschutz des Kantons Schwyz wies die Einsprache am 15. Juli 2008 ab.
B. Mit Entscheid vom 30. Oktober 2008 wies das Verwaltungsgericht des Kantons Schwyz eine Beschwerde des Ersatzpflichtigen ab und auferlegt die Verfahrenskosten dem Beschwerdeführer.
Hiergegen führt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten. Er beantragt sinngemäss, die Kapitalleistung sei in Gutheissung der Beschwerde lediglich zu einem Fünftel zu besteuern. Auf jeden Fall sei der Entscheid über die Verfahrenskosten (Dispositiv Ziff. 2) aufzuheben.
Das Amt für Militär, Feuer- und Zivilschutz des Kantons Schwyz und das Verwaltungsgericht des Kantons Schwyz verzichteten auf die Einreichung einer Vernehmlassung. Die Eidgenössische Steuerverwaltung beantragt Abweisung der Beschwerde.
Erwägungen:
1. Die Beschwerde wurde unter Einhaltung der gesetzlichen Frist (Art. 100 Abs. 1 BGG) und Form (Art. 42 BGG) von einer durch den Entscheid besonders berührten Partei mit einem schutzwürdigen Interesse an dessen Aufhebung oder Änderung (Art. 89 Abs. 1 BGG) eingereicht. Sie richtet sich gegen einen von einer letzten kantonalen oberen Instanz (Art. 86 Abs. 1 lit. d und Abs. 2 BGG) gefällten Endentscheid (Art. 90 BGG) in einer Angelegenheit des öffentlichen Rechts (Art. 82 lit. a BGG). Ein Ausschlussgrund nach Art. 83 BGG liegt nicht vor. Auf die Beschwerde ist einzutreten.
Es kann mit der Beschwerde die Verletzung von Bundesrecht einschliesslich der verfassungsmässigen Rechte geltend gemacht werden (Art. 95 lit. a BGG). Die Verletzung von Grundrechten prüft das Bundesgericht nur, soweit eine solche Rüge vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG).
2. 2.1 Schweizer Bürger, die ihre Wehrpflicht nicht oder nur teilweise durch persönliche Dienstleistung (Militär- oder Zivildienst) erfüllen, haben einen Ersatz in Geld zu leisten (Art. 58 Abs. 3 BV; Art. 1 des Bundesgesetzes über die Wehrpflichtersatzabgabe vom 12. Juni 1959, Fassung vom 6. Oktober 1995 [WPEG, SR 661]). Die Ersatzabgabe wird nach der Gesetzgebung über die direkte Bundessteuer auf dem gesamten Reineinkommen erhoben, das der Ersatzpflichtige im In- und Ausland erzielt (Art. 11 WPEG). Der Ansatz beträgt drei Franken je 100 Franken des taxpflichtigen Einkommens, mindestens aber 200 Franken (Art. 13 Abs. 1 WPEG, Fassung vom 14. Oktober 2002). Ist der Ersatzpflichtige im Zivilschutz eingeteilt, so ermässigt sich die Ersatzabgabe für jeden Tag Schutzdienst, den er im Ersatzjahr geleistet hat, um 4 Prozent (Art. 24 des Bundesgesetzes über den Bevölkerungsschutz und den Zivilschutz vom 4. Oktober 2002 [BZG; SR 520.1] in Verbindung mit Art. 5a der Verordnung über die Wehrpflichtersatzabgabe vom 30. August 1995, Fassung vom 3. September 2003 [WPEV; SR 661.1]).
2.2 Der Wehrpflichtersatz gehört nach traditioneller Einteilung nicht zu den Steuern, sondern zu den Ersatzabgaben (Ernst Höhn, in: Kommentar zur Bundesverfassung vom 29. Mai 1874, 1993 ff., N. 10 zu Art. 18 Abs. 4 aBV). Die Ersatzabgabe ist eine finanzielle Abgeltung und tritt an die Stelle einer nicht erfüllten Naturallast, hier der Pflicht zur persönlichen Dienstleistung. Ihre Höhe wird daher massgeblich durch den Umfang der Primärpflicht bestimmt (Höhn, a.a.O., N. 10 zu Art. 18 Abs. 4 aBV; Klaus A. Vallender, Grundzüge des Kausalabgaberechts, 1976, S. 125). Daraus ergeben sich spezielle Anforderungen an die Ausgestaltung der subjektiven Abgabepflicht, des Steuerobjekts, der Steuersätze sowie der Rückforderung der Abgabe. Gegenstand, Berechnung und Höhe der Abgabe kann nicht einfach nach fiskalischen Gesichtspunkten festgesetzt werden; anzustreben ist ein angemessener Lastenausgleich zwischen demjenigen, der persönlich Dienst leistet, und demjenigen, bei dem das nicht der Fall ist (Vallender, a.a.O., 127 f.; Höhn, a.a.O., N. 12 zu Art. 18 Abs. 4 aBV, Botschaft zur Neuordnung des Militärpflichtersatzes vom 11. Juli 1958, BBl 1958 II S. 340 Ziff. III/2).
Allerdings handelt es sich bei der persönlichen Dienstleistung und bei der Bezahlung der Ersatzabgabe um Leistungen verschiedener Natur, welche nur schwer in Äquivalenz gebracht werden können (vgl. Botschaft vom 11. Juli 1958, a.a.O., BBl 1958 II 358 Ziff. 6/b/aa; s. auch Höhn, a.a.O., N. 3 zu Art. 18 Abs. 4 aBV). Dem Gesetzgeber musste daher bei der Ausgestaltung der Ersatzabgabe, insbesondere bei deren Bemessung und Höhe, ein weiter Spielraum offen gelassen werden; andererseits war unerlässlich, gewisse steuerliche Grundsätze ebenfalls in die Ersatzabgabe einfliessen zu lassen (Botschaft vom 11. Juli 1958, a.a.O., BBl 1958 II 359 Ziff. 6/b/aa). Insbesondere muss die Ersatzleistung auch zur wirtschaftlichen Leistungsfähigkeit des Ersatzpflichtigen in Beziehung gesetzt werden (Botschaft vom 11. Juli 1958, BBl 1958 II 359 ff. Ziff. 6/b). Der Gesetzgeber hatte die Wahl zwischen einem progressiven und einem proportional verlaufenden Tarif. Er entschied sich für eine lineare Ausgestaltung des Tarifs (Art. 13 WPEG) mit festen Abzügen vom Einkommen (Art. 12 WPEG) und gegen einen progressiven Tarif. Es handelt sich um einen Kompromiss, der aber - so die Ansicht des Bundesrats - in Verbindung mit einem mässigen Tarif einerseits und den abgabefreien Abzügen vom Berechnungsobjekt andererseits eine sozial abgewogene Abstufung ergibt (Botschaft vom 11. Juli 1958, a.a.O., BBl 1958 II 366 Ziff. 7a). Eine Erhebung der Ersatzabgabe in Form eines Zuschlags zur Bundessteuer kam schon wegen der stark progressiven Ausgestaltung der Bundessteuer nicht in Frage (Botschaft vom 11. Juli 1958, a.a.O., BBl 1958 II 362 Ziff. 6/b/dd). Der proportionale Tarif wurde auch bei der Revision des Wehrpflichtersatzrechts vom 17. Juni 1994 beibehalten (vgl. Botschaft zur Revision des Bundesgesetzes über den Militärpflichtersatz vom 12. Mai 1993, BBl 1993 II 738 Ziff. 133).
2.3 Für die Bestimmung des Abgabeobjekts - das taxpflichtige Einkommen - konnte hingegen auf die Bestimmungen der direkten Bundessteuer abgestellt werden in dem Sinne, dass die den Gegenstand umschreibenden Bestimmungen des Bundessteuergesetzes auch für die Ersatzabgabe als anwendbar erklärt wurden (Botschaft vom 11. Juli 1958, a.a.O., BBl 1958 II 362 Ziff. 6/b/dd). Das ermöglichte es, bei den Ersatzpflichtigen, die auch der Bundessteuer unterstehen, die Ersatzabgabe aufgrund der Feststellungen in der Steuerveranlagung zu berechnen. Bei der Revision vom 17. Juni 1994 wurde der massgebende Art. 11 WPEG gegenüber dem bisherigen Text noch weiter vereinfacht, indem die Ersatzabgabe immer nach der Gesetzgebung über die direkte Bundessteuer erhoben wird, und zwar auf dem gesamten Reineinkommen, welches der Ersatzpflichtige im In- und Ausland erzielt (Botschaft vom 12. Mai 1993, a.a.O., BBl 1993 II 739 Ziff. 2 ad Art. 11).
3. Wie dargelegt stellt somit das WPEG für die Bestimmung des taxpflichtigen Einkommens (nicht aber für den Tarif, Art. 13 WPEG) auf die Gesetzgebung für die direkte Bundessteuer ab. Es erhebt sich daher vorab die Frage, wie die Kapitalleistung aus der Säule 3a, welche der Beschwerdeführer sich im Hinblick auf die Aufnahme einer selbständigen Erwerbstätigkeit auszahlen liess (Vorbezug), im Recht der direkten Bundessteuer zu behandeln ist.
3.1 Gemäss Art. 16 Abs. 1 DBG unterliegen der Einkommenssteuer alle wiederkehrenden und einmaligen Einkünfte. Nach Art. 22 Abs. 1 DBG sind ferner steuerbar: "alle Einkünfte aus der Alters-, Hinterlassenen- und Invalidenversicherung, aus Einrichtungen der beruflichen Vorsorge und aus anerkannten Formen der gebundenen Selbstvorsorge, mit Einschluss der Kapitalabfindungen und Rückzahlungen von Einlagen, Prämien und Beiträgen". Erfasst werden damit die Einkünfte aus der Säule 1, 2 und 3a entsprechend der Dreisäulen-Konzeption (Art. 111 Abs. 1 BV; vgl. Richner/Frei/Kaufmann, Handkommentar zum DBG, 2003, N. 1 und 4 zu Art. 22 DBG). Diese Einkünfte werden voll besteuert, weil die Prämien, Einlagen und Beiträge zum Erwerb dieser Ansprüche vollumfänglich zum Abzug zugelassen werden (Art. 33 Abs. 1 lit. d und e DBG). Es handelt sich um das sog. Waadtländer-Modell, welches mit dem Inkrafttreten der steuerrechtlichen Bestimmungen in Art. 81-83 BVG (SR 831.40) verwirklicht wurde (vgl. BGE 130 I 205 E. 7 S. 212 ff.; 131 I 409 E. 5.1 S. 414 f.).
Lediglich zu 40 Prozent steuerbar sind nach Art. 22 Abs. 3 DBG "Leibrenten sowie Einkünfte aus Verpfründung". Es geht um Formen der nicht gebundenen Selbstvorsorge, d.h. der Säule 3b. Diese Renten und Einkünfte werden nicht vollumfänglich als Einkommen besteuert, da die zu ihrer Finanzierung aufgewendeten Einlagen, Prämien und Beiträge im Rahmen des allgemeinen Abzugs für Versicherungsprämien und Zinsen von Sparkapitalien gemäss Art. 33 Abs. 1 lit. g nur sehr beschränkt oder überhaupt nicht abgezogen werden können und weil sie eine grundsätzlich nicht steuerbare Kapitalrückzahlungskomponente enthalten.
Bei diesen Fragen geht es aber immer um die Bemessungsgrundlage, das heisst um die Bestimmung des steuerbaren Einkommens bei der direkten Bundessteuer. Von der Bemessungsgrundlage zu unterscheiden ist jedoch die Frage nach dem anwendbaren Tarif.
3.2 Die Tarife und Tariffragen sind im Recht der direkten Bundessteuer in den Art. 36 - 38 DBG geregelt. Art. 36 DBG enthält die ordentlichen Tarife für die Einkommenssteuer. Diese sind nach Einkommensklassen abgestuft und verlaufen progressiv (vgl. BGE 133 I 206 E. 8.1 S. 221). Art. 37 und 38 DBG enthalten Sonderfälle. Kapitalleistungen aus Vorsorge im Sinne von Art. 22 DBG werden gemäss Art. 38 Abs. 1 DBG mit einer besonderen Jahressteuer erfasst. Nach Art. 38 Abs. 2 wird die Steuer zu einem Fünftel des ordentlichen Tarifs nach Art. 36 DBG berechnet. Das bedeutet, dass grundsätzlich die gesamte Kapitalleistung aus Vorsorge besteuert wird, doch wird für die Bestimmung des Steuersatzes nach Art. 36 DBG lediglich ein Fünftel dieser Leistung genommen.
Diese Tarifreduktion soll verhindern, dass der Steuerpflichtige, der eine Kapitalleistung anstelle einer regelmässig fliessenden Rente erhält, aufgrund des progressiven Tarifs in eine Einkommensklasse fällt, die seiner wirtschaftlichen Leistungsfähigkeit nicht angemessen ist (vgl. Richner/Frei/Kaufmann, a.a.O., N. 2 zu Art. 38 DBG). Es handelt sich bei Art. 38 DBG um besondere Vorschriften für die Besteuerung von Kapitalleistungen aus Vorsorge der Säule 1, 2 und 3a. Seit BGE 135 II 195 E. 6.1 und 6.3 S. 198 ff. gilt der reduzierte Tarif auch für Kapitalzahlungen aus der Säule 3b, die nach Art. 22 Abs. 3 DBG zu 40 Prozent steuerbar sind, bezüglich des der Steuer unterliegenden Anteils. Im vorliegenden Fall geht es um einen Vorbezug aus gebundener Vorsorge der Säule 3a.
4. Auf Art. 38 DBG beruft sich auch der Beschwerdeführer. Er macht geltend, dass der Wehrpflichtersatz auf der von ihm bezogenen Kapitalleistung aus der Säule 3a lediglich auf einem Fünftel der Kapitalzahlung zu berechnen sei (vgl. Art. 38 Abs. 2 DBG). Dem ist entgegenzuhalten, dass es sich bei Art. 38 Abs. 2 DBG um eine Vorschrift über den anwendbaren Steuersatz handelt. Tarifvorschriften des DBG sind auf den Wehrpflichtersatz nicht anwendbar, weil das Wehrpflichtersatzrecht einen eigenen (proportionalen) Tarif kennt (Art. 13 WPEG). Das WPEG verweist nur für die Bestimmungen des taxpflichtigen Einkommens auf das Recht der direkten Bundessteuer (Art. 11 WPEG). Der Beschwerdeführer verkennt diese Zusammenhänge, wenn er gestützt auf Art. 38 Abs. 2 DBG geltend macht, dass die fragliche Kapitalleistung aus der Säule 3a dem Wehrpflichtersatz lediglich zu einem Fünftel unterliege.
Die analoge Anwendung von Art. 38 Abs. 2 DBG auf den Wehrpflichtersatz würde auch sachlich zu keinem richtigen Ergebnis führen. Art. 38 Abs. 2 DBG bezweckt, die bei der direkten Bundessteuer stark vorhandene Progression zu brechen bei Kapitalleistungen, die wegen ihrer (einmaligen) Höhe in eine hohe Progressionsklasse führen und damit gegen das Leistungsfähigkeitsprinzip verstossen würden. Derartige Bedenken entfallen beim Wehrpflichtersatz von vornherein, da ein Proportionaltarif zur Anwendung kommt. Entgegen der Ansicht des Beschwerdeführers kann auch keine Rede davon sein, dass Vorsorgeleistungen nur teilweise zu versteuern sind, und zwar weder bei der direkten Bundessteuer noch beim Wehrpflichtersatz (mit Ausnahme der Leistungen aus Leibrenten nach Art. 22 Abs. 3 DBG).
5. Der Beschwerdeführer weist auf eine Praxis der Wehrpflichtersatzbehörden hin, wonach Vorbezüge aus den Säulen 2 und 3 im Rahmen der Wohneigentumsförderung privilegiert zu einem Fünftel besteuert werden. Diese Praxis, welche die Eidgenössische Steuerverwaltung in ihrer Vernehmlassung (insb. Ziff. 3.5) bestätigt, ist nach dem soeben Ausgeführten bundesrechtswidrig. Die massgebenden steuerlichen Vorschriften, die im Rahmen der Wohneigentumsförderung zu beachten sind, sind in Art. 83a BVG (SR 831.40) enthalten. Nach Absatz 1 dieser Vorschrift ist ein Vorbezug aus dem Vorsorgeguthaben für Wohneigentum zum eigenen Bedarf (Art. 30c BVG) als Kapitalleistung aus Vorsorge steuerbar. Der Steuerpflichtige kann aber verlangen, dass ihm die bezahlten Steuern zurückerstattet werden, wenn er den Vorbezug wieder einzahlt (Absatz 2). Diese Vorschriften gelten auch für die direkte Bundessteuer (vgl. Peter Locher, Kommentar zum DBG, Teil I, 2001, N. 18 und 24 zu Art. 22 DBG). Sie sind daher auch für den Wehrpflichtersatz zu beachten. Die Eidgenössische Steuerverwaltung trägt dem Rechnung: Wie bei der direkten Bundessteuer gibt die Rückzahlung des Vorbezugs bei der Wehrpflichtersatzabgabe Anspruch auf Rückzahlung der seinerzeit auf dem Vorbezug bezahlten Ersatzabgabe (Anteil Vorbezug, Vernehmlassung Ziff. 3.3). Insoweit ist gegen ihre Praxisfestlegung nichts einzuwenden. Hinsichtlich der Besteuerung der zum Erwerb von Wohneigentum bezogenen Vorsorgegelder nur zu einem Fünftel wird sie ihre Praxis jedoch ändern müssen. Unter diesen Umständen kann sich auch der Beschwerdeführer nicht auf diese Praxis berufen, da nicht anzunehmen ist, dass die Eidgenössische Steuerverwaltung an ihrer rechtswidrigen Praxis festhalten wird.
6. Der Beschwerdeführer bestreitet die Rechtmässigkeit der Kostenauflage im vorinstanzlichen Verfahren. Er hätte die angefochtene Veranlagung akzeptiert und nicht Beschwerde geführt, wenn die kantonalen Instanzen aufgezeigt hätten, dass die Begünstigung der Wohneigentumsförderung im Rahmen des Wehrpflichtersatzes (vgl. vorstehende E. 5) auf einer gesetzlichen Grundlage beruhe. So aber habe er davon ausgehen müssen, dass er rechtsungleich behandelt werde, da ihm nicht die gleiche tarifliche Vergünstigung zukomme. Mindestens hätte die Vorinstanz bei dieser Sachlage auf eine Kostenerhebung verzichten können.
Diese Vorbringen treffen zu: Im Vergleich zu einem Wohneigentumsbezüger wird der Beschwerdeführer rechtsungleich behandelt. Um gegen diese Rechtsungleichheit vorzugehen, hatte er keine andere Wahl, als eine Gleichbehandlung im Unrecht zu verlangen. Die Beschwerde muss zwar abgewiesen werden, doch werden die Wehrpflichtersatzbehörden ihre rechtswidrige Behandlung zur Wohneigentumsförderung aufgeben müssen. Nicht dispositivmässig, aber im Grundsatz erhält der Beschwerdeführer insoweit Recht. Das rechtfertigt es, den vorinstanzlichen Kostenspruch (Dispositiv Ziff. 2) aufzuheben. Die Vorinstanz wird entscheiden müssen, ob sie ihre Kosten neu verlegen oder von einer Kostenauflage Abstand nehmen will.
7. In der Sache unterliegt der Beschwerdeführer. Dennoch rechtfertigt es sich aus den Gründen, wie sie bereits in Erw. 6 hiervor genannt sind, die Gerichtskosten (Art. 65 BGG) der Eidgenössischen Steuerverwaltung aufzuerlegen (Art. 66 Abs. 1 und 4, e contrario, BGG). Entschädigungspflichtige Parteikosten (Art. 68 BGG) sind nicht entstanden.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird teilweise gutgeheissen und Dispositiv Ziffer 2 des Entscheids des Verwaltungsgerichts des Kantons Schwyz vom 30. Oktober 2008 aufgehoben. Im Übrigen wird die Beschwerde abgewiesen.
2. Die Gerichtskosten von Fr. 1'500.-- werden der Eidgenössischen Steuerverwaltung auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Amt für Militär, Feuer- und Zivilschutz des Kantons Schwyz, dem Verwaltungsgericht des Kantons Schwyz, Kammer II, sowie der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 14. Oktober 2009
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Müller Wyssmann