Erwägungen:
1. Aufgrund eines chemisch-toxikologischen Gutachtens der Universität Zürich entzog das Verkehrsamt des Kantons Schwyz X._ mit Verfügung vom 29. April 2010 den Führerausweis für die Dauer von drei Monaten. Dagegen erhob X._ am 26. Mai 2010 Beschwerde. Das Verwaltungsgericht des Kantons Schwyz wies mit Entscheid vom 18. August 2010 die Beschwerde ab, soweit es darauf eintrat. Zur Begründung führte es zusammenfassend aus, dass der beim Beschwerdeführer festgestellte THC Wert den in Art. 34 der Verordnung des ASTRA zur Strassenverkehrskontrollverordnung vom 22. Mai 2008 (SR 741.013.1) festgelegte Grenzwert zum Nachweis von Betäubungsmittel um das 6,3 Fache überschritten habe. Die Fahrunfähigkeit des Beschwerdeführers gelte als erstellt, weshalb die Beschwerde abzuweisen sei.
2. X._ führt mit Eingabe vom 5. Oktober 2010 Beschwerde in öffentlich-rechtlichen Angelegenheiten sowie subsidiäre Verfassungsbeschwerde gegen den Entscheid des Verwaltungsgerichts des Kantons Schwyz vom 18. August 2010. Das Bundesgericht verzichtet auf die Einholung von Vernehmlassungen.
3. Angefochten ist ein kantonal letztinstanzlicher Entscheid über einen Führerausweisentzug. Dagegen steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten nach Art. 82 ff. BGG offen; ein Ausnahmegrund ist nicht gegeben (Art. 83 BGG). Für die subsidiäre Verfassungsbeschwerde bleibt damit kein Raum (Art. 113 BGG).
4. Nach Art. 42 Abs. 2 BGG ist in der Begründung einer Beschwerde in gedrängter Form darzulegen, inwiefern der angefochtene Entscheid Recht verletzt. Die Bestimmungen von Art. 95 ff. BGG nennen die vor Bundesgericht zulässigen Beschwerdegründe.
Der Beschwerdeführer legt nicht dar, inwiefern das Verwaltungsgericht des Kantons Schwyz Recht im Sinne von Art. 42 Abs. 2 BGG verletzt haben sollte, als es die Beschwerde abwies, soweit es darauf eintrat. Da die vom Beschwerdeführer vorgebrachten Ausführungen keine hinreichende Auseinandersetzung mit den Entscheidgründen des angefochtenen Entscheids darstellen, ist mangels einer genügenden Begründung im Sinne von Art. 42 Abs. 2 BGG auf die Beschwerde nicht einzutreten. Der Begründungsmangel ist offensichtlich, weshalb über die Beschwerde im vereinfachten Verfahren nach Art. 108 Abs. 1 lit. b BGG entschieden werden kann.
5. Angesichts der Aussichtslosigkeit des Verfahrens ist dem Gesuch um unentgeltliche Rechtspflege und Beiordnung eines Rechtsbeistandes nicht zu entsprechen (Art. 64 Abs. 1 und 2 BGG). Auf eine Kostenauflage kann indessen verzichtet werden (Art. 66 Abs. 1 BGG).
Demnach erkennt der Präsident:
1. Auf die Beschwerde wird nicht eingetreten.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Es werden keine Kosten erhoben.
4. Dieses Urteil wird dem Beschwerdeführer sowie dem Verkehrsamt und dem Verwaltungsgericht des Kantons Schwyz, Kammer III, schriftlich mitgeteilt.
Lausanne, 7. Oktober 2010
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Féraud Pfäffli