Fatti:
A. A._ è nato il 9 giugno 1988 ed ha conseguito l'8 gennaio 2007 la licenza di condurre, rilasciata in prova, per le categorie B e B1. Nei suoi confronti non risultano registrate precedenti misure amministrative.
B. Il 23 maggio 2008, verso le 19.30, A._ circolava alla guida della propria autovettura sulla semiautostrada in territorio di Donat (GR) ad una velocità superiore al limite massimo consentito di 100 km/h. La polizia ha accertato mediante un apparecchio radar, dedotto il margine di tolleranza, una velocità punibile di 132 km/h. Con mandato penale del 24 luglio 2008, il presidente del Circolo di Schams lo ha riconosciuto colpevole di grave violazione delle norme della circolazione e lo ha condannato a una pena pecuniaria di 10 aliquote giornaliere di fr. 90.-- ciascuna, sospesa condizionalmente per due anni, e al pagamento di una multa di fr. 800.--.
C. Dopo avere comunicato all'interessato l'apertura di un procedimento amministrativo e concessagli la facoltà di esprimersi, con decisione del 24 luglio 2008 la Sezione della circolazione del Dipartimento delle istituzioni del Cantone Ticino gli ha revocato la licenza di condurre per la durata di tre mesi ed ha prorogato di un anno il periodo di prova. L'autorità cantonale lo ha comunque autorizzato a condurre veicoli delle categorie speciali G e M. Questo provvedimento è stato confermato, su ricorso del conducente, dal Consiglio di Stato con risoluzione del 17 settembre 2008.
D. Con sentenza del 4 novembre 2008 il Tribunale cantonale amministrativo ha respinto un ricorso di A._ contro la risoluzione governativa. La Corte cantonale ha ritenuto giustificato il provvedimento, siccome l'entità del superamento di velocità era tale da costituire un'infrazione grave ai sensi dell'art. 16c cpv. 1 lett. a LCStr. La durata della revoca rispettava d'altra parte il principio della proporzionalità, corrispondendo al minimo previsto dalla legge nel caso di una simile infrazione.
E. A._ impugna questa sentenza con un ricorso in materia di diritto pubblico e un ricorso sussidiario in materia costituzionale al Tribunale federale, chiedendo di annullarla. Sostiene essenzialmente, che nella fattispecie occorrerebbe riconoscere la commissione di un'infrazione medio grave, ritenuto che, quale principale deterrente, sarebbe comunque mantenuta la possibilità di annullare la licenza di condurre in prova, nel caso di un'eventuale ulteriore infrazione comportante la revoca della licenza.
F. La Corte cantonale si riconferma nella sua sentenza. Il Consiglio di Stato si rimette al giudizio del Tribunale federale, mentre la Sezione della circolazione non presenta osservazioni nel merito del gravame. Invitato ad esprimersi, l'Ufficio federale delle strade ne postula la reiezione.
Con decreto presidenziale dell'8 gennaio 2009 è stato conferito l'effetto sospensivo al gravame.
Diritto:
1. 1.1 Il ricorso in materia di diritto pubblico ai sensi degli art. 82 segg. LTF è di principio dato contro le decisioni prese in ultima istanza cantonale riguardanti i provvedimenti amministrativi di revoca della licenza di condurre. Il ricorrente, che ha partecipato al procedimento dinanzi all'autorità inferiore, è particolarmente toccato dalla decisione impugnata, che conferma il provvedimento nei suoi confronti. Egli ha un interesse degno di protezione al suo annullamento o alla modifica della stessa nel senso di una riduzione del periodo di revoca. La sua legittimazione a ricorrere giusta l'art. 89 cpv. 1 LTF è quindi chiaramente data. Interposto tempestivamente contro una decisione finale di ultima istanza cantonale, non suscettibile d'impugnazione dinanzi al Tribunale amministrativo federale, il ricorso in materia di diritto pubblico è ammissibile sotto il profilo degli art. 86 cpv. 1 lett. d, 90 e 100 cpv. 1 LTF. Il ricorso sussidiario in materia costituzionale ai sensi dell'art. 113 segg. LTF, semplicemente accennato nel titolo del gravame, è di conseguenza inammissibile.
1.2 Conformemente a quanto stabilito dagli art. 95 e 96 LTF, il ricorso in materia di diritto pubblico può essere presentato per la violazione del diritto, in cui rientra l'eccesso o l'abuso del potere di apprezzamento, ma non l'adeguatezza della decisione impugnata (cfr. MARKUS SCHOTT in: Basler Kommentar BGG, n. 34 all'art. 95). Giusta l'art. 42 cpv. 2 LTF, il ricorso deve inoltre essere motivato in modo sufficiente. Il ricorrente deve quindi almeno concisamente confrontarsi con le considerazioni esposte nella decisione impugnata, spiegando per quali ragioni tale giudizio viola il diritto. Certo, il Tribunale federale applica d'ufficio il diritto (art. 106 cpv. 1 LTF), ma ciò presuppone che il gravame possa essere esaminato nel merito ed adempia quindi i requisiti minimi di motivazione previsti dall'art. 42 cpv. 2 LTF (DTF 134 II 244 consid. 2.1). Nella misura in cui si limita a ribadire le argomentazioni sollevate dinanzi alla precedente istanza e a sostenere genericamente, senza riferirsi alle concrete circostanze del caso, che, per rispettare il carattere preventivo della licenza di condurre in prova, sarebbe sufficiente ammettere un'infrazione medio grave, il ricorrente non sostanzia una violazione del diritto federale. Presentando considerazioni generali sul disciplinamento della revoca e sulle conseguenze per il titolare di una licenza di condurre in prova, egli mette piuttosto in discussione la scelta del legislatore, che ha invero in parte fortemente inasprito il regime della revoca, ma alla quale il Tribunale federale è vincolato (cfr. art. 191 Cost., DTF 1C_271/2008 dell'8 gennaio 2009, consid. 2.2.3).
2. 2.1 Il ricorrente sostiene che non potrebbe essergli di pregiudizio il fatto di non avere impugnato la decisione penale pronunciata il 24 luglio 2008 dal presidente di Circolo.
2.2 La Corte cantonale ha rilevato che gli accertamenti di fatto contenuti nel giudizio penale del 24 luglio 2008, non impugnato dal ricorrente, vincolavano l'autorità amministrativa. Tuttavia, la decisione di revoca della licenza di condurre della Sezione della circolazione è stata emanata lo stesso giorno di quella penale e non è di per sé fondata sulla stessa, ma sulle risultanze del rapporto di polizia. Al ricorrente era stata concessa la possibilità di esprimersi al riguardo ed egli non ha contestato alcunché, né ha chiesto l'assunzione di eventuali prove, limitandosi a precisare che l'accertato superamento di velocità era limitato alla fase del sorpasso di un autocarro, che stava verosimilmente accelerando ed avrebbe quindi potuto ostacolare la sua manovra di rientro. Nel procedimento amministrativo cantonale il ricorrente ha quindi riconosciuto la velocità eccessiva accertata dalla polizia e le circostanze dell'infrazione. D'altra parte, le condizioni favorevoli, segnatamente per quanto concerne il flusso ridotto del traffico in senso inverso, non sono state di per sé negate dalla precedente istanza, ma semplicemente non è stato attribuito loro un peso determinante. Ritenuto altresì che nemmeno in questa sede il ricorrente censura d'arbitrio l'accertamento dei fatti alla base del procedimento amministrativo (cfr. art. 97 cpv. 1 e art. 105 cpv. 1 LTF), la questione di sapere se, e in che misura, l'autorità amministrativa avrebbe anche potuto attenersi strettamente all'esito del procedimento penale aspettandone la conclusione non si pone nella fattispecie e non deve quindi essere esaminata (cfr., sulla giurisprudenza al riguardo, DTF 124 II 103 consid. 1c/aa, 123 II 97 consid. 3c/aa, 121 II 214 consid. 3a). Né deve pertanto essere vagliata la censura di violazione del principio della separazione dei poteri sollevata dal ricorrente in questo contesto.
3. 3.1 Il ricorrente rimprovera alla Corte cantonale di avere rilevato nella fattispecie un'infrazione grave ai sensi dell'art. 16c cpv. 1 lett. a LCStr fondandosi esclusivamente sull'entità del superamento di velocità, senza tenere conto delle circostanze concrete, suscettibili di influire sulla gravità della colpa e della minaccia per la sicurezza della circolazione. Sostiene che, dopo l'entrata in vigore delle attuali disposizioni sulla revoca della licenza di condurre, il Tribunale federale avrebbe inteso rivedere la precedente giurisprudenza in materia di eccessi di velocità.
3.2 Giusta l'art. 16 cpv. 2 LCStr, le infrazioni delle prescrizioni sulla circolazione stradale, per le quali non è applicabile la procedura prevista dalla legge federale del 24 giugno 1970 sulle multe disciplinari, comportano la revoca della licenza di condurre o della licenza per allievo conducente, oppure l'ammonimento del conducente. Conformemente all'art. 16c cpv. 2 lett. a LCStr, dopo un'infrazione grave la licenza per allievo conducente o la licenza di condurre è revocata per almeno tre mesi. Commette un'infrazione grave ai sensi dell'art. 16c cpv. 1 lett. a LCStr chi, violando gravemente le norme della circolazione, cagiona un serio pericolo per la sicurezza altrui o assume il rischio di detto pericolo. Le circostanze quali la gravità della colpa, il pericolo per la circolazione o la reputazione del conducente devono essere prese in considerazione per fissare la durata della revoca, ma con riferimento all'art. 16 cpv. 3 LCStr la durata minima prevista dalla legge non può essere ridotta.
Nell'ambito degli eccessi di velocità, la giurisprudenza è stata portata a stabilire delle regole precise al fine di garantire la parità di trattamento tra conducenti. Così, il caso è oggettivamente grave, vale a dire a prescindere dalle circostanze concrete, quando il superamento della velocità autorizzata è di 25 km/h o più all'interno delle località, di 30 km/h o più all'esterno delle località o sulle semiautostrade e di 35 km/h o più sulle autostrade (DTF 124 II 259 consid. 2b). L'infrazione è per contro di media gravità quando il superamento della velocità consentita va, rispettivamente, da 21 fino a 24 km/h (DTF 126 II 196 consid. 2a), da 26 fino a 29 km/h e da 31 fino a 34 km/h (DTF 128 II 131 consid. 2a). Gli eccessi di velocità inferiori a questi valori, e che non possono essere sanzionati mediante multe disciplinari, devono comportare almeno un ammonimento in considerazione della messa in pericolo astratta accresciuta alla quale vengono esposti gli altri utenti della strada (cfr. art. 16 cpv. 2 LCStr; sentenza 6A.52/2005 del 2 dicembre 2005, consid. 2.2.3 e rinvii).
Questa giurisprudenza, confermata anche dopo la revisione del diritto sulla circolazione stradale entrata in vigore il 1° gennaio 2005 (sentenza 1C_83/2008 del 16 ottobre 2008, consid. 2), non dispensa tuttavia l'autorità da qualsiasi esame delle circostanze del caso concreto. Da un canto, l'importanza della messa in pericolo e quella della colpa devono essere prese in considerazione al fine di stabilire quale debba essere la durata della revoca (cfr. art. 16 cpv. 3 LCStr). Dall'altro, occorre esaminare se delle circostanze particolari non giustifichino comunque di considerare il caso come di minore gravità, ciò che può segnatamente realizzarsi quando il conducente aveva seri motivi per ritenere che non si trovava ancora, o non si trovava più, nella zona di limitazione della velocità (DTF 126 II 196 consid. 2a, 124 II 97 consid. 2c; cfr. sentenze 1C_328/2008 del 25 novembre 2008, consid. 2.5 e 6B.264/2007 del 19 settembre 2007, consid. 3.1, citata dal ricorrente).
3.3 Nella fattispecie, il ricorrente, circolando su una semiautostrada, ha superato di 32 km/h il limite di velocità autorizzato. Tale superamento costituisce oggettivamente un caso grave ai sensi dell'art. 16c cpv. 1 lett. a LCStr ed implica necessariamente la revoca della licenza di condurre per una durata di tre mesi. Egli non invoca circostanze particolari che dovrebbero essere prese in considerazione sulla base dell'esposta giurisprudenza. D'altra parte, le condizioni stradali e meteorologiche favorevoli, nonché lo scarso traffico in senso opposto al momento dell'infrazione non rientrano nelle circostanze che permetterebbero eccezionalmente di ammettere una gravità media e di scostarsi quindi dalla durata minima legale della revoca applicabile nella fattispecie. Contrariamente a quanto sembra ritenere il ricorrente, come già visto, la giurisprudenza del Tribunale federale in materia di eccessi di velocità è stata più volte confermata anche sotto l'egida delle disposizioni entrate in vigore il 1° gennaio 2005. Essa comporta un certo schematismo, indispensabile tuttavia per assicurare la parità di trattamento tra i conducenti in un campo in cui le infrazioni sono commesse in massa (DTF 132 II 234 consid. 3; sentenza 1C_83/2008, citata, consid. 2.6).
4. 4.1 Il ricorrente sostiene che gli scopi della misura e il principio della proporzionalità sarebbero rispettati anche ammettendo in concreto un'infrazione medio grave in applicazione dell'art. 16b cpv. 1 lett. a LCStr: permarrebbe infatti la possibilità di annullare la licenza di condurre in prova, qualora egli dovesse incorrere in un'ulteriore infrazione comportante la revoca della licenza di condurre in prova. A suo dire, proprio il rischio di vedersi annullata la licenza di condurre in prova sarebbe il principale deterrente per il titolare della stessa.
4.2 Giusta l'art. 15a cpv. 1 LCStr, la licenza di condurre acquisita la prima volta per motoveicoli o autoveicoli è rilasciata in prova. Il periodo di prova è di tre anni ed è prorogato di un anno se il titolare commette un'infrazione da cui consegue la revoca della licenza (cpv. 3). La licenza di condurre in prova scade con la seconda infrazione che comporta la revoca della licenza (cpv. 4).
Secondo il tenore letterale e la sistematica della legge, laddove richiama "un'infrazione da cui consegue la revoca della licenza" questa disposizione si riferisce ai casi di revoca della licenza di condurre ai sensi degli art. 16a, 16b e 16c LCStr. L'art. 15a LCStr è infatti stato adottato contemporaneamente alla modifica del 14 dicembre 2001 delle norme sulla revoca della licenza, che non disciplinano in modo specifico il provvedimento per il caso del titolare di una licenza di condurre in prova (cfr. ANDRÉ DEMIERRE/CÉDRIC MIZEL/LUC MOURON, Les mesures administratives liées au nouveau permis de conduire à l'essai, in: AJP 6/2007, pag. 733). Se, come in concreto, la fattispecie adempie oggettivamente gli estremi di un'infrazione grave ai sensi dell'art. 16c LCStr, non può ragionevolmente essere ammessa una gravità soltanto media fondandosi sul semplice fatto che in entrambi i casi un'ulteriore infrazione che comporta la revoca della licenza, condurrebbe comunque all'annullamento della stessa (cfr. art. 15a cpv. 4 LCStr in relazione con l'art. 35a OAC).
5. 5.1 Richiamando una sentenza della Corte cantonale e tre giudizi del Tribunale federale, il ricorrente ritiene il provvedimento sproporzionato e lesivo del principio della parità di trattamento, siccome la sanzione pronunciata nei suoi confronti sarebbe analoga a quelle inflitte in casi diversi.
5.2 Un'eventuale disparità di trattamento nella commisurazione della durata della revoca violerebbe, di regola, anche i criteri determinanti al riguardo secondo la LCStr. La censura di violazione del principio della parità di trattamento nell'ambito della revoca della licenza di condurre deve quindi essere vagliata alla stregua di quella concernente la violazione delle pertinenti norme del diritto federale. In questo senso, una violazione del principio costituzionale può entrare in considerazione solo in casi eccezionali, qualora una revoca fondata sui criteri del diritto della circolazione stradale condurrebbe a una disparità di trattamento oggettivamente ingiustificata, lesiva dell'art. 29 Cost. (cfr. sentenza 6A.76/1995 del 5 dicembre 1995, consid. 3b).
5.3 Come visto, il provvedimento pronunciato nei confronti del ricorrente è fondato su una corretta applicazione del diritto federale, segnatamente dell'art. 16c cpv. 1 lett. a LCStr. Parimenti, la commisurazione della durata della revoca della licenza di condurre corrisponde al minimo legale ed è quindi conforme all'art. 16 cpv. 3 in relazione con l'art. 16c cpv. 2 lett. a LCStr. Una disparità di trattamento, come del resto una violazione del principio della proporzionalità, appaiono pertanto d'acchito escluse. I casi evocati dal ricorrente non sostanziano d'altra parte alcunché al riguardo, perché concernono fattispecie diverse da quella in esame, che non consentono un confronto delle infrazioni (cfr., sulla nozione di disparità di trattamento, DTF 130 I 71 consid. 3.6 e rinvii). In effetti, la sentenza del 9 gennaio 2007 della Corte cantonale concerne un sorpasso sulla destra in autostrada, mentre le sentenze del 19 giugno 1998 (DTF 124 II 475) e del 1° novembre 2007 (1C_162/2007) del Tribunale federale riguardano in particolare due casi di eccessi di velocità (e altre infrazioni) commessi pure in autostrada, il primo oltretutto sotto l'egida del diritto previgente. Il giudizio del 19 settembre 2007 della Corte di diritto penale (6B_264/2007) concerne infine un superamento di velocità all'esterno della località, ma, diversamente dal caso in esame, sull'entità dell'eccesso di velocità esistevano dubbi, non essendo tra l'altro stato dedotto il margine di tolleranza. Per quanto ammissibile, anche questa censura è quindi infondata.
6. Ne segue che il ricorso in materia di diritto pubblico deve essere respinto nella misura della sua ammissibilità, mentre il ricorso sussidiario in materia costituzionale deve essere dichiarato inammissibile. Le spese giudiziarie seguono la soccombenza e sono pertanto poste a carico del ricorrente (art. 66 cpv. 1 LTF). Ritenuto che il gravame era fin dall'inizio privo di possibilità di esito favorevole e considerato che il ricorrente non ha sufficientemente sostanziato la sua situazione finanziaria (cfr. DTF 125 IV 161 consid. 4), non si giustifica di dare seguito alla sua richiesta di prelevare una tassa di giustizia ridotta.
Per questi motivi, il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso in materia di diritto pubblico è respinto.
2. Il ricorso sussidiario in materia costituzionale è inammissibile.
3. Le spese giudiziarie di fr. 2'000.-- sono poste a carico del ricorrente.
4. Comunicazione alle parti, al Tribunale amministrativo del Cantone Ticino e all'Ufficio federale delle strade.