Fatti: A. A._ è titolare di una patente di idoneità all'insegnamento nelle scuole elementari, conseguita nel 1969 presso la Scuola Magistrale di Locarno. Ha insegnato sei anni nelle scuole elementari, un anno nelle scuole maggiori e tre anni nelle scuole medie. Successivamente, a partire dall'anno scolastico 2000/2001, ha lavorato come supplente nelle scuole medie. In tale veste ha in particolare supplito, dal 4 settembre 2006 al 10 febbraio 2007, presso la scuola media di Barbengo, un docente di matematica assente per malattia per 10 ore settimanali. Presso il medesimo istituto ha poi supplito, dall'11 febbraio al 20 giugno 2007, un altro docente di matematica per lo stesso numero di ore settimanali. B. Nel corso del 2007, A._ ha chiesto di trasformare in ore d'incarico le ore di supplenza svolte presso la scuola media di Barbengo, richiesta alla quale il Dipartimento dell'educazione, della cultura e dello sport non ha tuttavia dato seguito. Con petizione del 14 maggio 2008, l'interessata ha convenuto lo Stato del Cantone Ticino dinanzi al Tribunale cantonale amministrativo chiedendo di accertare che il rifiuto di trasformare le ore di supplenza in ore di incarico è discriminante. Ha inoltre chiesto di riconoscerle il pagamento dello stipendio per il tempo dedicato a determinate attività svolte durante le supplenze dell'anno scolastico 2006/2007, postulando altresì la trasformazione in rapporto d'incarico delle supplenze effettuate nel corso di precedenti anni scolastici. C. Con sentenza del 4 agosto 2008 il Tribunale cantonale amministrativo ha respinto la petizione. Ha rilevato che il rifiuto dell'autorità scolastica di trasformare la supplenza in incarico non rientrava nel novero delle decisioni impugnabili in quella sede; ha nondimeno ritenuto ch'esso era conforme al diritto. La Corte cantonale ha poi considerato che le supplenze svolte dall'interessata durante l'anno scolastico 2006/2007 dovevano essere valutate in modo distinto, trattandosi di due diverse supplenze concernenti docenti diversi. Ha quindi escluso che, così valutate, fossero di lunga durata, ritenendo per finire che la retribuzione inferiore rispetto a quella di un docente incaricato non costituiva una disparità di trattamento. D. A._ impugna questo giudizio al Tribunale federale con un ricorso in materia di diritto pubblico e un ricorso sussidiario in materia costituzionale del 3 settembre 2008, chiedendo di annullarlo e di rinviare gli atti alla precedente istanza perché accolga in sostanza le domande formulate nella petizione. La ricorrente fa valere la violazione del divieto dell'arbitrio e della reformatio in peius, dei principi della parità di trattamento, della proporzionalità, della legalità e della non retroattività della legge. E. La Corte cantonale si conferma nella sua sentenza, mentre il Dipartimento dell'educazione, della cultura e dello sport si rimette al giudizio del Tribunale federale.