Fatti:
A. A._ (1960), cittadino italiano domiciliato a Induno Olona (IT), ha ottenuto il 21 dicembre 2004, in applicazione dell'Accordo del 21 giugno 1999 tra la Comunità europea e i suoi Stati membri, da una parte, e la Confederazione Svizzera, dall'altra, sulla libera circolazione delle persone (in seguito: ALC o Accordo sulla libera circolazione delle persone; RS 0.142.112.681) un permesso per confinanti CE/AELS valido fino al 20 dicembre 2009 per tutte le zone di frontiera svizzere, al fine di svolgere l'attività di rappresentante-venditore presso una ditta di Manno.
Il 26 aprile 2007 la Corte delle assise criminali lo ha condannato alla pena di due anni e sei mesi di detenzione per truffa aggravata e per falsità in documenti ripetuta, a valere quale pena aggiuntiva a quella di due anni di reclusione inflittagli il 4 dicembre 2006 dal Tribunale di Milano. Il 18 giugno 2007 è stato liberato condizionalmente.
B. Il 5 settembre 2007 A._ ha chiesto alla Sezione dei permessi e dell'immigrazione del Dipartimento ticinese delle istituzioni il rilascio di un nuovo permesso per confinanti CE/AELS, per lavorare come collaboratore di vendita presso una società di Mendrisio. Il 20 novembre 2007 la citata autorità ha respinto l'istanza per motivi di ordine pubblico e ha ordinato nel contempo all'interessato di cessare l'attività entro il 20 dicembre 2007.
La decisione è stata confermata su ricorso dapprima dal Consiglio di Stato il 12 febbraio 2008 e poi dal Tribunale cantonale amministrativo, con sentenza del 30 aprile 2008, la quale è stata ricevuta dall'interessato il 15 maggio successivo.
C. Il 16 giugno 2008 A._ ha presentato dinanzi al Tribunale federale un ricorso in materia di diritto pubblico, con cui chiede che la sentenza cantonale sia annullata. Adduce in sintesi la violazione dell'art. 5 Allegato I ALC e dell'art. 10 LDDS nonché del principio della proporzionalità.
Chiamati ad esprimersi il Tribunale cantonale amministrativo si è riconfermato nelle motivazioni e conclusioni del proprio giudizio e il Consiglio di Stato si è rimesso al giudizio del Tribunale federale. La Sezione dei permessi e dell'immigrazione e l'Ufficio federale della migrazione, quest'ultimo dichiarando di allinearsi alle considerazioni della Corte cantonale, hanno proposto la reiezione del gravame.
Diritto:
1. Il Tribunale federale esamina d'ufficio e con piena cognizione la sua competenza (art. 29 cpv. 1 LTF), rispettivamente l'ammissibilità dei gravami che gli vengono sottoposti (DTF 134 IV 36 consid. 1; 133 II 249 consid. 1.1 con riferimenti).
2. 2.1 Conformemente all'art. 83 lett. c n. 2 LTF, il ricorso in materia di diritto pubblico è inammissibile contro le decisioni in materia di diritto degli stranieri concernenti i permessi o autorizzazioni al cui ottenimento né il diritto federale né il diritto internazionale conferiscono un diritto.
2.2 Dal momento che il ricorrente è cittadino italiano, l'Accordo sulla libera circolazione delle persone gli conferisce, di principio, il diritto di lavorare come frontaliero in una zona di confine del nostro paese (art. 4 e 10 cpv. 7 ALC; art. 2 cpv. 1, 7 e 28 Allegato I ALC; art. 4 cpv. 3 dell'ordinanza del 22 maggio 2002 sull'introduzione della libera circolazione delle persone [OLCP; RS 142.203]). Contro il rifiuto del rilascio di un nuovo permesso egli può quindi ricorrere senza che l'art. 83 lett. c n. 2 LTF gli sia opponibile (DTF 131 II 339 consid. 1.2; 130 II 493 consid. 1.1, 388 consid. 1.2). Inoltre, come constatato dalla Corte cantonale (cfr. sentenza impugnata, consid. 1.4 e 2), neanche il motivo di esclusione di cui all'art. 83 lett. c n. 6 LTF si applica nei suoi confronti. Inoltrato tempestivamente (art. 100 cpv. 1 LTF), da una persona legittimata ad agire (art. 89 cpv. 1 LTF) il presente ricorso in materia di diritto pubblico è, quindi, in linea di principio, ricevibile.
3. Il 1° gennaio 2008 è entrata in vigore la legge federale sugli stranieri del 16 dicembre 2005 (LStr; RS 142.20; RU 2007 5487), che ha di per sé abrogato la legge federale concernente la dimora e il domicilio degli stranieri del 26 marzo 1931 (LDDS; CS 1 177 e modifiche seguenti; cfr. Allegato n. I LStr). Giusta l'art. 126 cpv. 1 LStr, alle domande presentate prima dell'entrata in vigore della nuova normativa rimane tuttavia applicabile il diritto previgente. In concreto la domanda di un nuovo permesso per confinanti è stata inoltrata il 5 settembre 2007: dal profilo del diritto interno, l'esame del caso va pertanto svolto in funzione del pregresso ordinamento.
4. 4.1 Per quanto concerne il diritto interno, un permesso può essere rifiutato, tra l'altro, quando sussiste un motivo d'espulsione. In effetti, come già spiegato da questa Corte, motivi che possono giustificare l'espulsione di uno straniero possono ugualmente essere invocati per rifiutargli un nuovo permesso (DTF 130 II 176 consid. 3.1.3). Secondo l'art. 10 cpv. 1 LDDS, uno straniero può essere espulso in particolare quando sia stato punito dall'autorità giudiziaria per un crimine o un delitto (lett. a) oppure quando la sua condotta in generale e i suoi atti permettano di concludere che non vuole o non è capace di adattarsi all'ordinamento vigente nel Paese che lo ospita (lett. b). Se questi presupposti risultano adempiuti, l'espulsione può comunque essere pronunciata soltanto se dall'insieme delle circostanze sembra adeguata, ossia se rispetta il principio di proporzionalità (art. 11 cpv. 3 LDDS; DTF 134 II 1 consid. 2.2). Al riguardo occorre segnatamente tener conto della gravità della colpa a carico dell'interessato, della durata del suo soggiorno in Svizzera e del pregiudizio che egli e la sua famiglia subirebbero in caso di espulsione (art. 16 cpv. 3 ODDS; RU 1949 I 233).
4.2 Per quanto riguarda l'Accordo sulla libera circolazione, l'art. 5 cpv. 1 Allegato I ALC sancisce che i diritti conferiti dalle disposizioni dell'accordo stesso - come il diritto per i lavoratori frontalieri dipendenti cittadini di una parte contraente di esercitare un'attività economica nel territorio dell'altra parte contraente (art. 4 ALC; art. 2 cpv. 1 e art. 7 Allegato I ALC) - possono essere limitati soltanto da misure giustificate da motivi di ordine pubblico, pubblica sicurezza o pubblica sanità. Secondo la giurisprudenza sviluppata in proposito, le deroghe alla libera circolazione devono essere interpretate restrittivamente. L'adozione di misure d'allontanamento presuppone quindi, al di là della turbativa insita in ogni violazione di legge, una minaccia effettiva e sufficientemente grave che tocca un interesse fondamentale della società. La sola esistenza di condanne penali non può automaticamente legittimare l'adozione di provvedimenti fondati su motivi di ordine pubblico o di pubblica sicurezza (cfr. l'art. 3 cpv. 2 della Direttiva 64/221/CEE, del 25 febbraio 1964 [GU 1964, n. 56, pag. 850], richiamata dall'art. 5 cpv. 2 Allegato I ALC). Una condanna può piuttosto venir presa in considerazione soltanto nella misura in cui dalle circostanze che l'hanno determinata emerga un comportamento personale costituente una minaccia attuale per l'ordine pubblico. A seconda dei casi, già la sola condotta tenuta in passato può comunque adempiere i requisiti di una simile messa in pericolo dell'ordine pubblico (DTF 130 II 493 consid. 3.2, 176 consid. 3.4.1; 129 II 215 consid. 7.3 e 7.4, con riferimenti alla prassi della CGCE). Per valutare l'attualità della minaccia, non occorre prevedere quasi con certezza che lo straniero commetterà altre infrazioni in futuro; d'altro lato, per rinunciare a misure di ordine pubblico, non si deve esigere che il rischio di recidiva sia praticamente nullo. La misura dell'apprezzamento dipende in sostanza dalla gravità della potenziale infrazione: tanto più questa appare importante, quanto minori sono le esigenze in merito al rischio di recidiva (DTF 130 II 493 consid. 3.3, 176 consid. 4.3.1 con rinvii). Inoltre, come nel caso di qualsiasi altro cittadino straniero, l'esame dev'essere effettuato tenendo presenti le garanzie derivanti della CEDU (RS 0.101) così come il principio della proporzionalità (DTF 131 II 352 consid. 3.3 e numerosi richiami; sentenze CGCE del 28 ottobre 1975 nella causa 36-75, Rutili, Racc. 1975, 1219, n. 32 e dell'11 luglio 2002, nella causa C-60/00, Carpenter, Racc. 2002, I-6279, n. 42 segg.).
4.3 Infine, va ricordato che l'ordinamento interno si applica nei confronti dei cittadini comunitari solo se l'Accordo sulla libera circolazione delle persone non dispone altrimenti e se esso stesso prevede disposizioni più favorevoli (cfr. art. 1 lett. a LDDS; cfr. pure art. 2 cpv. 2 LStr). Dato che l'art. 5 cpv. 1 Allegato I ALC non può legittimare misure più incisive di quelle previste dal diritto svizzero (cfr. art. 2 ALC) occorre, di principio, verificare che il rifiuto del permesso per confinanti si giustifichi tanto dal profilo del diritto interno che nell'ottica del trattato bilaterale (DTF 130 II 176 consid. 3.2). In pratica però la riserva dell'ordine pubblico e della sicurezza pubblica di cui all'art. 5 cpv. 1 Allegato I ALC soggiace a criteri meno restrittivi, ragione per cui la legislazione interna non prevede disposizioni più favorevoli di quelle dell'Accordo.
5. 5.1 Il ricorrente lamenta una violazione dell'art. 5 Allegato I ALC, in quanto la nozione di ordine pubblico non includerebbe i reati patrimoniali, ma si riferirebbe a fattispecie più gravi, come il traffico di stupefacenti, i reati legati al terrorismo oppure le rapine gravi. Inoltre sostiene che non può venire espulso poiché un tale provvedimento può essere pronunciato unicamente per motivi gravi, ad esempio quelli che comportano l'uso della violenza e il terrorismo, non invece in seguito ad una truffa. In ogni caso sostiene che il provvedimento contestato lederebbe il principio della proporzionalità, siccome egli vive nella fascia di confine a qualche chilometro dalla frontiera e che è in Svizzera che gli è stata offerta una possibilità concreta di reinserimento sociale.
5.2 Secondo i vincolanti e incontestati accertamenti della Corte cantonale (art. 105 cpv. 1 LTF), il ricorrente è stato condannato a una pena detentiva di due anni e 6 mesi per truffa aggravata in quanto commessa per mestiere - per avere, dal gennaio 2004 all'aprile 2006, a scopo di indebito profitto, agendo in correità con terzi, ingannato e/o tentato d'ingannare con astuzia gli organi e/o i collaboratori di diverse ditte inducendoli a compiere atti pregiudizievoli al proprio patrimonio per complessivi fr. 3'966'000.-- (di cui fr. 1'400'000.-- recuperati) - e per falsità in documenti, ripetuta, per avere nelle medesime circostanze di fatto e di tempo, allestito e/o fatto uso a scopo d'inganno di 19 falsi assegni bancari, di 1 falso formulario A e di 2 false cambiali. La pena era a valere quale pena aggiuntiva a quella di due anni di reclusione inflittagli in Italia il 4 dicembre 2006 per fatti analoghi, motivo per cui l'interessato è stato condannato complessivamente a 54 mesi di detenzione (di cui poi 24 mesi condonati in Italia in seguito ad un indulto). In queste condizioni e ricordato che il ricorrente è stato condannato per dei crimini (cfr. art. 10 cpv. 2 CP), ne discende che dal profilo del diritto interno, è dato un motivo di espulsione ai sensi dell'art. 10 cpv. 1 lett. a LDDS.
Al riguardo appare opportuno precisare che, contrariamente a quanto addotto dal ricorrente, egli non viene espulso, dato che non gli viene negato il diritto di entrare in Svizzera: il rifiuto di un nuovo permesso per confinanti gli impedisce solo di continuare a lavorare nel nostro paese ciò che, come esposto di seguito (cfr. consid. 5.4), non risulta in concreto sproporzionato.
5.3 La gravità di quanto addebitato al ricorrente non può nemmeno essere minimizzata nell'ottica dell'Accordo sulla libera circolazione delle persone. In effetti, i fatti per i quali è stato condannato sono oggettivamente gravi. Come emerge dagli atti cantonali, segnatamente dalla sentenza della Corte delle assise criminali del 26 aprile 2007, oltre ad essere stati compiuti unicamente a fini di lucro, i reati si sono protratti su di un lungo lasso di tempo, cioè sull'arco di tre anni. Al ricorrente è stato inoltre rimproverata l'assenza di scrupoli nonché una notevole intensità e una grande intraprendenza nella propria attività delittuosa, dato che ha commesso 91 episodi di truffa per un valore complessivo di fr. 3'966'000.--, con un pregiudizio di circa fr. 2'600'000.-- per le sue vittime. È stato altresì rilevato che egli era il prevenuto più pesantemente compromesso e che aveva avuto un ruolo trainante. Infine, i giudici ticinesi osservando che, in precedenza, era già stato condannato in Italia per fatti analoghi commessi negli anni 2002-2003 per un importo di circa euro 3'000'000---, hanno giudicato che la reiterazione da parte sua dei medesimi illeciti presentava carattere di irriducibilità (cfr. sentenza penale del 26 aprile 2007, pag. 66 n. 28). Da quel che precede discende che le particolari circostanze della fattispecie sopra riportate - il fatto cioè che è stato pesantemente condannato, che ha agito per mestiere e che è recidivo - non permettono di formulare un pronostico favorevole sulla condotta del ricorrente. Rammentato poi il rigore di cui si deve far prova nell'apprezzamento tenuto conto della gravità dei reati - e al riguardo l'obbiezione secondo cui si tratta solo di reati patrimoniali non va seguita visto l'ammontare impressionante delle truffe addebitategli - ne consegue che il ricorrente rappresenta una minaccia effettiva, attuale e sufficientemente grave per la società, tale da legittimare un provvedimento per ragioni di ordine pubblico ai sensi dell'art. 5 cpv. 1 Allegato I ALC e della direttiva 64/221/CE. Rimane pertanto da verificare la proporzionalità della misura.
5.4 Come rilevato dal Tribunale cantonale amministrativo, il rifiuto del rilascio di un nuovo permesso per confinanti non obbliga il ricorrente a spostare il centro dei suoi interessi affettivi e familiari e non pone pertanto particolari problemi di adattamento. Egli infatti è celibe e vive nella regione italiana di confine. Sul piano professionale il pregiudizio subito è importante dato che il provvedimento, pur non vietandogli l'ingresso del territorio svizzero, gli impedisce di continuare a lavorarvi. Questo aspetto non è tuttavia determinante dato che il ricorrente ha lavorato in Svizzera solo due anni (dal dicembre 2004 al maggio 2006 quando è stato incarcerato a titolo preventivo) e che, sebbene sostenga che è qui che gli è stata offerta una possibilità concreta di reinserimento sociale, non ha mai sostenuto e nemmeno dimostrato che la ricerca in Italia di un impiego analogo a quello avuto in Svizzera potrebbe dimostrarsi particolarmente difficile. Per queste ragioni, considerati la gravità dei reati commessi e il pericolo che egli rappresenta per l'ordine pubblico, il rifiuto del rilascio di un nuovo permesso per confinanti non viola il principio della proporzionalità.
6. Non risollevando più l'affermazione avanzata in sede cantonale secondo cui dovrebbe applicarsi la direttiva 2004/38/CE invece della direttiva 62/221/CE, il ricorrente si limita ad addurre che non sarebbe ragionevole limitarsi alla giurisprudenza pronunciata prima del 1999 per interpretare la nozione di ordine pubblico e sostiene che si dovrebbe invece far capo a tutta la giurisprudenza disponibile.
Dato che il ricorrente non contesta la sentenza cantonale sulla questione della direttiva determinante, l'argomento non va ulteriormente esaminato e in proposito si rinvia ai pertinenti considerandi cantonali (cfr. giudizio impugnato pag. 10 consid. 4.3). Per il resto l'argomentazione formulata non adempie manifestamente le esigenze di motivazione (art. 42 cpv. 2 LTF) e sfugge pertanto ad un esame di merito.
7. Sulla base delle considerazioni che precedono il ricorso, in quanto ammissibile, dev'essere respinto e la sentenza contestata va confermata.
8. Le spese giudiziarie vanno poste a carico del ricorrente, secondo soccombenza (art. 66 cpv. 1 e 65 LTF). Non si assegnano ripetibili ad autorità vincenti (art. 68 cpv. 3 LTF).
Il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso è respinto.
2. Le spese giudiziarie di fr. 1'500.-- sono poste a carico del ricorrente.
3. Comunicazione al patrocinatore del ricorrente, alla Sezione dei permessi e dell'immigrazione del Dipartimento delle istituzioni, al Consiglio di Stato e al Tribunale amministrativo del Cantone Ticino nonché all'Ufficio federale della migrazione.