Fatti: A. A._ cittadino italiano domiciliato in provincia di Como a X._ (IT), ha ottenuto, il 19 agosto 2005, un permesso per frontaliero valido fino al 18 agosto 2010 per svolgere un'attività salariata in Svizzera. L'autorizzazione gli è stata rilasciata nonostante avesse un precedente penale nel nostro Paese risalente al 1998, poiché ritenuto di poca entità dalla competente autorità in materia di polizia degli stranieri. B. Il 1° luglio 2010 A._ ha chiesto il rinnovo del permesso per frontaliero. Venuta a conoscenza dell'esistenza di precedenti penali in Italia, la Sezione della popolazione del Dipartimento delle istituzioni l'ha invitato, il 17 agosto 2010, a produrre gli estratti del suo casellario giudiziale svizzero, di quello generale italiano nonché di quello dei carichi pendenti nel paese d'origine. Avendo ricevuto solo due documenti (estratto del casellario giudiziale svizzero e quello dei carichi pendenti), dai quali nulla risultava, la Sezione della popolazione ha sollecitato l'interessato, il 22 settembre 2010 e il 25 febbraio 2011, a fornire il terzo, senza successo. In difetto dell'atto richiesto la Sezione della popolazione ha rifiutato di rinnovare, il 20 maggio 2011, il permesso per frontalieri e ha invitato A._ a lasciare la Svizzera. Il rifiuto è stato pronunciato in virtù degli artt. 5 Allegato I dell'Accordo del 21 giugno 1999 tra la Confederazione Svizzera, da una parte, e la Comunità europea ed i suoi Stati membri, dall'altra, sulla libera circolazione delle persone (ALC; RS 0.142.112.681), 9 dell'ordinanza del 22 maggio 2002 sull'introduzione della libera circolazione delle persone (OLCP; RS 142.203), nonché 13 della legge federale sugli stranieri del 16 dicembre 2005 (LStr; RS 142.20). C. La decisione è stata confermata su ricorso dal Consiglio di Stato del Cantone Ticino il 19 ottobre 2011. Fondandosi sul certificato generale del casellario giudiziale italiano dinanzi ad esso finalmente prodotto, il Governo ticinese ha rilevato che le pene inflitte in Italia tra il 1990 e il 2000 superavano, cumulate, i sei anni di reclusione nonché ha rimproverato all'insorgente di averle sottaciute. Detto giudizio è stato a sua volta condiviso dal Tribunale cantonale amministrativo con sentenza del 28 febbraio 2012. Lasciando indecisa la questione di sapere se l'interessato rappresentava tuttora una minaccia attuale e concreta all'ordine pubblico, la Corte cantonale ha considerato che il rinnovo del permesso poteva in ogni caso essere negato in virtù dei combinati artt. 62 LStr e 24 OLCP; il provvedimento appariva inoltre rispettoso del principio della proporzionalità. D. Il 30 marzo 2012 A._ ha presentato dinanzi al Tribunale federale un ricorso in materia di diritto pubblico, con cui chiede l'annullamento della sentenza cantonale e il conseguente rinnovo del permesso per frontalieri. Adduce, in sintesi, la violazione degli artt. 4 ALC e 5 cpv. 1 Allegato I ALC. Con decreto presidenziale del 3 aprile 2012 è stato concesso l'effetto sospensivo al gravame. Chiamati ad esprimersi, il Tribunale cantonale amministrativo si è riconfermato nelle conclusioni della propria sentenza. Ad essa fa rinvio anche l'Ufficio federale della migrazione. La Sezione della popolazione propone la reiezione del ricorso mentre il Consiglio di Stato si è rimesso al giudizio di questa Corte. E. Con replica del 31 agosto 2012 il ricorrente ha ribadito i propri argomenti.