Fatti: A. Arrivato in Svizzera nel 1984, il cittadino italiano A._ è titolare di un permesso di domicilio dal 1° maggio 1986. Per quanto qui di rilievo, egli ha dapprima avuto una relazione con una cittadina elvetica, da cui è nata la figlia B._, oggi maggiorenne; nel 2000 si è quindi sposato con la cittadina croata C._, la quale lo ha raggiunto in Svizzera il 19 novembre successivo e da cui ha poi avuto il figlio D._. Il matrimonio con C._ è stato sciolto per divorzio nel 2008. L'autorità parentale e la custodia sul figlio sono stati attribuiti alla madre; al padre è stato invece concesso un diritto di visita. Durante il suo soggiorno in Svizzera, A._ ha interessato le autorità amministrative e le autorità penali nei seguenti termini: - 20 marzo 1998: multa dipartimentale di fr. 100.--; - 22 gennaio 1999: multa dipartimentale di fr. 100.--; - 17 agosto 2000: 1° ammonimento da parte delle autorità competenti in materia di stranieri (in quanto non versava regolarmente i contributi di mantenimento alla figlia); - 1° dicembre 2000: multa dipartimentale di fr. 100.--; - 29 giugno 2001: multa dipartimentale di fr. 100.--; - Decreto d'accusa del 29 ottobre 2001: riconosciuto colpevole di trascuranza degli obblighi di mantenimento e condannato alla pena detentiva di 20 giorni, sospesa condizionalmente con un periodo di prova di due anni (1.12.1998-30.9. 2001; debito di fr. 33'591.60); - 10 gennaio 2002: 2° ammonimento da parte delle autorità competenti in materia di stranieri (sempre in quanto continuava a non versare regolarmente i contributi di mantenimento alla figlia); - 29 agosto 2003: 3° ammonimento da parte delle autorità competenti in materia di stranieri (ancora in quanto continuava a non versare regolarmente i contributi di mantenimento alla figlia); - Decreto d'accusa del 21 febbraio 2005: riconosciuto colpevole di vie di fatto e condannato alla multa di fr. 300.--; - Decreto d'accusa del 6 giugno 2005: riconosciuto colpevole di violazione, dal gennaio al novembre 2003, della legge federale del 20 dicembre 1946 sull'assicurazione per la vecchiaia e per i superstiti (LAVS; RS 831.10) e condannato alla pena detentiva di 7 giorni, sospesa condizionalmente con un periodo di prova di 2 anni, così come al versamento alla parte civile di fr. 5'533.05; rinuncia alla revoca del beneficio della sospensione condizionale per la pena inflittagli il 29 ottobre 2001, ma pronuncia di un formale ammonimento. - sentenza della Corte delle assise correzionali di X._ del 15 febbraio 2008: riconosciuto colpevole di ripetuto furto (in tre occasioni, tra il 28.10 e il 19.12.2005), ripetuta violazione di domicilio, ripetuto danneggiamento, trascuranza degli obblighi di mantenimento (1.10.2001-30.4.2005 e 1.1.2005-31.1.2007) e vie di fatto (1.11.2006) e condannato alla pena detentiva di 15 mesi, sospesa condizionalmente con un periodo di prova di due anni, nonché al versamento all'Ufficio del sostegno sociale e dell'inserimento di un importo di fr. 42'678.30; rinuncia alla revoca del beneficio della sospensione condizionale per la pena inflittagli il 6 giugno 2005; - sentenza della Corte delle assise criminali di Y._ del 1° dicembre 2011: riconosciuto colpevole di istigazione a rapina e istigazione a lesioni semplici tentate (2008) e condannato alla pena detentiva di 18 mesi, sospesa condizionalmente con un periodo di prova di tre anni; rinuncia alla revoca del beneficio della sospensione condizionale per le pene inflittegli il 15 febbraio 2008 e il 6 giugno 2005, ma pronuncia di un ammonimento e del prolungamento di 1 anno del periodo di prova in relazione alla pena inflittagli il 15 febbraio 2008. B. Sulla base dei fatti citati, richiamate segnatamente tutte le decisioni di ammonimento emesse nei suoi confronti e la sentenza del 1° dicembre 2011 dell a Corte delle assise criminali di Y._, il 25 gennaio 2012 la Sezione della popolazione del Dipartimento delle istituzioni del Canton Ticino ha revocato il permesso di domicilio CE/AELS a A._, per motivi di ordine pubblico. Essa gli ha quindi intimato di lasciare il territorio elvetico entro il 29 febbraio successivo. Tale provvedimento è stato confermato su ricorso, dapprima dal Consiglio di Stato, con decisione dell'11 luglio 2012, quindi dal Tribunale cantonale amministrativo, che si è espresso in merito con sentenza del 21 marzo 2013. C. Quest'ultimo giudizio è stato impugnato davanti al Tribunale federale con ricorso in materia di diritto pubblico del 26 aprile 2013, chiedendone l'annullamento. Nel corso della procedura, il Tribunale cantonale amministrativo si è riconfermato nelle motivazioni e nelle conclusioni della propria sentenza. Ad essa hanno fatto in sostanza rinvio anche la Sezione della popolazione e l'Ufficio federale della migrazione, la cui presa di posizione è però giunta in ritardo. Il Consiglio di Stato si è invece rimesso al giudizio di questa Corte.