Fatti: A. A._, cittadino italiano nato e cresciuto in Svizzera, è titolare di un permesso di domicilio dall'agosto 1968 (dal luglio 2003 permesso UE/AELS). Tra il 1998 e il 2011, quando il matrimonio è stato sciolto per divorzio, egli è stato sposato con una cittadina elvetica; la coppia ha avuto un figlio, oggi maggiorenne. A._ si è diplomato presso... e svolge l'attività di... B. Con decreto d'accusa del 2 giugno 1997, a A._ è stata inflitta una pena di 3 mesi di detenzione, sospesa condizionalmente con un periodo di prova di 3 anni, per ripetuti atti sessuali con fanciulli. Per questo motivo, l'allora Sezione degli stranieri del Dipartimento delle istituzioni del Cantone Ticino l'ha ammonito (agosto 1997), con l'avvertenza che - in caso di recidiva o di comportamento scorretto - avrebbe esaminato la possibilità di revocargli il permesso di soggiorno. Il 10 gennaio 2012, A._ è stato arrestato e posto in detenzione preventiva; il 16 marzo 2012 è stato scarcerato e sottoposto a misure sostitutive alla carcerazione. Con sentenza del 7 marzo 2016, la Corte delle assise correzionali di... lo ha quindi riconosciuto colpevole di ripetuti atti sessuali con fanciulli (commessi tra il 1° e il 12 dicembre 2011, nonché il 2 gennaio 2012) e pornografia (commesso tra il 1° e il 12 dicembre 2011) e condannato a una pena detentiva di 9 mesi, sospesa condizionalmente con un periodo di prova di cinque anni. In tale contesto, la stessa ha tenuto conto: da un lato, del fatto che l'imputato aveva agito in stato di scemata imputabilità di grado medio; d'altro lato, della violazione del principio di celerità. Nei suoi confronti ha inoltre ordinato l'assistenza riabilitativa e il trattamento ambulatoriale quale norma di condotta. C. Preso atto dei precedenti citati, con decisione del 24 maggio 2016 la Sezione della popolazione del Dipartimento delle istituzioni del Cantone Ticino ha revocato a A._ il permesso di domicilio di cui disponeva e gli ha assegnato un termine per lasciare la Svizzera. Su ricorso, detta decisione è stata confermata sia dal Consiglio di Stato che dal Tribunale cantonale amministrativo (25 settembre 2019). D. Con ricorso in materia di diritto pubblico del 24 ottobre 2019, A._ si è quindi rivolto al Tribunale federale chiedendo: in via principale e in riforma del giudizio impugnato, la restituzione del suo permesso di domicilio e la pronuncia di un ammonimento; in via subordinata, l'annullamento del giudizio impugnato e il rinvio dell'incarto alla Corte cantonale, affinché si pronunci nuovamente sulla fattispecie. Il Tribunale cantonale amministrativo si è riconfermato nelle motivazioni e nelle conclusioni della propria sentenza. Chiedendo il rigetto del ricorso, ad essa ha fatto rinvio anche la Sezione della popolazione. Il Governo ticinese si è invece rimesso al giudizio di questa Corte. Con decreto presidenziale del 28 ottobre 2019 è stato concesso l'effetto sospensivo al gravame.