Fatti: A. Entrato in Svizzera nel 1985 per lavorarvi quale stagionale, A._, cittadino serbo, è titolare dal 1° dicembre 2004 di un permesso di domicilio. Egli ha un figlio, B._, nato dal suo matrimonio con una connazionale, sciolto per divorzio il 13 gennaio 2005, e dal 2007 convive con C._, un'altra sua connazionale e l'ultimogenito di lei, D._ (nel luglio 1996). A._ ha lavorato nel ramo della ristorazione e in quello edile, alternando momenti di disoccupazione, nonché ha interessato a diverse riprese le autorità amministrative e penali svizzere nei seguenti termini: - 10 dicembre 1986: decisione penale (Strafverfügung) dello "Statthalteramt" del distretto di Zurigo e condanna a una multa di fr. 450.-- per violazione della LCStr (RS 741.01); - 31 agosto 1994: DAP 1723/94 per violazione (01.03.194) dell'allora vigente LDDS (avere favorito l'entrata illegale di un straniero sprovvisto del necessario visto ed averlo trasportato in Svizzera) e condanna a 5 giorni di detenzione, sospesi condizionalmente con un periodo di prova di 2 anni, e a una multa di fr. 300.--; - 11 novembre 1994: multa dipartimentale di fr. 50.--; - 7 dicembre 1998: DAP 1848/98 per sottrazione di una cosa mobile e condanna a una multa di fr. 200.--; - 11 ottobre 1999: DAP 2255/99 per danneggiamento e condanna ad una multa di fr. 200.--; - 27 marzo 2000: ammonimento dalla Sezione della popolazione e avvertimento riguardo alle conseguenze in caso di recidiva e di comportamento scorretto; - 10 maggio 2012: sentenza della Corte delle assise correzionali di Lugano e condanna con procedura abbreviata di A._ e della convivente C._, congiuntamente, a 16 mesi di detenzione, sospesi condizionalmente con un periodo di prova di 3 anni, per infrazione aggravata alla legge federale sugli stupefacenti e sulle sostanze psicotrope del 3 ottobre 1951 (LStup; RS 812.121), per avere tra la primavera 2010 e il 17 marzo 2011, venduto e detenuto un imprecisato quantitativo di cocaina, ma almeno 256,1 g, che sapevano o dovevano presumere essere tale da mettere in pericolo la salute di molte persone. B. Sulla base dei fatti citati, segnatamente della sentenza della Corte delle assise criminali di Lugano e dopo avere concesso a A._ la facoltà di esprimersi, la Sezione della popolazione del Dipartimento delle istituzioni del Cantone Ticino gli ha revocato, il 3 agosto 2012, il permesso di domicilio per motivi di ordine pubblico e gli ha fissato un termine con scadenza al 15 settembre successivo per lasciare la Svizzera. Con separata decisione di medesima data è stato pure revocato il permesso di domicilio di C._. I citati provvedimenti sono stati confermati su ricorso dapprima dal Consiglio di Stato ticinese, il 6 febbraio 2013, e poi dal Tribunale cantonale amministrativo, con separate sentenze del 21 gennaio 2014. C. Il 4 marzo 2014 A._ e C._ hanno presentato un unico ricorso in materia di diritto pubblico al Tribunale federale, con cui chiedono l'annullamento della sentenza cantonale. Chiamati ad esprimersi, il Tribunale cantonale amministrativo si è riconfermato nelle motivazioni e nelle conclusioni della propria sentenza, mentre il Consiglio di Stato si è rimesso al giudizio di questa Corte. La Sezione della popolazione ha rinviato alla propria decisione e ai precedenti preavvisi e, infine, l'Ufficio federale della migrazione si è allineato alle considerazioni formulate dalle autorità cantonali. Con scritto del 10 giugno 2014 il ricorrente si è espresso sulle osservazioni formulate dalle autorità cantonali e da quella federale. Dinanzi a queste Corte le cause di C._ (2C_227/2014) e A._ (2C_226/2014) sono state disgiunte.