Fatti: A. La cittadina serba A.A._ è giunta in Svizzera nel 1995 al seguito dei genitori, ottenendo un permesso dl dimora annuale. Questo permesso le è stato rinnovato un'ultima volta fino al 10 gennaio 2014. Nel luglio del 2000, A.A._ ha sposato il cittadino kosovaro E.A._, pure a beneficio di un permesso di dimora; la coppia ha avuto i figli C.A._ e D.A._. B. I coniugi A._ si sono separati di fatto nel 2009 ed hanno nel frattempo divorziato. Il 25 marzo 2014, la Sezione della popolazione del Dipartimento delle istituzioni ha negato il rinnovo del permesso di dimora sia ad A.A._ che ai figli C.A._e D.A._. L'autorità si è basata essenzialmente sull'art. 62 lett. e LStr rilevando che, nonostante fosse stata ammonita in tal senso, A.A._ continuava a percepire assegni famigliari integrativi (AFI), nella misura di fr. 1'119.-- mensili, e prestazioni assistenziali, per un importo di fr. 1'922.-- mensili. Confermato dal Consiglio di Stato, il diniego del rinnovo è stato in seguito oggetto di un ricorso davanti al Tribunale cantonale amministrativo, il quale - con sentenza del 29 settembre 2015, non ulteriormente impugnata - non è tuttavia entrato nel merito del gravame a causa del mancato pagamento dell'anticipo spese. C. Il 18 gennaio 2016, A.A._ ha chiesto alla Sezione della popolazione di riesaminare la decisione del 25 marzo 2014. Ritenendo che le circostanze da lei fatte valere non costituissero fatti nuovi e di importanza tale da modificare la decisione presa, il 9 febbraio successivo l'autorità adita non è tuttavia entrata nel merito della domanda. Su ricorso, questa decisione di non entrata in materia è stata in seguito confermata, sia dal Consiglio di Stato, sia dal Tribunale cantonale amministrativo, che si è espresso al riguardo con sentenza del 17 giugno 2016. D. Con ricorso in materia di diritto pubblico, in subordine con ricorso sussidiario in materia costituzionale del 10 agosto 2016, formulato per sé e in rappresentanza dei figli, A.A._ si è allora rivolta al Tribunale federale, chiedendo l'annullamento della pronuncia dell'autorità inferiore e il rinvio dell'incarto alla stessa per nuova decisione. Il Tribunale amministrativo ticinese si è riconfermato nel proprio giudizio. Domandando il rigetto del ricorso, ad esso hanno fatto in sostanza rinvio anche la Sezione della popolazione e la Segreteria di Stato della migrazione. Con risposta tardiva, il Governo ticinese si è invece rimesso alle valutazioni di questa Corte.