Fatti:
A. A._, B._ e C._ sono proprietari del fondo part. n. 2551 di Stabio, su cui sorge una casa d'abitazione plurifamiliare (subalterno A). La particella è situata in località San Pietro, ai margini del nucleo antico, e deriva dal frazionamento del fondo originario part. n. 327, di cui era proprietaria fino al gennaio 2002 la società D._SA. Sotto il profilo pianificatorio, la proprietà è inserita nel perimetro del piano particolareggiato dei nuclei di Stabio e di San Pietro (PPNV), nella zona di risanamento conservativo (RC). L'immobile (subalterno A) è inoltre catalogato come edificio da riattare (RA).
B. Il 15 maggio 2001 la D._SA ha presentato al Municipio di Stabio una domanda di costruzione per il riattamento e l'ampliamento del suddetto edificio. Secondo la relazione tecnica allegata alla domanda era in particolare previsto di aumentare di 65 cm l'altezza dell'edificio, in modo da rendere abitabile il piano mansardato, che avrebbe avuto un'altezza interna in gronda di 180 cm. Acquisito il preavviso favorevole dell'autorità cantonale, il 13 luglio 2001 il Municipio ha rilasciato la licenza edilizia.
C. Dopo una serie di atti che non occorre qui evocare, ritenuto che l'innalzamento eseguito era maggiore rispetto a quanto autorizzato, i proprietari hanno presentato il 20 luglio 2007 una domanda di costruzione a posteriori volta a rettificare un errore formale nei piani del progetto originario ed a sanare una sopraelevazione che eccederebbe di 15 cm quella autorizzata. Una persona si è opposta al rilascio della licenza edilizia in sanatoria, che il Municipio, dopo avere ordinato un rapporto tecnico, ha negato con decisione del 16 aprile 2008. L'Esecutivo comunale ha ritenuto che la sopraelevazione realizzata raggiungesse i 185 cm, di cui soltanto 65 cm autorizzati, e che essa non potesse essere considerata una modifica di poco conto conforme agli art. 8 e 12 delle norme di attuazione del PPNV (NAPPNV). La decisione municipale è stata confermata il 17 agosto 2010 dal Consiglio di Stato del Cantone Ticino, su ricorso dei proprietari.
D. Con sentenza del 5 luglio 2011 il Tribunale cantonale amministrativo ha accolto un ricorso dei proprietari contro la risoluzione governativa, annullandola. Ha pure annullato la decisione del Municipio, rinviandogli gli atti affinché rilasci la licenza edilizia. La Corte cantonale ha accertato che la sopraelevazione realizzata si situa in una forchetta compresa tra 0,85 m e 1,55 m ed ha ritenuto che non vi sono ragioni per non autorizzarla dal momento che rientra ancora nei limiti degli art. 8 e 12 NAPPNV.
E. Il Comune di Stabio impugna questa sentenza con un ricorso in materia di diritto pubblico al Tribunale federale, chiedendo di annullarla. Il ricorrente fa valere la violazione dell'autonomia comunale, del divieto dell'arbitrio, oltre a un diniego di giustizia.
F. La Corte cantonale si riconferma nella sua sentenza, formulando alcune precisazioni. Il Consiglio di Stato si rimette al giudizio del Tribunale federale, mentre i proprietari postulano la reiezione del gravame.
Diritto:
1. 1.1 Con il giudizio impugnato, il Tribunale cantonale amministrativo ha rinviato gli atti al Municipio di Stabio affinché rilasci la licenza edilizia richiesta. Giusta l'art. 34 cpv. 1 LPT (RS 700), i rimedi giuridici proponibili dinanzi alle autorità federali sono retti dalle disposizioni generali sull'amministrazione della giustizia federale. Il ricorso in materia di diritto pubblico ai sensi dell'art. 82 lett. a LTF è quindi dato anche nel campo edilizio e della pianificazione del territorio ritenuto che l'art. 83 LTF non prevede un'eccezione al riguardo (cfr. DTF 133 II 353 consid. 2 e 3.3, 409 consid. 1.1). La decisione impugnata emana da un'autorità cantonale di ultima istanza (art. 86 cpv. 1 lett. d LTF) e il gravame è tempestivo (art. 100 cpv. 1 in relazione con l'art. 46 cpv. 1 lett. b LTF).
1.2 La decisione impugnata non conclude definitivamente la procedura cantonale, siccome rinvia gli atti al Municipio affinché rilasci la licenza edilizia richiesta. Non occorre qui esaminare se essa debba essere equiparata a un giudizio finale ai sensi dell'art. 90 LTF per il fatto che non lascia più alcun margine di apprezzamento al Municipio (cfr. DTF 134 II 124 consid. 1.3 pag. 127). In concreto, il ricorso è infatti comunque proponibile, poiché la decisione impugnata comporta per l'autorità comunale un pregiudizio irreparabile giusta l'art. 93 cpv. 1 lett. a LTF, non potendosi esigere ch'essa dia seguito a un'indicazione che reputa sbagliata per impugnare successivamente la sua decisione facendo valere una violazione della propria autonomia (cfr. DTF 133 II 409 consid. 1.2 e rinvii).
1.3 Il Comune è segnatamente legittimato a ricorrere con un ricorso in materia di diritto pubblico se fa valere la violazione di garanzie conferitegli dalla Costituzione cantonale o da quella federale (art. 89 cpv. 2 lett. c LTF). È questo il caso per la garanzia della sua autonomia, sancita dagli art. 50 cpv. 1 Cost. e 16 cpv. 2 Cost./TI. Poiché impone al Municipio il rilascio della licenza edilizia, il giudizio impugnato tocca il Comune di Stabio nella sua veste di detentore del pubblico potere: esso, censurando una violazione della propria autonomia, è pertanto legittimato a ricorrere ai sensi dell'art. 89 cpv. 2 lett. c LTF (DTF 135 I 43 consid. 1.2; 131 I 91 consid. 1 e rinvii). Sapere se il Comune disponga effettivamente di autonomia nel campo litigioso e se questa sia stata disattesa è questione di merito, non di ammissibilità (DTF 135 I 43 consid. 1.2 e rinvii).
1.4 Il Comune fruisce di autonomia tutelabile in quelle materie che la legislazione cantonale non regola esaurientemente, ma lascia completamente o in parte al relativo ordinamento comunale, conferendogli una notevole libertà di decisione (DTF 137 I 235 consid. 2.2; 133 I 128 consid. 3.1; 131 I 333 consid. 4.4.1). In particolare, il Comune ticinese beneficia in linea di principio nel campo edilizio e della pianificazione del territorio di un ampio margine di decisione e di apprezzamento, che la giurisprudenza fa rientrare nell'autonomia tutelabile (DTF 103 Ia 468 consid. 2; sentenza 1P.675/2004 del 12 luglio 2005, consid. 2.2 e rinvii, in: RtiD II-2005, n. 16, pag. 100 segg.). Nella fattispecie, è incontestato che il Comune di Stabio dispone di autonomia nell'interpretazione delle norme comunali di attuazione del PPNV, riguardanti in particolare gli interventi ammissibili sugli edifici da riattare nella zona di risanamento conservativo.
1.5 Prevalendosi della sua autonomia, il Comune può tra l'altro far valere la violazione del diritto cantonale o comunale autonomo ed esigere che le autorità cantonali di ricorso o di vigilanza osservino, da un lato, i limiti formali posti dalla legge al loro intervento e, dall'altro, che applichino in modo corretto il diritto materiale determinante. Il Comune può, come in concreto, invocare anche la violazione del divieto dell'arbitrio (art. 9 Cost.) e del diritto di essere sentito (art. 29 cpv. 2 Cost.), purché la censura sia in stretta connessione con quella della sua autonomia (DTF 134 I 204 consid. 2.2; 131 I 91 consid. 1; 129 I 313 consid. 4.1 e rinvii).
Il Tribunale federale esamina liberamente il giudizio impugnato nella misura in cui verte sull'applicazione del diritto federale e del diritto costituzionale cantonale. Vaglia quindi liberamente se l'istanza cantonale di ricorso ha rispettato il margine di apprezzamento che rientra nel campo di applicazione dell'autonomia comunale (art. 50 cpv. 1 Cost.; DTF 96 I 369 consid. 4 pag. 374). In tale ambito, un abuso del potere di cognizione da parte dell'istanza di ricorso realizza di massima gli estremi dell'arbitrio (DTF 136 I 395 consid. 2 e riferimenti).
2. 2.1 Il ricorrente sostiene che la Corte cantonale sarebbe incorsa nell'arbitrio e in un diniego di giustizia per non avere accertato l'entità dell'innalzamento eseguito, che costituirebbe l'aspetto fattuale principale della vertenza.
2.2 In realtà, dopo avere esposto i diversi rapporti tecnici e peritali ed avere dato atto delle difficoltà a stabilire con certezza l'entità precisa della sopraelevazione, la Corte cantonale ha accertato che "la sopraelevazione realizzata si situa (incluso l'innalzamento già autorizzato di 65 cm) in una forchetta compresa tra 0,85 m e 1,55 m (dedotto il margine di errore), più verosimilmente tra m 0,85 e m 1,20/1,25, qualora si tenesse conto anche del plausibile abbassamento della soletta del piano mansardato di una trentina di centimetri". Il ricorrente non si confronta con questo accertamento, spiegando con una motivazione conforme agli art. 42 cpv. 2 e 106 cpv. 2 LTF per quali ragioni esso sarebbe chiaramente insostenibile, in evidente contrasto con gli atti o fondato su una svista manifesta (cfr., sulle esigenze di motivazione, DTF 136 I 49 consid. 1.4.1, 65 consid. 1.3.1; 134 II 244 consid. 2.1 e 2.2; 133 II 249 consid. 1.4.1). Contrariamente all'opinione del ricorrente, i giudici cantonali non hanno quindi omesso di accertare l'entità dell'innalzamento, ma l'hanno determinata situandola in una fascia compresa tra 0,85 m e 1,55 m. Pur esprimendo dubbi sul rapporto peritale alla base sia della decisione municipale sia di quella governativa che la confermava, la Corte ha per finire preso in considerazione la sopraelevazione risultante da tale rapporto, riconoscendo un innalzamento di 1,55 m tenuto conto del margine di errore. Questo accertamento, come visto non censurato d'arbitrio, è vincolante per il Tribunale federale (art. 105 cpv. 1 LTF).
3. 3.1 Il ricorrente rimprovera alla Corte cantonale di avere violato la propria autonomia, siccome nell'interpretazione dell'art. 12 NAPPNV avrebbe semplicemente sostituito il suo apprezzamento a quello del Municipio. Secondo il ricorrente, i giudici cantonali si sarebbero abbandonati a un'interpretazione personale della norma, introducendo un criterio legato al volume dell'edificio, non desumibile immediatamente dal testo legale, e scostandosi dal criterio determinante delle "piccole modificazioni d'altezza".
3.2 Come visto, il fondo interessato dall'intervento edilizio è inserito nel perimetro del piano particolareggiato dei nuclei di Stabio e di San Pietro (PPNV), nella zona di risanamento conservativo (RC), e l'immobile oggetto del criticato innalzamento è catalogato come edificio da riattare (RA).
L'art. 10 NAPPNV, dal titolo "zona di risanamento conservativo (RC)", prevede in particolare che "il risanamento conservativo implica il rispetto dei caratteri tipologici e morfologici principali del tessuto edilizio, degli edifici, dei manufatti e degli spazi esterni, nonché la possibilità di risanare le parti costruttivamente guaste, di riordinare le parti funzionalmente e formalmente carenti, e di introdurre le aggiunte o sottrazioni necessarie per il buon funzionamento ed il decoro degli edifici". Secondo l'art. 8 NAPPNV, per gli edifici da riattare (RA), "il volume principale dev'essere conservato. Sono permesse piccole modifiche, aggiunte, sopraelevazioni per garantire la sopravvivenza degli edifici, in conformità dell'art. 12". Quest'ultima disposizione, dal titolo "volumetrie", prevede segnatamente che "la volumetria generale degli edifici deve essere in linea di principio mantenuta. Piccole modificazioni d'altezza in più o in meno, nel caso di rifacimento del tetto o di interventi di riattazione, sono ammesse per provate esigenze costruttive o quando si ottenga un sensibile miglioramento di locali destinati all'abitazione. L'aumento di superficie abitabile interna è consentito nella misura in cui non provoca modifiche sostanziali della volumetria dell'edificio". L'art. 12 NAPPNV esclude poi una sopraelevazione pari all'altezza di un intero piano. Esige inoltre che le sopraelevazioni non provochino danno o molestia gravi alle proprietà vicine, non compromettano l'insolazione e l'aerazione naturale degli stabili esistenti, si integrino correttamente nel tessuto edilizio esistente dal profilo della forma e dei materiali e siano coperte con un tetto a falde. Sempre per gli edifici soggetti a riattamento, l'art. 19 NAPPNV prevede la possibilità di formare locali abitativi compresi tra la soletta del solaio ed il tetto, a condizione che siano illuminati con aperture situate nella parte alta della facciata o con piccoli lucernari di dimensione ridotta rispetto alla superficie del tetto.
3.3 La Corte cantonale ha rilevato che le NAPPNV non prevedono un limite massimo dell'altezza degli edifici. Le norme perseguono finalità conservative della sostanza edilizia esistente, prevedendo in particolare il mantenimento delle volumetrie generali. Le citate disposizioni non escludono la possibilità di realizzare modifiche, aggiunte e sopraelevazioni per adeguare la funzionalità delle costruzioni alle nuove esigenze abitative. In particolare, l'art. 12 NAPPNV prevede, nel caso di rifacimento del tetto o di interventi di riattamento, l'ammissibilità di piccole modificazioni di altezza per provate esigenze costruttive o per ottenere un sensibile miglioramento di locali destinati all'abitazione. Secondo la Corte cantonale, la nozione indeterminata di "piccole modificazioni d'altezza" non deve essere interpretata isolatamente, assumendo per contro significato in relazione alla volumetria, rispettivamente al principio di conservarla. Ha quindi rilevato che il contenuto normativo della nozione deve essere dedotto per rapporto all'alterazione delle preesistenze. Ha precisato che ciò è desumibile dal fatto che la nozione è inserita in una disposizione intitolata "volumetrie" e che la stessa disposizione esclude una sopraelevazione pari all'altezza di un intero piano, cioè di un nuovo volume rilevante. In sostanza, secondo i giudici cantonali, non è di per sé decisiva l'entità dell'innalzamento, bensì l'aumento del volume complessivo dell'edificio.
I giudici cantonali hanno considerato che il solaio dell'edificio interessato presentava, già prima del riattamento, un volume importante, avendo una larghezza di circa 9 m e un'altezza centrale superiore a 3 m. Ciò lo rendeva utilizzabile in buona parte a fini abitativi a prescindere da un'eventuale sopraelevazione dell'edificio. L'innalzamento autorizzato, destinato a disporre di un'altezza interna in gronda di 1,80 m, rispettivamente quello effettivamente realizzato (in cui l'altezza interna in gronda raggiunge 2,38 m), hanno permesso di migliorare la qualità abitativa dei locali del piano mansardato, creando una serie di finestre nella parte alta della facciata, conformemente all'art. 19 NAPPNV. La Corte cantonale ha rilevato che la differenza tra la soluzione autorizzata e quella eseguita è irrilevante dal profilo volumetrico, ritenuto che il colmo è rimasto sostanzialmente invariato e che, per la mutata inclinazione della falda, la maggiore altezza in gronda si stempera con l'avvicinarsi della falda al colmo. In tale situazione, non vi era dunque alcun motivo per negare il rilascio della licenza edilizia in sanatoria, ritenuto che il risultato ottenuto resta conforme alle NAPPNV applicabili e che il vantaggio conseguito non si differenzia apprezzabilmente da quello che sarebbe comunque stato ottenuto in base al permesso originario. La precedente istanza ha quindi concluso che, pur tenendo conto del riserbo di cui doveva dar prova nel controllo dell'interpretazione data dal Municipio alle nozioni giuridiche indeterminate del diritto autonomo comunale, appariva fuori luogo negare all'innalzamento litigioso, che non aveva comportato l'aggiunta di un nuovo piano abitabile, la qualifica di piccola modificazione d'altezza rientrante nei limiti degli art. 8 e 12 NAPPNV.
3.4 Il ricorrente contesta in modo generale queste argomentazioni. Adduce che la Corte cantonale avrebbe ecceduto nel suo potere d'esame opponendo la sua opinione a quella, non arbitraria, del Municipio. A suo dire, una sopraelevazione di 1,55 m sarebbe obiettivamente ingente, giacché avrebbe modificato sostanzialmente le dimensioni dell'edificio, che presentava originariamente un'altezza di 10 m. L'argomentazione del ricorrente considera in sostanza determinante sotto il profilo dell'applicazione degli art. 8 e 12 NAPPNV solo la nozione di "piccola modifica d'altezza", isolandola dal contesto normativo ed interpretandola in modo a sé stante. Il ricorrente prescinde inoltre dalle caratteristiche dell'edificio quanto a volumetria generale ed ampiezza del piano mansardato già esistente e reso abitabile con la licenza edilizia del 13 luglio 2011. Tuttavia, contrariamente al suo parere, quello della volumetria non è un criterio introdotto liberamente dalla Corte cantonale, ma è fondato sugli art. 8 e 12 NAPPNV, che prevedono esplicitamente per gli edifici da riattare il mantenimento della volumetria generale dell'edificio, consentendo piccole modifiche dell'altezza per ottenere un sensibile miglioramento di locali destinati all'abitazione. In materia di altezza, lo stesso art. 12 NAPPNV non fissa un limite massimo, escludendo soltanto una sopraelevazione pari all'altezza di un intero piano. L'art. 19 NAPPNV consente d'altra parte, per questa categoria di edifici, la creazione di locali abitativi compresi tra la soletta del solaio e il tetto a condizione che siano illuminati con aperture situate nella parte alta della facciata, come è il caso nella fattispecie.
In concreto, l'intervento edilizio non ha comportato una sopraelevazione corrispondente all'altezza di un intero piano. La trasformazione del preesistente piano mansardato mediante un innalzamento di 65 cm, al fine di renderlo abitabile con un'altezza interna in gronda di 180 cm e l'apertura di finestre nella parte superiore della facciata, è stata autorizzata dal Municipio con la licenza edilizia del 13 luglio 2011. La maggiore sopraelevazione (90 cm oltre quanto autorizzato), oggetto della procedura in sanatoria, ha comportato un ulteriore miglioramento della qualità dei locali abitativi al piano mansardato. Non ha però modificato in misura significativa la volumetria rispetto al progetto originario e sotto questo profilo rientra nei limiti delle NAPPNV citate. Ove si considerino le importanti dimensioni dell'edificio e il fatto che l'innalzamento effettivamente realizzato non ha mutato in modo rilevante il volume generale esistente, non vi erano ragioni oggettive per negare in concreto il rilascio della licenza in sanatoria. La tesi del ricorrente, che ammette in sostanza quale piccola modificazione dell'altezza una sopraelevazione di 65 cm, considerando invece di per sé inammissibile un innalzamento di 1,55 m non poggia su motivi obiettivi che tengano conto delle caratteristiche dell'edificio esistente e della portata dell'intervento edilizio eseguito. Essa prescinde altresì da una lettura complessiva delle norme edilizie applicabili. In tali circostanze, imponendo il rilascio della licenza edilizia, la Corte cantonale non ha semplicemente sostituito il proprio apprezzamento a quello del Municipio, ma ha rettamente annullato una decisione manifestamente insostenibile, e quindi arbitraria, dell'autorità comunale.
4. Ne segue che il ricorso deve essere respinto in quanto ammissibile. Il Comune ricorrente, che si è rivolto al Tribunale federale nell'ambito delle sue attribuzioni ufficiali, può essere dispensato dal pagamento di spese processuali (art. 66 cpv. 4 LTF). Esso dovrà però versare un'indennità per ripetibili della sede federale agli opponenti (art. 68 cpv. 1 LTF).
Per questi motivi, il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso è respinto.
2. Non si prelevano spese giudiziarie.
3. Il ricorrente rifonderà agli opponenti un'indennità di fr. 2'000.-- a titolo di ripetibili della sede federale.
4. Comunicazione ai patrocinatori delle parti, al Consiglio di Stato e al Tribunale amministrativo del Cantone Ticino.