Fatti:
A. B._ è proprietaria di una minuscola casa di abitazione sita nel nucleo di XX._. L'edificio, di 68 m2, è strutturato su due piani, uno dei quali, lo scantinato, è parzialmente interrato verso monte. Verso est si affaccia su un viottolo, mentre verso sud è contiguo a uno stabile di tre piani. Il 4 luglio 2008 la D._SA, per conto della proprietaria, ha chiesto al Municipio il permesso di sopraelevare la casa di un piano. Alla domanda si sono opposti C._ e A._, proprietari di due stabili abitativi confinanti, siti a monte e separati da un cortiletto largo tre metri da quello della richiedente, contestando il rispetto delle distanze minime e l'inserimento estetico e architettonico della sopraelevazione.
B. Il 15 settembre 2008 il Municipio, raccolto il preavviso favorevole del Dipartimento del territorio, ha rilasciato la licenza richiesta. Il 23 dicembre 2008 il Consiglio di Stato, adito dagli opponenti, ha confermato il permesso. Con giudizio del 25 marzo 2009 il Tribunale cantonale amministrativo ha respinto i ricorsi presentati dai vicini.
C. Avverso questa decisione A._ presenta, con due atti distinti, un ricorso in materia di diritto pubblico e un ricorso sussidiario in materia costituzionale al Tribunale federale. Chiede di concedere l'effetto sospensivo ai gravami, di annullare la sentenza impugnata e di rinviare gli atti alla Corte cantonale per nuovo giudizio sulla base dei considerandi espressi dal Tribunale federale.
Non sono state chieste osservazioni ai ricorsi.
Diritto:
1. 1.1 Il Tribunale federale esamina d'ufficio e con piena cognizione l'ammissibilità dei ricorsi sottopostigli (DTF 134 II 138 consid. 1).
1.2 Il ricorrente ha inoltrato, irritamente con due allegati distinti invece che con una sola e medesima istanza (art. 119 cpv. 1 LTF), sia un ricorso in materia di diritto pubblico (art. 82 e segg.) sia un ricorso sussidiario in materia costituzionale (art. 113 e segg. LTF). Egli non spiega tuttavia, perché quest'ultimo rimedio sarebbe ricevibile, ritenuto che, contro una decisione finale dell'ultima istanza cantonale confermativa del rilascio di una licenza edilizia a terzi, è dato il ricorso in materia di diritto pubblico: il secondo rimedio è pertanto inammissibile (DTF 133 II 409 consid. 1.1, 353 consid. 2). Il ricorso ordinario è di massima ammissibile sotto il profilo degli art. 82 lett. a, 86 cpv. 1 lett. d, 90 e 100 cpv. 1 LTF. La legittimazione del ricorrente è manifesta.
1.3 Secondo l'art. 42 cpv. 1 e 2 LTF, il gravame dev'essere motivato in modo sufficiente, spiegando nei motivi perché l'atto impugnato viola il diritto (DTF 133 II 249 consid. 1.4). Il Tribunale federale esamina in linea di principio solo le censure sollevate; esso non è tenuto a vagliare, come lo farebbe un'autorità di prima istanza, tutte le questioni giuridiche che si pongono, se queste ultime non sono presentate nella sede federale. Per di più, quando il ricorrente invoca la violazione di diritti costituzionali, il Tribunale federale esamina le censure soltanto se siano state esplicitamente sollevate e motivate in modo chiaro e preciso (art. 106 cpv. 2 LTF; DTF 134 II 244 consid. 2.2): ciò vale anche per la critica d'arbitrio nell'accertamento dei fatti e nella valutazione delle prove (DTF 134 I 83 consid. 3.2). Il ricorso in esame, come si vedrà, in larga misura di natura meramente appellatoria, adempie solo in parte queste esigenze di motivazione.
1.4 Riservati i casi dell'art. 95 lett. c-e LTF, la violazione del diritto cantonale o comunale non costituisce di per sé un motivo di ricorso, ma può configurare una violazione del diritto federale giusta l'art. 95 lett. a LTF, segnatamente qualora disattenda il divieto dell'arbitrio sanzionato dall'art. 9 Cost. (DTF 134 II 349 consid. 3). Non basta inoltre che la decisione impugnata sia insostenibile nella motivazione, ma occorre che lo sia anche nel suo risultato (DTF 134 II 124 consid. 4.1), ciò che spetta al ricorrente dimostrare (DTF 133 II 396 consid. 3.2).
2. 2.1 Il Tribunale cantonale amministrativo ha confermato la licenza edilizia fondandosi sull'art. 54 cpv. 2 delle norme di attuazione del piano regolatore di X._ (NAPR), concernente le volumetrie per gli interventi previsti nella zona del nucleo in esame, che ammette "ampliamenti della volumetria (sopraelevazione) per un massimo di 3.00 ml limitatamente agli edifici indicati con reticolo a puntini sul piano 1:1'000 a pag. 37, nei limiti di un opportuno inserimento dal profilo estetico-architettonico e secondo l'allineamento storico degli edifici contigui (...).
Sono ammessi inoltre ampliamenti in orizzontale nei limiti della salvaguardia degli allineamenti storici. Valgono le seguenti distanze minime:
- verso un fondo aperto a confine o a 1.50 ml
- verso un edificio senza aperture in contiguità o a 3 ml
- verso un edificio con aperture a 4 ml"
La Corte cantonale ha ritenuto che da questa norma e dalla relativa rappresentazione cartografica si evince chiaramente che gli ampliamenti verticali, ossia le sopraelevazioni, sono ammessi soltanto su una ventina di edifici, accuratamente selezionati tra la settantina di immobili che compongono il nucleo in questione. Ne ha dedotto che il legislatore comunale ha operato una netta distinzione tra gli ampliamenti verticali e quelli orizzontali, assoggettando unicamente questi ultimi al rispetto delle distanze da confine e verso edifici. Ha aggiunto, che già in un suo precedente giudizio del 26 giugno 1996 essa aveva stabilito che sarebbe contraddittorio permettere da un lato le sopraelevazioni in base alle rappresentazioni cartografiche, per poi vietarle dall'altro sulla base di restrizioni sancite per le distanze verso il confine o verso altri edifici.
I giudici cantonali hanno aggiunto che la norma in esame intende essenzialmente permettere ai proprietari di edifici più bassi (in genere di soli due piani) di sopraelevarli per un massimo di 3.00 m, in modo da adeguarne l'altezza a quella delle costruzioni vicine e consentire l'inserimento di tre livelli abitativi. Essi hanno ritenuto che le considerazioni dei vicini circa le finalità perseguite dalle norme sulle distanze tra edifici non possono essere seguite, visto che il testo dell'art. 54 cpv. 2 NAPR non lascia sussistere alcun dubbio sulle intenzioni del legislatore comunale di sottrarre, per i citati motivi, gli ampliamenti verticali di determinati edifici, singolarmente indicati, alla disciplina sulle distanze. Hanno poi accertato che la carta annessa a detta norma raffigura l'edificio della richiedente con un reticolo a puntini, per cui la possibilità di sopraelevarlo è espressamente prevista.
2.2 Il ricorrente insiste sul mancato rispetto delle distanze minime previste dal piano regolatore, in particolare verso il suo fondo. Adduce, invero in maniera generica, che le norme sulle distanze avrebbero carattere imperativo, per cui né i proprietari né il Comune, emanando l'art. 54 NAPR, potrebbero derogarvi.
2.2.1 Egli non si confronta tuttavia con le pertinenti motivazioni poste a fondamento dell'impugnato giudizio, adducendo semplicemente che sarebbero incomprensibili e illogiche. Al riguardo, egli si limita, del resto in maniera meramente appellattoria, a richiamare semplicemente la regolamentazione generale sulle distanze, senza tentare di dimostrare l'infondatezza degli argomenti addotti dai giudici cantonali relativamente alle specificità della normativa in esame, le cui finalità sono, contrariamente all'assunto ricorsuale, chiaramente comprensibili.
2.2.2 Il ricorrente, ammesso che il fondo litigioso è evidenziato con il reticolo a puntini, parrebbe non voler riconoscere che riguardo a questi fondi la questione della distanze è stata decisa non in maniera generica, bensì sulla base di un esame approfondito e specifico delle peculiarità di determinati immobili siti nel nucleo, autorizzando sopraelevazioni fino a m 3.00 soltanto per una ventina di edifici accuratamente selezionati, tenendo conto delle loro ubicazioni e particolarità. Insistendo sulla disciplina generale delle distanze, egli non dimostra affatto l'incostituzionalità dell'art. 54 NAPR e ancor meno una sua interpretazione e applicazione arbitraria da parte dei giudici cantonali. Con detti accenni, che non adempiono peraltro le già citate esigenze di motivazione, il ricorrente non dimostra del tutto che la differenziazione operata dall'art. 54 NAPR tra gli ampliamenti verticali e quelli orizzontali sarebbe addirittura insostenibile e quindi arbitraria. La decisione impugnata, che conferma la facoltà di adeguare l'altezza di un minuscolo edificio alle costruzioni vicine, neppure appare arbitraria nel risultato, ricordato che si fonda sulle particolarità di alcuni edifici siti in un nucleo e sulle difficoltà oggettive di rispettare le distanze in questa zona.
2.2.3 Il ricorrente sostiene inoltre, sempre in maniera generica, che l'avversato progetto comprometterebbe la sicurezza e la salubrità del suo immobile, segnatamente le possibilità d'insolazione, di aerazione e d'illuminazione (su questi temi cfr. sentenza 1C_137/2007 del 23 gennaio 2008 consid. 5.2 e 5.3; Scolari, Commentario,1996, pag. 156 seg.). Egli non precisa tuttavia gli asseriti pregiudizi, in parte senz'altro ravvisabili, ma dei quali, come gli incombeva, non dimostra l'asserita intensità, considerato che il Comune ne ha compiutamente tenuto conto nell'elaborazione dell'art. 54 NAPR e in particolare nell'inserire nella rappresentazione cartografica l'immobile litigioso. Essi non sono stati d'altra parte accertati nella decisione impugnata e il ricorrente non tenta di dimostrare l'arbitrarietà di detto mancato accertamento. In questo contesto il riferimento all'art. 3 LPT appare del tutto inconferente.
2.2.4 Il ricorrente richiama poi la prassi del Tribunale federale sulle distanze tra edifici e dai confini, sulla perdita d'insolazione e sul problema dell'ombra per quanto riguarda il riconoscimento della legittimazione a ricorrere dei vicini (DTF 127 I 44 consid. 2b; 119 Ia 113 consid. 3b; 129 III 161 sul rapporto tra il diritto pubblico cantonale e il diritto privato di vicinato), ma disconosce che in concreto questa questione non è litigiosa. La dottrina e le sentenze richiamate dal ricorrente si riferiscono per di più a casi non oggetto di una regolamentazione specifica come quella prevista dall'art. 54 NAPR (cfr. per siffatte cause sentenze 1C_28/2008 del 14 luglio 2008 consid. 4 e 5 e 1C_118/2008 del 5 settembre 2008 consid. 3).
2.2.5 Anche l'accenno, sollevato nel ricorso sussidiario in materia costituzionale, a una diminuzione del valore del suo immobile provocata dalla criticata sopraelevazione, che ostruirebbe la pregiata vista sul lago, non implica il postulato diniego della licenza edilizia, ritenuto che della garanzia della proprietà (art. 26 Cost.) invocata dal ricorrente, deve poter beneficiare anche la vicina. A torto il ricorrente lamenta una violazione concernente le restrizioni dei suoi diritti fondamentali, ritenuto che la base legale del criticato progetto è chiaramente data dall'art. 54 NAPR, che questa norma non lede l'interesse pubblico e che, consentendo l'inserimento di tre livelli abitativi per determinati edifici, rispetta il principio di proporzionalità.
3. 3.1 Il ricorrente ricorda poi che la sopraelevazione secondo l'art. 54 NAPR è possibile comunque solo nei limiti di un opportuno inserimento dal profilo estetico-architettonico e secondo l'allineamento storico. A suo dire questa condizione non sarebbe realizzata in concreto, poiché l'innalzamento litigioso interromperebbe quel tipico andamento irregolare dei profili di gronda caratterizzanti il nucleo di X._: sussisterebbero quindi dubbi riguardo al rispetto del limite estetico imposto dalla citata norma.
3.2 L'accenno di critica, che disattende le esigenze di motivazione dell'art. 42 LTF, è inammissibile. Del resto, Il Tribunale amministrativo ha ritenuto che la sopraelevazione in esame rispetta l'allineamento storico degli edifici contigui, poiché, non essendo previsto alcun ampliamento orizzontale, l'allineamento non viene modificato. Ha ritenuto che il citato assunto ricorsuale, addotto nella sede cantonale peraltro a suo tempo dalla vicina e non dal ricorrente, non può essere seguito, rilevato che mal si comprende come si potrebbe sopraelevare un edificio senza alterarne lo sviluppo verticale.
I giudici cantonali hanno infine respinto anche le contestazioni circa l'inserimento estetico architettonico, sollevate tuttavia ancora dalla vicina e non dal ricorrente, che reputava sproporzionata l'aggiunta rispetto alle preesistenze. Essi hanno ritenuto che l'aumento di circa un terzo della volumetria dello stabile esistente non è irrilevante, ma che il Municipio non ha ecceduto nel potere di apprezzamento che gli conferisce l'art. 54 cpv. 2 NAPR, per cui non è possibile scostarsene senza violare l'autonomia comunale. Anche in tale ambito, il ricorrente si limita a rilevare, in maniera inconferente e appellatoria, che la natura cogente delle norme sulle distanze prevarrebbe sull'autonomia comunale.
4. 4.1 Ne segue, che il ricorso in materia di diritto pubblico dev'essere respinto in quanto ammissibile, mentre il ricorso sussidiario in materia costituzionale è inammissibile. Le spese seguono la soccombenza (art. 66 cpv. 1 LTF).
4.2 L'emanazione del presente giudizio rende priva di oggetto la domanda di effetto sospensivo.
Per questi motivi, il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso è respinto.
2. Le spese giudiziarie di fr. 2'000.-- sono poste a carico del ricorrente.
3. Comunicazione al patrocinatore del ricorrente, alla D._SA, al Municipio di X._, al Consiglio di Stato e al Tribunale amministrativo del Cantone Ticino.