Fatti:
A. B._ è proprietaria del fondo yyy di X._, situato in leggero pendio nella zona residenziale R3 del piano regolatore comunale. Il 12 dicembre 2008 ha presentato al Municipio di X._ una domanda di costruzione per edificare sul fondo uno stabile di tre appartamenti. Alla domanda, pubblicata soltanto il 5 maggio 2009, dopo che erano state apportate alcune modifiche sollecitate dal Municipio, si è opposto A._, proprietario di un fondo confinante. Preso atto dello spostamento della termopompa in un vano posto all'interno del progettato edificio, l'autorità cantonale competente ha preavvisato favorevolmente il rilascio della licenza edilizia. Il 14 settembre 2009 il Municipio l'ha quindi concessa sottoponendola a determinate condizioni e respingendo contestualmente l'opposizione del vicino.
B. Con decisione del 21 aprile 2010 il Consiglio di Stato del Cantone Ticino ha respinto un ricorso dell'opponente contro la risoluzione municipale, confermando sostanzialmente la licenza edilizia. Con giudizio del 1° dicembre 2010, il Tribunale cantonale amministrativo ha annullato sia la decisione governativa sia la licenza edilizia ed ha rinviato gli atti ai Servizi generali del Dipartimento del territorio, affinché procedesse a determinate verifiche riguardo al rumore della termopompa ed alla conformità del progetto sotto il profilo energetico ed emanasse un nuovo avviso all'attenzione del Municipio, tenuto a pronunciarsi nuovamente sulla domanda di costruzione. Con sentenza 1C_41/2011 del 7 febbraio 2011, il Tribunale federale ha dichiarato inammissibile un ricorso dell'opponente contro il giudizio della Corte cantonale, siccome non erano date le condizioni poste dall'art. 93 LTF per impugnarlo direttamente nella sede federale.
C. Dando seguito alla sentenza della Corte cantonale e sentito il ricorrente, il 15 giugno 2011 i Servizi generali del Dipartimento del territorio hanno emanato un nuovo avviso favorevole al progetto, subordinato a determinate condizioni. Il 22 giugno 2011 il Municipio ha quindi rilasciato la licenza edilizia, respingendo nel contempo nuovamente l'opposizione presentata a suo tempo dal vicino contro la domanda di costruzione. Con decisione del 14 dicembre 2011 il Consiglio di Stato ha respinto un ricorso del vicino contro la risoluzione municipale.
D. Contro la decisione governativa, A._ ha nuovamente adito il Tribunale cantonale amministrativo, che con sentenza del 18 luglio 2012 ha respinto il ricorso. La Corte cantonale ha disatteso le censure di ordine formale ed ha ritenuto che l'edificio rispettava l'altezza massima di 10.50 m prevista nella zona residenziale R3.
E. A._ impugna questa sentenza con un ricorso in materia di diritto pubblico al Tribunale federale, chiedendo di annullarla. Postula pure l'annullamento della decisione governativa. Fa valere la violazione del divieto dell'arbitrio e del diritto di essere sentito, nonché l'accertamento manifestamente inesatto dei fatti.
F. La Corte cantonale si conferma nella sua sentenza. Il Consiglio di Stato si rimette al giudizio del Tribunale federale. Il Municipio di X._ e B._ chiedono di respingere il ricorso. Il ricorrente ha in seguito presentato ulteriori osservazioni confermandosi nelle sue richieste.
Con decreto presidenziale del 23 ottobre 2012 è stato conferito effetto sospensivo al gravame.
Diritto:
1. Presentato tempestivamente contro una decisione finale dell'ultima istanza cantonale, che ha confermato il rilascio della licenza edilizia, il ricorso in materia di diritto pubblico è ammissibile sotto il profilo degli art. 82 lett. a, 86 cpv. 1 lett. d, 90 e 100 cpv. 1 in relazione con l'art. 46 cpv. 1 lett. b LTF. Il ricorrente, che è proprietario di un fondo confinante ed ha partecipato alla procedura dinanzi all'autorità inferiore, è legittimato a ricorrere giusta l'art. 89 cpv. 1 LTF.
2. 2.1 Egli sostiene che il Cancelliere dello Stato, il quale ha firmato con il Presidente del Governo la decisione del 14 dicembre 2011, avrebbe dovuto ricusarsi, siccome la controparte B._ sarebbe impiegata presso il suo studio.
2.2 Il fatto che l'istante fosse dipendente dell'amministrazione cantonale presso lo studio del Cancelliere era noto al ricorrente già in occasione del suo primo ricorso, dell'11 maggio 2010, al Tribunale cantonale amministrativo, laddove aveva richiamato la circostanza, prospettando un possibile eccesso di potere. Parimenti, era noto al ricorrente, che aveva ricevuto la risoluzione governativa del 21 aprile 2010, che le decisioni del Consiglio di Stato sono firmate dal Presidente e dal Cancelliere (cfr. art. 20 cpv. 1 del regolamento sull'organizzazione del Consiglio di Stato e dell'Amministrazione, del 26 aprile 2001). Pur conoscendo queste circostanze, il ricorrente, nell'ambito della procedura di ricorso dinanzi al Consiglio di Stato contro la risoluzione municipale del 22 giugno 2011, non ha chiesto la ricusa del Cancelliere dello Stato. Sollevando la questione della sua ricusazione soltanto in sede di ricorso dinanzi all'ultima istanza cantonale, che ha respinto nel merito la censura, il ricorrente ha quindi agito tardivamente. In effetti, chi omette di fare valere immediatamente un eventuale motivo di ricusa nei confronti di un'autorità ed attende l'esito del procedimento prima di intervenire agisce in modo contrario alla buona fede e vede il suo diritto perento (DTF 138 I 1 consid. 2.2 pag. 4; 136 I 207 consid. 3.4; 134 I 20 consid. 4.3.1; 132 II 485 consid. 4.3 e rinvii; cfr. art. 32 cpv. 3 e 4 della legge ticinese di procedura per le cause amministrative, del 19 aprile 1966). La censura non deve quindi essere esaminata oltre.
3. 3.1 Il ricorrente sostiene che, a seguito delle sentenze del 1° dicembre 2010 del Tribunale cantonale amministrativo e del 7 febbraio 2011 di questa Corte, la procedura edilizia avrebbe dovuto essere ripristinata dall'inizio, con una nuova pubblicazione della domanda di costruzione e l'assegnazione di un nuovo termine per presentare opposizione.
3.2 Nel citato giudizio del 1° dicembre 2010, la Corte cantonale, in accoglimento parziale del ricorso del ricorrente, ha annullato la licenza edilizia e la decisione governativa che la confermava, poiché lesive delle norme del regolamento cantonale del 16 settembre 2008 sull'utilizzazione dell'energia (RUEn), che aveva abrogato il decreto esecutivo sui provvedimenti di risparmio energetico nell'edilizia, riservando, a titolo transitorio, l'applicazione sino al 31 dicembre 2008 delle prescrizioni tecniche e delle procedure vigenti a quel momento. Ha quindi rinviato gli atti ai Servizi generali del Dipartimento del territorio, affinché spiegasse perché le immissioni foniche della termopompa avrebbero rispettato i valori di pianificazione prescritti dall'allegato 6 all'OIF, verificasse la conformità dell'intervento per rapporto alle prescrizioni del RUEn, chiedendo se del caso il completamento della domanda di costruzione, desse al vicino la facoltà di prendere posizione sulle risultanze della verifica ed emanasse un nuovo avviso all'attenzione del Municipio, che avrebbe dovuto pronunciarsi nuovamente sulla domanda di costruzione.
Rinviando la causa all'autorità cantonale per eseguire determinate verifiche e per una nuova decisione sulla domanda di costruzione da parte del Municipio, la precedente istanza non ha imposto la ripetizione integrale della procedura, precisando anzi esplicitamente che per correggere il difetto riscontrato ciò non era necessario. Né tantomeno un simile obbligo è contenuto nella sentenza del 7 febbraio 2011 di questa Corte.
In concreto, la precedente istanza ha rilevato che è stato dato seguito a quanto da lei disposto nella decisione di rinvio e che il ricorrente ha potuto esprimersi al riguardo in modo adeguato. In questa sede egli si limita ad addurre genericamente che sarebbero stati disattesi i suoi diritti di difesa, senza tuttavia spiegarne le ragioni. Non invoca specifiche disposizioni che in un caso come quello in esame esigerebbero una ripetizione dall'inizio della procedura edilizia. Né fa valere una modifica del progetto in corso di procedura, tale da imporre una ripubblicazione della domanda. La censura, per quanto ammissibile, è quindi infondata.
4. 4.1 Il ricorrente critica il fatto che la modinatura sarebbe stata modificata a due riprese, prima e dopo la pubblicazione della domanda di costruzione. Lamenta inoltre l'intempestività della pubblicazione. Si tratterebbe a suo dire di formalità essenziali, il cui mancato rispetto comporterebbe l'annullamento della procedura edilizia.
4.2 Le modalità di pubblicazione della domanda di costruzione sono rette dal diritto edilizio cantonale, che il Tribunale federale può esaminare unicamente sotto il profilo ristretto dell'arbitrio (cfr. DTF 138 V 67 consid. 2.2; 134 II 349 consid. 3). Per motivare l'arbitrio non basta criticare semplicemente la decisione impugnata contrapponendole una versione propria, ma occorre dimostrare per quale motivo tale decisione è manifestamente insostenibile, in contraddizione palese con la situazione effettiva, gravemente lesiva di una norma o di un chiaro principio giuridico, o in contrasto intollerabile con il sentimento di giustizia e di equità. La decisione deve inoltre essere arbitraria nel suo risultato e non solo nella sua motivazione. Non risulta per contro arbitrio dal semplice fatto che anche un'altra soluzione potrebbe entrare in linea di conto o sarebbe addirittura preferibile (DTF 135 V 2 consid. 1.3; 134 I 140 consid. 5.4 e rispettivi rinvii).
4.3 Lamentando la modifica della modinatura e gli eventuali ritardi nella pubblicazione della domanda di costruzione, il ricorrente non dimostra di avere subito pregiudizi dalla procedura seguita dall'autorità comunale. Né si vede in che potrebbe consistere tale pregiudizio. Egli stesso riconosce infatti che la modinatura non è stata totalmente omessa ma eventualmente soltanto modificata, sicché essa ha comunque adempiuto l'effetto pubblicistico (cfr. DTF 115 Ia 21 consid. 3b). Quale proprietario confinante con il fondo dedotto in edificazione, il ricorrente ha in ogni modo avuto conoscenza della domanda ed ha potuto esaminarne gli atti. Ha pertanto potuto rendersi conto dell'estensione e della portata del progetto litigioso e presentare compiutamente le sue contestazioni in sede di opposizione e nella successiva procedura ricorsuale. Né si vede invero quale pregiudizio gli è derivato dal fatto che la domanda di costruzione è stata pubblicata solo il 5 maggio 2009, dopo che l'istante vi aveva apportato le correzioni sollecitate dal Municipio. Quand'anche vi siano stati dei ritardi, essi hanno semmai gravato sulla situazione dell'istante e sotto il profilo procedurale non hanno condotto a un risultato arbitrario per il ricorrente. Questi richiama poi a torto l'art. 16 cpv. 1 della legge edilizia cantonale, del 13 marzo 1991 (LE), secondo cui la pubblicazione deve essere ripetuta se i progetti vengono modificati nel corso della procedura di approvazione o successivamente. La disposizione non entra infatti qui in considerazione, giacché il progetto è stato corretto nel senso richiesto dall'autorità comunale nell'ambito dell'esame preliminare, prima quindi della pubblicazione (art. 5 LE).
5. 5.1 Il ricorrente ritiene infine che l'edificio progettato superi l'altezza massima consentita per le costruzioni nella zona residenziale R3, pari a 10.50 m. Adduce che verrebbe realizzato un inammissibile rialzamento artificiale del terreno, volto soltanto ad elevare il fondo rispetto al suo andamento naturale. Rimprovera alla precedente istanza di essere incorsa nell'arbitrio e di avere violato il suo diritto di essere sentito, per non avere esperito un sopralluogo volto ad accertare la conformazione del terreno. Sostiene che alla quota di 8.19 m, corrispondente al filo superiore del cornicione di gronda dell'edificio, occorrerebbe aggiungere una differenza di 2.72 m per arrivare al livello naturale del terreno, cosicché l'altezza della costruzione raggiungerebbe 10.91 m.
5.2 Con queste argomentazioni il ricorrente non si confronta puntualmente con il considerando n. 6 del giudizio impugnato, spiegando con una motivazione conforme alle esigenze degli art. 42 cpv. 2 e 106 cpv. 2 LTF perché le valutazioni dei giudici cantonali sull'altezza della costruzione sarebbero manifestamente insostenibili e quindi arbitrarie. Criticando genericamente la realizzazione di "una modifica artefatta del livello del terreno", il ricorrente disattende che la sistemazione del terreno mediante la formazione di terrapieni è consentita dalla legge (cfr. art. 41 LE). Conformemente all'art. 40 cpv. 1 LE, la Corte cantonale ha quindi valutato l'altezza dell'edificio tenendo conto del livello del terreno sistemato in corrispondenza sia della facciata sudest sia di quella sudovest. Su quest'ultima facciata ha peraltro aggiunto all'altezza dell'edificio quella del terrapieno nella misura in cui eccedeva il limite di 1.50 m stabilito dall'art. 41 cpv. 1 LE. Chiedendo in sostanza semplicemente di misurare l'altezza dello stabile a partire dal livello del terreno naturale, il ricorrente non sostanzia arbitrio alcuno. Né la precedente istanza ha violato il suo diritto di essere sentito rinunciando ad esperire un sopralluogo, giacché le caratteristiche del progetto e le quote del terreno naturale e sistemato risultano con sufficiente chiarezza dai piani della domanda di costruzione.
6. Ne segue che il ricorso deve essere respinto in quanto ammissibile. Le spese giudiziarie seguono la soccombenza e sono pertanto poste a carico del ricorrente (art. 66 cpv. 1 LTF), che rifonderà alla controparte privata un'indennità a titolo di ripetibili (art. 68 cpv. 1 LTF). Non si assegnano per contro ripetibili al Comune di X._ (art. 68 cpv. 3 LTF).
Per questi motivi, il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso è respinto.
2. Le spese giudiziarie di fr. 2'000.-- sono poste a carico del ricorrente, che rifonderà a B._ un'indennità di fr. 2'000.-- a titolo di ripetibili della sede federale.
3. Comunicazione ai patrocinatori delle parti, al Consiglio di Stato e al Tribunale amministrativo del Cantone Ticino.