Fatti:
A. A.a R._ è stato segretario comunale di Y._ dal 1991 al 2004. In seguito all'aggregazione di questo Comune con quello di X._, l'11 marzo 2004 il Municipio di questa città gli ha assegnato la funzione di consulente tecnico-economico, responsabile di un nuovo ufficio. Deluso dal nuovo posto di lavoro, il 5 settembre 2005 R._ ha rassegnato le dimissioni per la fine di quell'anno, chiedendo nel contempo al Municipio di versargli l'indennità di fr. 204'156.- prevista in caso di perdita dell'impiego a seguito di aggregazioni di comuni. Il Municipio, con decisione del 21 dicembre 2005, non impugnata, ha respinto la richiesta. Il 14 giugno 2006 l'istante ha nuovamente chiesto il versamento della citata indennità, sostenendo che il nuovo ufficio non sarebbe mai stato effettivamente costituito, circostanza che l'avrebbe messo in grave disagio, inducendolo a dimissionare. Con decisione del 9 agosto successivo, il Municipio ha nuovamente respinto la richiesta, rilevando che l'istante aveva presentato le dimissioni nonostante gli fosse stato offerto un posto di lavoro equivalente.
Contro questa risoluzione il richiedente è insorto dinanzi al Consiglio di Stato del Cantone Ticino che con decisione del 21 agosto 2007 ha dichiarato irricevibile il ricorso. Il Governo, rilevato che si trattava di una vertenza relativa a rapporti di natura patrimoniale in caso di aggregazione di comuni, ha trasmesso d'ufficio gli atti al Tribunale cantonale amministrativo, ritenendolo competente per dirimere la contestazione quale istanza unica. Mediante giudizio del 20 marzo 2008, la Corte cantonale ha dichiarato l'irricevibilità del citato gravame, sia come ricorso sia come petizione.
R._ ha impugnato questa decisione con un ricorso in materia di diritto pubblico al Tribunale federale, adducendo principalmente un diniego di giustizia, nella misura in cui il Tribunale amministrativo non aveva retrocesso l'incarto al Governo. Per sentenza del 12 marzo 2009 (1C_203/2008) il Tribunale federale ha accolto il gravame e annullato il giudizio della Corte cantonale rinviando gli atti al Consiglio di Stato per nuova decisione.
A.b Per decisione del 2 giugno 2009, il Consiglio di Stato ha confer-mato la risoluzione 9 agosto 2006 del Municipio di X._, denegante l'erogazione di un'indennità per perdita dell'impiego a seguito di aggregazioni di comuni. In sostanza, il Governo ha ritenuto che una simile indennità poteva essere accordata unicamente ai segretari comunali, per i quali a seguito di aggregazione comunale non veniva più confermato il rapporto di lavoro con la nuova entità comunale. Evenienza, questa, che in concreto non si era verificata, dal momento che il Comune di X._ aveva provveduto ad assegnare a R._ un incarico in seno al nuovo Comune e che tale incarico era stato accettato dall'interessato. In assenza di una mancata conferma o di un licenziamento del dipendente da parte del Comune, non entrava quindi in considerazione la corresponsione di un'indennità a quel titolo.
B. Contro la decisione governativa, R._ è insorto con gravame al Tribunale cantonale amministrativo, chiedendone l'annullamento e ribadendo la richiesta di assegnazione di un'indennità di fr. 204'156.- per perdita dell'impiego a seguito di aggregazioni di comuni. Come già in sede dell'istanza precedente, ha subordinatamente chiesto il pagamento di detto importo a titolo di risarcimento danni e torto morale per mobbing.
Per pronuncia del 31 maggio 2010 il Tribunale cantonale ha confermato il rifiuto di versare all'insorgente l'indennità prevista in caso di perdita del posto di lavoro a seguito di aggregazione di comuni. Mancando nella decisione impugnata la benché minima argomentazione al proposito, in accoglimento parziale del gravame, ha però rinviato gli atti all'Esecutivo cantonale per esaminare la censura ricorsuale di pretesa violazione della personalità e di mobbing nonché la relativa richiesta di risarcimento danni e torto morale.
C. Patrocinato dall'avv. Filippo Gianoni, l'interessato ha presentato un ricorso in materia di diritto pubblico con il quale, protestate spese e ripetibili, chiede di annullare il giudizio cantonale e di rinviare la causa alla precedente istanza affinché, previo complemento istruttorio, fissi l'indennità dovutagli per perdita dell'impiego a seguito di aggregazione di comuni e l'importo delle ripetibili. Dei motivi si dirà, per quanto occorra, nei considerandi.
Il Municipio di X._, protestate spese e ripetibili, propone la reiezione del gravame, mentre il Consiglio di Stato ha rinunciato a determinarsi.
Diritto:
1. 1.1 L'istanza precedente ha da un lato negato il diritto all'indennità per perdita dell'impiego a seguito di aggregazione di comuni rivendicata dal ricorrente; dall'altro, ha rinviato la causa al Consiglio di Stato per esaminare il tema di una eventuale violazione della personalità dell'interessato (mobbing) nonché la relativa richiesta di risarcimento danni e torto morale. Dal momento che le citate pretese possono essere giudicate l'una indipendente dall'altra, la decisione concernente il diritto all'indennità per perdita del posto di lavoro a seguito di aggregazione di comuni costituisce una decisione parziale, impugnabile analogamente a una decisione finale (art. 91 LTF).
1.2 La decisione di rinvio costituisce per contro una decisione incidentale (art. 93 LTF); le condizioni alle quali una tale decisione può eccezionalmente essere impugnata non sono soddisfatte in concreto. Il ricorrente fa valere che l'istanza precedente avrebbe dovuto riconoscergli un'indennità per ripetibili. Questa richiesta si riferisce al rinvio della causa, quindi alla parte non impugnabile del giudizio cantonale. La domanda è pertanto irricevibile.
2. Giusta l'art. 83 lett. g LTF, in materia di rapporti di lavoro di diritto pubblico, nella misura in cui, come nel caso di specie, non è in discussione la questione della parità dei sessi, il ricorso in materia di diritto pubblico è inammissibile contro le decisioni che concernono una controversia non patrimoniale. Perché il ricorso sia ammissibile occorre ancora, di massima, che il valore litigioso raggiunga i fr. 15'000.- (art. 85 cpv. 1 lett. b LTF). In concreto, in sede giudiziaria cantonale il ricorrente aveva chiesto il versamento di un'indennità di fr. 204'156.-. Anche se egli in sede federale non chiede esplicitamente nelle conclusioni il pagamento di una somma di denaro determinata, si può quindi ammettere che il valore litigioso richiesto è pacificamente dato.
3. Oggetto del contendere è la questione di sapere se il ricorrente possa pretendere l'indennità prevista in caso di perdita dell'impiego a seguito di aggregazioni di comuni.
3.1 I primi giudici hanno già ricordato come giusta l'art. 14 cpv. 1 lett. a della legge concernente l'organico dei segretari comunali (LOSC; RL/TI 2.1.5.1), il Comune sia tenuto a versare al segretario per ogni anno di servizio come minimo un'indennità equivalente all'ultimo stipendio mensile dovuto in caso di perdita dell'impiego dovuto a aggregazioni di Comuni o a consorziamento dei servizi amministrativi o per sopravvenuta incompatibilità non dovuta a un fatto personale del segretario. L'indennità non è dovuta se il segretario occupa già un impie-go pubblico o se in caso di aggregazione gli è data la possibilità di assumere un impiego nel nuovo Comune a condizioni equiparabili alle precedenti (art. 14 cpv. 2 LOSC).
3.2 Emerge dagli atti che in seguito all'aggregazione del Comune di Y._ con quello di X._, al ricorrente nel marzo 2004 è stato offerto il posto di responsabile del neocostituito Ufficio Z._, nella funzione di consulente tecnico-economico, con il compito di monitorare gli sviluppi e la realizzazione dei progetti in atto nell'amministrazione, soprattutto per quanto attiene a qualità, efficacia, contenuto, rispetto dei termini e dei preventivi di spesa. Parimenti il Municipio di X._ gli ha attribuito, durante un periodo transitorio, la conduzione generale dei Servizi fino ad allora svolti presso la sede di Y._. Lo sviluppo stipendiale complessivo per la nuova posizione a X._ superava quello previsto nella funzione precedentemente occupata a Y._. Il ricorrente ha accettato tali funzioni e compiti, ai quali si è aggiunta, dall'aprile 2005, la responsabilità dell'organizzazione e dello svolgimento del lavoro nelle cancellerie (Front-Offices) dei quartieri. Deluso dal nuovo posto di lavoro, nel settembre 2005 l'interessato ha rassegnato le dimissioni per la fine di quell'anno, ritenendo di essere stato marginalizzato dai suoi superiori e dal Municipio, che gli avrebbero scientemente e concretamente impedito di espletare le sue funzioni.
3.3 I primi giudici hanno in particolare rilevato come l'Ufficio Z._ fosse formalmente di nuova costituzione, per cui una certa iniziale disorganizzazione o disfunzione, o una mancanza di chiarezza nelle specifiche competenze e nelle relazioni con gli uffici preposti dovevano essere considerati congeniti in un'entità di nuova formazione, ma non per questo insuperabili al punto da far apparire come fittizi la funzione e il ruolo per i quali il ricorrente era stato assunto, come a torto egli sosteneva. Malgrado le innegabili difficoltà avute nel far accettare le sue iniziative, il ricorrente aveva comunque liberamente rassegnato le proprie dimissioni, ponendo fine consapevolmente al rapporto di lavoro. Alla luce di questa situazione, ritenuto che il posto offerto dal Municipio di X._ era equiparabile, per funzione, responsabilità e stipendio, al posto precedentemente occupato e atteso come il rapporto di lavoro fosse stato disdetto dall'interessato oltre un anno e mezzo dopo la sua assunzione, giustamente il Consiglio di Stato aveva quindi negato la corresponsione dell'indennità giusta l'art. 14 LOSC.
3.4 Il Tribunale federale condivide l'opinione dei primi giudici. A ciò nulla possono mutare le censure sollevate dal ricorrente in sede federale. A torto egli lamenta in primo luogo una scorretta applicazione dell'art. 14 LOSC. Escludendo il diritto all'indennità prevista da questo disposto laddove il richiedente ha lui stesso posto termine al rapporto di lavoro, l'istanza precedente non è incorsa in un'applicazione arbitraria del diritto cantonale. In tal caso non si può in effetti parlare di "perdita dell'impiego". Causa della richiesta fatta valere dal ricorrente non era l'aggregazione del Comune di Y._ con quello di X._, bensì le sue dimissioni, con le quali ha perso ogni pretesa salariale. La questione di sapere se il Municipio di X._ abbia dato adito a tali dimissioni dovrà essere esaminata dal Consiglio di Stato nell'ambito degli accertamenti ordinati dalla Corte cantonale.
Infondata risulta inoltre l'invocata violazione del diritto di essere sentito per non avere i primi giudici proceduto all'audizione testimoniale di S._, già segretaria comunale di P._. Prevalendosi di un ammissibile apprezzamento anticipato delle prove, l'istanza precedente poteva lecitamente prescindere dal disporre ulteriori misure istruttorie e rifiutarsi di assumere la testimonianza richiesta dall'insorgente, ritenuta ininfluente ai fini del giudizio. L'interessato non spiega del resto in quale misura l'audizione della teste S._ avrebbe potuto modificare l'esito della valutazione della Corte cantonale.
Infine, pure la censura inerente all'asserito diniego di giustizia materiale si rivela infondata. Contrariamente a quanto preteso nel gravame, il Municipio di X._ non si è limitato a definire e a proporre una funzione al ricorrente. Lo ha effettivamente assunto e gli ha versato uno stipendio superiore a quello precedentemente percepito. Gli ha affidato dei compiti congrui alla sua formazione e lo ha incaricato di definire l'organizzazione del nuovo Ufficio. L'addebito rivolto al datore di lavoro di non aver mosso un dito per favorire le sue iniziative e proposte non è pertinente. Si può invece affermare che il ricorrente non ha saputo - o voluto - adattarsi alle modalità organizzative e di lavoro in uso presso il Comune di X._ né inserirsi in una amministrazione più articolata e complessa di quella esistente nell'ex Comune di Y._.
4. 4.1 Visto quanto precede, la pronuncia impugnata, denegante l'erogazione di un'indennità fondata sull'art. 14 LOSC, dev'essere confermata e il ricorso respinto. Le spese giudiziarie seguono la soccombenza e sono pertanto poste a carico del ricorrente (art. 66 cpv. 1 LTF).
4.2 Non si assegnano ripetibili al Municipio di X._, che ha presentato la risposta nell'esercizio delle sue attribuzioni ufficiali (art. 68 cpv. 3 LTF; DTF 134 II 117 consid. 7 pag. 118; DTA 2010 pag. 265 consid. 6.2 [8C_151/2010]).
Per questi motivi, il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso è respinto.
2. Le spese giudiziarie di fr. 3000.- sono poste a carico del ricorrente.
3. Non si assegnano ripetibili.
4. Comunicazione alle parti, al Tribunale amministrativo del Cantone Ticino e al Tribunale federale svizzero.