Fatti:
A. A._ è stato segretario comunale di Y._ dal 1991 al 2004. In seguito all'aggregazione di questo Comune con quello di X._, l'11 marzo 2004 il Municipio di questa città gli ha assegnato la funzione di consulente tecnico-economico, responsabile di un nuovo ufficio. Deluso dal nuovo posto di lavoro, il 5 settembre 2005 A._ ha rassegnato le dimissioni per la fine di quell'anno, chiedendo nel contempo al Municipio di versargli l'indennità di fr. 204'156.-- prevista in caso di perdita dell'impiego a seguito di aggregazioni di comuni. Il Municipio, con decisione del 21 dicembre 2005, non impugnata, ha respinto la richiesta. Il 14 giugno 2006 l'istante ha nuovamente chiesto il versamento della citata indennità, sostenendo che il nuovo ufficio non sarebbe mai stato effettivamente costituito, circostanza che l'avrebbe messo in grave disagio, inducendolo a dimissionare. Con decisione del 9 agosto successivo, il Municipio ha nuovamente respinto la richiesta, rilevando che l'istante aveva presentato le dimissioni nonostante gli fosse stato offerto un posto di lavoro equivalente.
B. Contro questa risoluzione il richiedente, all'epoca patrocinato da una società di protezione giuridica, è insorto dinanzi al Consiglio di Stato del Cantone Ticino che con decisione del 21 agosto 2007 ha dichiarato irricevibile il ricorso. Il Governo, rilevato che si trattava di una vertenza relativa a rapporti di natura patrimoniale in caso di aggregazione di comuni, ha trasmesso d'ufficio gli atti al Tribunale cantonale amministrativo, ritenendolo competente per dirimere la contestazione quale istanza unica. Mediante giudizio del 20 marzo 2008, la Corte cantonale ha dichiarato l'irricevibilità del citato gravame, sia come ricorso sia come petizione.
C. A._ impugna questa decisione con un ricorso in materia di diritto pubblico al Tribunale federale. Chiede di annullarla, adducendo principalmente un diniego di giustizia, nella misura in cui il Tribunale amministrativo non ha retrocesso l'incarto al Governo.
Il Consiglio di Stato e il Municipio di X._ si rimettono al giudizio del Tribunale federale. La Corte cantonale, senza formulare proposte di giudizio, osserva che qualora il ricorrente avesse impugnato la decisione governativa, il gravame sarebbe stato accolto e gli atti rinviati al Consiglio di Stato affinché esaminasse nel merito l'impugnativa.

Diritto:
1. 1.1 Il ricorso in materia di diritto pubblico, presentato tempestivamente (<ref-law>) contro una decisione finale dell'ultima istanza cantonale (art. 86 cpv. 1 lett. d LTF) nel campo dei rapporti di lavoro di diritto pubblico, concerne una controversia patrimoniale con un valore litigioso che supera chiaramente quello di fr. 15'000.-- richiesto dall'art. 85 cpv. 1 lett. b (cfr. gli art. 82 lett. a e 83 lett. g LTF): esso è quindi ammissibile. La legittimazione del ricorrente (<ref-law>) è manifesta.
1.2 Il ricorrente si limita a chiedere l'annullamento della decisione impugnata senza formulare conclusioni di merito, come imposto dall'<ref-law>. Dall'atto di ricorso risulta nondimeno ch'egli desidera che la Corte cantonale retroceda d'ufficio l'incarto al Consiglio di Stato, affinchè esamini il ricorso nel merito. Sotto questo profilo il ricorso è quindi ammissibile (<ref-ruling> consid. 1.4 e 1.4.1; <ref-ruling> consid. 3.1; sentenza 1C_503/2008 del 10 febbraio 2009 consid. 1).
2. 2.1 Nella decisione del 21 agosto 2007, il Consiglio di Stato ha rilevato che le contestazioni per pretese di natura pecuniaria derivanti da un rapporto di impiego tra un ex dipendente di un comune e il comune medesimo rientrano, di regola, nella sua competenza. Ha nondimeno ritenuto che nella fattispecie l'istante chiedeva un'indennità fondata sull'art. 14 della legge concernente l'organico dei segretari comunali del 5 novembre 1984 (LOSC), relativo, tra l'altro, all'indennizzo in caso di perdita dell'impiego dovuto ad aggregazioni di Comuni. In un siffatto caso sarebbe applicabile l'art. 71 lett. c della legge di procedura per le cause amministrative del 19 aprile 1966 (LPamm), secondo cui il Tribunale cantonale amministrativo giudica, quale istanza unica, le contestazioni relative ai rapporti patrimoniali nei casi di aggregazioni di Comuni. L'Esecutivo cantonale ha quindi trasmesso gli atti, per competenza, alla Corte cantonale, indicando nei rimedi di diritto che contro la sua decisione era dato ricorso al Tribunale amministrativo medesimo. Il ricorrente non è insorto contro questa decisione.
2.2 Con il giudizio impugnato del 20 marzo 2008, la Corte cantonale ha esaminato d'ufficio la sua competenza (art. 3 LPamm). Ha ritenuto dapprima che il gravame trasmessogli non era ricevibile quale ricorso, poiché secondo l'art. 208 della legge organica comunale del 10 marzo 1987 (LOC) essa è competente a statuire soltanto su ricorsi inoltrati contro decisioni governative che si pronunciano su impugnative proposte avverso decisioni di organi comunali. Implicitamente, come accennato dal ricorrente, i giudici cantonali non hanno ammesso neppure l'esistenza di un cosiddetto ricorso diretto ("Sprungrekurs": su questo tema vedi la sentenza 1A.251/2006 e 1P.757/2006 del 30 aprile 2007 consid. 4 in RtiD 2007 II n. 7 pag. 29).
2.3 Il Tribunale amministrativo ha poi ritenuto, contrariamente alla tesi governativa, che il ricorso contro il citato rifiuto municipale non è ricevibile neppure quale petizione proposta in via diretta. Secondo i giudici cantonali, l'attuale testo dell'art. 71 lett. c LPamm, introdotto nel 2004 dalla legge sulle aggregazioni e separazioni dei Comuni del 16 dicembre 2003 (LASC), si limiterebbe, come accennato nella dottrina (BORGHI/CORTI, Compendio di procedura amministrativa ticinese, n. 4 all'art. 71), ad aggiornare la disposizione in vigore sino a quel momento, che deferiva a detto tribunale le contestazioni relative alle misure di sistemazione patrimoniale adottate in applicazione della previgente legge del 1945 sulla fusione e separazione di comuni. Questa disposizione, sempre secondo i giudici cantonali, si riferirebbe tuttavia solo alle contestazioni relative ai rapporti patrimoniali fra comuni derivanti dalle aggregazioni e separazioni, segnatamente alla separazione dei loro attivi e passivi ai sensi dell'art. 13 LASC, ma non alle vertenze di natura pecuniaria derivanti dal rapporto d'impiego di dipendenti di comuni oggetto di aggregazione.
I giudici cantonali hanno concluso che le decisioni dell'autorità comunale che definiscono il rapporto d'impiego di detti dipendenti rimangono impugnabili dinanzi al Consigli di Stato, il cui giudizio può essere oggetto di ricorso al Tribunale amministrativo secondo l'art. 208 LOC. Accertata la sua incompetenza funzionale, la Corte cantonale non ha tuttavia retrocesso l'incarto al Governo affinchè esamini il ricorso nel merito: essa ha infatti dichiarato irricevibile il ricorso, poiché la decisione governativa che lo dichiarava inammissibile, non impugnata, era cresciuta in giudicato.
2.4 Il ricorrente sostiene che l'impugnato giudizio, segnatamente il rifiuto di retrocedere d'ufficio l'incarto al Consiglio di Stato, sarebbe costitutivo di un diniego di giustizia formale e materiale, nonchè lesivo degli art. 4, 5 e 20 LPamm, 8, 9 e 29 Cost. e 6 CEDU. La trasmissione d'ufficio da parte del Consiglio di Stato degli atti alla Corte cantonale avrebbe un effetto devolutivo, per cui non sarebbe stato necessario impugnare separatamente la decisione governativa d'incompetenza. Egli lamenta in primo luogo che entrambe le autorità cantonali hanno negato la rispettiva competenza senza previamente procedere a uno scambio di scritti, come previsto dall'art. 4 cpv. 3 LPamm quando la competenza è dubbia. Per di più, aggiunge il ricorrente, una disciplina poco chiara o contraddittoria delle vie di ricorso non potrebbe comportare pregiudizi per le parti. Contesta pure la mancata trattazione del gravame come petizione, facendo valere che il tenore dell'art. 71 lett. c LPamm, essendo estremamente chiaro nello stabilire la competenza della Corte cantonale, non dovrebbe essere soggetto di interpretazione.
2.5 Nelle osservazioni al ricorso, il Tribunale amministrativo afferma ch'esso non aveva motivo di avviare uno scambio di scritti sia perché sulla sua incompetenza non sussisteva alcun dubbio sia perché non si era in presenza di ricorsi inoltrati contemporaneamente a più autorità. Ricorda che la decisione governativa era munita dell'indicazione dei rimedi di diritto e che il ricorrente, assistito da una legale, non l'aveva impugnata. Qualora l'avesse fatto, sottolinea la Corte cantonale, essa avrebbe accolto il ricorso e annullato il giudizio governativo "palesemente erroneo" e rinviato gli atti al Consiglio di Stato, affinché entrasse nel merito dell'impugnativa. I giudici cantonali hanno aggiunto che la trasmissione d'ufficio alla Corte cantonale non potrebbe sopperire alla mancata impugnazione della decisione governativa, poiché il ricorso trasmessogli aveva per oggetto la decisione municipale e non la pronunzia governativa.
3. 3.1 La tesi non regge. Secondo l'art. 3 LPamm, prima di esaminare nel merito un ricorso, l'autorità deve vagliare d'ufficio la propria competenza. Il Consiglio di Stato, ritenuta la sua incompetenza, ha trasmesso d'ufficio gli atti alla Corte cantonale, dandone comunicazione al ricorrente, come prescritto dall'art. 4 cpv. 1 LPamm.
Il Tribunale amministrativo era quindi tenuto, anche in assenza di un ricorso presentato contro la decisione governativa di trasmissione, a esaminare d'ufficio la propria competenza e, accertatane l'assenza, a ritrasmettere d'ufficio gli atti a quella ritenuta competente, come prescritto dall'art. 4 cpv. 1 LPamm, o per lo meno a procedere a uno scambio di opinioni con il Consiglio di Stato (art. 4 cpv. 3 LPamm). In effetti, come rilevato dal ricorrente, nella fattispecie non si può sostenere che la competenza non sia dubbia, visto che le autorità cantonali, sulla base di due diverse interpretazioni dell'art. 71 lett. c LPamm, sono giunte a due risultati diametralmente opposti.
3.2 Certo, gli art. 71 lett. c LPamm e 14 LASC parlano di "rapporti patrimoniali", quindi inerenti al patrimonio del comune, mentre l'indennità pretesa dal ricorrente configura una contestazione di natura pecuniaria. Come tuttavia sostenuto dal ricorrente, l'interpretazione data dalla Corte cantonale a questa norma non era comunque manifesta, la tesi contraria sostenuta dal Governo non apparendo infatti, a un primo esame, destituita di ogni fondamento. In tale ambito giova rilevare che proprio la dottrina richiamata dalla Corte cantonale, riferendosi all'art. 71 lett. d LPamm, relativo alla competenza del Tribunale amministrativo quale istanza unica in tutti gli altri casi previsti dalla legge, sottolinea che tra questi si annoverano quelli relativi a contestazioni per pretese di natura pecuniaria derivanti dal rapporto d'impiego tra l'autorità di nomina e il dipendente (art. 68 della legge sull'ordinamento degli impiegati dello Stato e dei docenti del 15 marzo 1995). Secondo la citata dottrina, è notorio che detti rapporti non hanno in linea di principio natura contrattuale, poiché vengono costituiti con atto amministrativo (op. cit., nota piè di pagina n. 312 pag. 361). Non si può comunque negare una certa analogia tra questa fattispecie e la perdita dell'impiego in seguito all'aggregazione di un comune.
3.3 D'altra parte, anche la portata dell'art. 14 cpv. 1 LOSC, ripreso all'art. 15 LASC, non era chiara di primo acchito e, considerate pure le soluzioni opposte cui sono giunte le autorità cantonali, non era manifesto che non si era in presenza di un caso di competenza dubbia, che imponeva uno scambio di scritti. Ora, come rettamente sottolineato dalla menzionata dottrina, l'obbligo di trasmettere gli atti all'autorità competente configura un principio generale, connesso a quello della buona fede in ambito procedurale. L'autorità adita ha soltanto la facoltà di pronunciarsi sull'esistenza o meno di una propria competenza, ma non dispone di alcuna competenza per vincolare l'autorità alla quale trasmette gli atti, la quale deve a sua volta procedere autonomamente e d'ufficio ad accertare la sua (op. cit., n. 1 e 2 all'art. 4). La procedura di scambio di opinioni secondo l'art. 4 cpv. 3 LPamm non ingenera, di per sé, alcun effetto devolutivo: l'esito finale comporta o la determinazione definitiva della competenza o l'instaurazione di un conflitto ai sensi dell'art. 5 LPamm, sul quale decide il Gran Consiglio. Certo, le parti hanno la facoltà (ma non l'obbligo) di ricorrere contro la decisione che formalizza il risultato dello scambio di opinioni, ma esse non sono di regola consultate né sull'opportunità di procedere a uno scambio di opinioni né sul merito di tale procedura (op. cit., n. 5 all'art. 4).
3.4 Per di più, in concreto, il ricorrente non subiva alcun pregiudizio dalla decisione governativa d'irricevibilità, ritenuto che il suo ricorso era stato trasmesso a un tribunale indipendente e imparziale: egli non aveva quindi alcun motivo per impugnare la decisione governativa, a lui né sfavorevole né pregiudizievole, rientrando nella sua facoltà di rinunciare, implicitamente, a una prima istanza (amministrativa) di ricorso. Sulla base del principio della buona fede, egli poteva far affidamento sul fatto che la Corte cantonale avrebbe esaminato nel merito il suo gravame o, se del caso, che lo ritrasmettesse d'ufficio per esame al Consiglio di Stato.
3.5 La Corte cantonale parrebbe disattendere che non spetta in primo luogo al ricorrente contestare la pronunzia d'incompetenza pronunciata dall'autorità adita; visto che la competenza è stabilita dalla legge, essa va esaminata d'ufficio e non può essere fondata né modificata per accordo delle parti (art. 2 LPamm). Inoltre, come si è visto, in tale ambito le parti non sono di regola consultate né sull'opportunità di procedere a uno scambio di opinioni né sul merito di tale procedura. Ora, dopo aver accertato d'ufficio la propria incompetenza - in seguito alla trasmissione degli atti da parte del Governo e non su ricorso del ricorrente - la Corte cantonale non poteva semplicemente dichiarare irricevibile il ricorso e limitarsi a rilevare che il gravame era stato dichiarato inammissibile dal Consiglio di Stato, per cui la pronunzia governativa sarebbe cresciuta in giudicato. In effetti, il Governo non ha esaminato l'impugnativa, ma accertato soltanto la sua incompetenza, per cui il merito della vertenza, non oggetto di giudizio, non è cresciuto in giudicato. È quindi a ragione che il ricorrente rimprovera alla Corte cantonale un diniego di giustizia per non aver retrocesso d'ufficio, come prescritto dall'art. 4 cpv. 1 LPamm, l'incarto al Consiglio di Stato.
3.6 Certo, il Tribunale federale ha già avuto occasione di stabilire che in presenza di un conflitto negativo di competenza, la decisione con la quale il Gran Consiglio, sulla base dell'art. 5 LPamm, si era dichiarato incompetente a deciderlo siccome sia il Governo sia il Tribunale amministrativo, senza previamente procedere a uno scambio di opinioni, avevano già declinato entrambi la loro competenza mediante due decisioni di inammissibilità, non era arbitraria (sentenza 2P.35/2003 del 5 novembre 2003 in RtiD 2004 I n. 11 pag. 35). In quella causa, il ricorso per denegata giustizia era stato tuttavia respinto per carenza di legittimazione attiva dei ricorrenti. Per contro, nel caso di specie, nell'ipotesi in cui il Consiglio di Stato dovesse riconfermare la sua incompetenza, spetterebbe in primo luogo al Gran Consiglio e non al Tribunale federale stabilire l'autorità competente a dirimere la vertenza, interpretando la portata degli art. 71 lett. c LPamm e 14 LOSC.
4. 4.1 Ne segue che il ricorso dev'essere accolto e la decisione impugnata annullata. Ritenuto che il Tribunale amministrativo non ha prelevato né spese né tassa di giustizia, la causa può essere direttamente rinviata al Consiglio di Stato (art. 107 cpv. 2 secondo periodo LTF), affinché si determini nuovamente sulla sua competenza e se del caso statuisca nel merito.
4.2 Non si prelevano spese giudiziarie (<ref-law>). Lo Stato e Repubblica del Cantone Ticino rifonderà al ricorrente fr. 2'000.-- per ripetibili della sede federale (<ref-law>).

Per questi motivi, il Tribunale federale pronuncia:
1. Il ricorso è accolto e la decisione emanata dal Tribunale cantonale amministrativo il 20 marzo 2008 è annullata. La causa viene rinviata al Consiglio di Stato del Cantone Ticino per nuova decisione.
2. Non si prelevano spese giudiziarie. Lo Stato e Repubblica del Cantone del Ticino rifonderà al ricorrente fr. 2'000.-- per ripetibili della sede federale.
3. Comunicazione al patrocinatore del ricorrente, al Municipio di X._ al Consiglio di Stato e al Tribunale amministrativo del Cantone Ticino.