Fatti:
A. Negli anni '50 a Novazzano, in località Monte Morello, su un fondo situato fuori della zona edificabile, definita all'inizio degli anni '70, è stato realizzato un traliccio metallico, sul quale sono stati applicati antenne e ripetitori per la diffusione di programmi radiotelevisivi. Il 13 febbraio 1970 il Municipio ne aveva autorizzato la sostituzione con uno nuovo, alto m 65.73. Nel 1978 il Municipio e il Dipartimento cantonale competente avevano poi rilasciato alla Direzione di circondario dei telefoni l'autorizzazione a innalzarlo e a installarvi antenne per la radiotelefonia mobile e la diffusione di segnali radio e televisivi. L'innalzamento non è stato realizzato, ma in seguito sul traliccio sono state poste diverse nuove antenne, in parte in sostituzione di quelle preesistenti, divenute obsolete. Nel 1989 sarebbero state installate, senza autorizzazione, antenne per la rete di trasmissione del Corpo guardie di confine (CGC), alle quali nel 1999 sono state aggiunte due nuove antenne paraboliche per ponti radio della TDC Switzerland AG (TDC). Il 24 luglio 2006 sono state disattivate le antenne per i programmi radiotelevisivi.
B. Il 3 ottobre 2006 la Swisscom Broadcast AG (SBC), il CGC e la TDC hanno presentato al Municipio una domanda di costruzione, parzialmente in sanatoria, per gli impianti della rete di comunicazione della sicurezza della Polycom Svizzera, gestita dal CGC, per i ponti radio esistenti del CGC e della TDC, nonché per un nuovo ponte radio della SBC. In estrema sintesi, i piani allegati alla domanda indicano le antenne esistenti e quelle per le quali è chiesta la licenza, senza tuttavia precisare se siano già state installate. Secondo i piani, rimosse le vecchie antenne e installate quelle nuove, sul traliccio ve ne sarebbero sette esistenti e sei nuove.
C. A._, proprietario di una casa d'abitazione e di fondi parzialmente siti nel raggio di 270.10 m dal traliccio, si è opposto alla domanda. Il 23 gennaio 2007, il Municipio, nonostante il preavviso cantonale favorevole, ha respinto la domanda. Il 21 novembre seguente, il Consiglio di Stato ha evaso ai sensi dei considerandi un ricorso degli istanti, annullando il diniego municipale e rinviando gli atti al Dipartimento del territorio, affinchè formuli un nuovo preavviso in vista di una nuova decisione municipale. Ha rilevato che le antenne installate dal CGC e dalla TDC non erano state autorizzate e che doveva essere analizzata, ex novo, anche l'ubicazione del traliccio, poiché con la disattivazione delle antenne radiotelevisive la destinazione per la quale era stato autorizzato non sarebbe più data. Si sarebbe quindi in presenza, in sostanza, di una domanda volta al cambiamento di destinazione del pilone, che imporrebbe una nuova verifica dello scopo dell'intera struttura.
Con giudizio del 30 ottobre 2009, il Tribunale cantonale amministrativo ha accolto parzialmente un ricorso della SBC, della TDC e del CGC, annullando e riformando la decisione governativa nel senso di annullare la risoluzione municipale e di rinviare gli atti al Dipartimento del territorio affinchè, compiuti i necessari accertamenti, emetta un nuovo avviso al Municipio, chiamato nuovamente a pronunciarsi.
D. Avverso questo giudizio A._ presenta un ricorso in materia di diritto pubblico al Tribunale federale. Chiede di concedere effetto sospensivo al gravame, di annullare la decisione impugnata e di modificarla nel senso di confermare la decisione governativa.
Non sono state chieste osservazioni.
Diritto:
1. 1.1 Il Tribunale federale esamina d'ufficio la sua competenza e se, e in che misura, un ricorso può essere esaminato nel merito (art. 29 cpv. 1 LTF; DTF 135 III 483 consid. 1).
1.2 Presentato contro una decisione dell'ultima istanza cantonale nell'ambito del diritto edilizio, il ricorso in materia di diritto pubblico è ammissibile sotto il profilo degli art. 82 lett. a e 86 cpv. 1 lett. d LTF (DTF 133 II 409 consid. 1.1). La legittimazione del ricorrente è pacifica.
1.3 Secondo l'art. 90 LTF, il ricorso al Tribunale federale è ammissibile contro le decisioni che pongono fine al procedimento. Giusta l'art. 91 LTF, il ricorso è inoltre ammissibile contro le decisioni parziali, ossia che concernono soltanto talune conclusioni, se queste possono essere giudicate indipendentemente dalle altre (lett. a), o che pongono fine al procedimento soltanto per una parte dei litisconsorti (lett. b). Eccettuati i casi disciplinati dall'art. 92 LTF, il ricorso contro le decisioni pregiudiziali e incidentali, notificate separatamente, è per contro ammissibile unicamente se possono causare un pregiudizio irreparabile o se l'accoglimento del ricorso comporterebbe immediatamente una decisione finale consentendo di evitare una procedura probatoria defatigante o dispendiosa (art. 93 cpv. 1 lett. a e b LTF). Queste condizioni di ammissibilità, il cui adempimento deve di principio essere dimostrato dal ricorrente (DTF 134 III 426 consid. 1.2 in fine), mirano a sgravare il Tribunale federale, che deve di massima esprimersi con un'unica decisione sull'oggetto del litigio (DTF 135 II 30 consid. 1.3.2; 133 IV 139 consid. 4).
1.4 Il Tribunale cantonale amministrativo ha ritenuto che la decisione governativa di rinvio, per la quale occorre riesaminare la domanda di costruzione alla stessa stregua come se comportasse anche la costruzione del traliccio in quanto tale, vincola il Municipio e ch'essa costituisce, limitatamente a questo punto, un giudizio definitivo.
1.4.1 Il ricorrente adduce che la decisione della Corte cantonale, modificando le motivazioni di quella governativa circa il rinvio della causa al Dipartimento, sarebbe in parte definitiva, poiché vincolante per l'autorità inferiore; essa si sarebbe infatti pronunciata definitivamente sulla protezione della situazione acquisita, di cui beneficerebbe il traliccio.
1.4.2 La Corte cantonale ha ritenuto che la decisione di rinvio era di principio giustificata, poiché i piani allegati alla domanda non permettono di stabilire se ed eventualmente quali nuove antenne siano già state installate: la domanda non concerne per contro le antenne esistenti, mai autorizzate o autorizzate dall'autorità incompetente e quindi nulle, delle quali peraltro né si conoscono l'utente né le caratteristiche. La mancanza di informazioni sulle caratteristiche tecniche delle antenne autorizzate nel 1970 rendono poi impossibile l'esame dell'intervento sotto il profilo dell'art. 24c LPT, mentre la carenza di indicazioni sulle altre antenne già installate impedisce di valutare il rispetto delle norme dell'ORNI per quelle di radiotelefonia del CGC.
I giudici cantonali hanno d'altra parte ritenuto che nella misura in cui la decisione governativa impone di statuire sulla domanda come se avesse per oggetto anche la costruzione del traliccio in quanto tale, essa lederebbe la tutela della situazione acquisita secondo l'art. 24c LPT, ritenuto che lo stesso ha mantenuto la sua funzione, continuando a servire quale supporto per antenne rimaste in esercizio. Hanno quindi accolto il ricorso su questo specifico punto annullando la decisione governativa nella misura in cui esige che il traliccio sia sottoposto a una nuova procedura di autorizzazione e rinviato gli atti al Dipartimento del territorio per completare la domanda di costruzione ed esperire gli accertamenti necessari sullo stato del traliccio nel 1972 ed emettere un nuovo avviso all'attenzione del Municipio, che dovrà nuovamente pronunciarsi.
1.5 Come rettamente rilevato dal ricorrente, la sentenza impugnata, che come si vedrà non è una decisione parziale giusta l'art. 91 LTF (DTF 133 V 477 consid. 4.1-4.3; 134 II 137 consid. 1.3), non mette fine al procedimento e costituisce quindi una decisione incidentale, che può essere oggetto di un ricorso diretto al Tribunale federale solo alle condizioni poste dall'art. 93 LTF (CORBOZ, in Commentaire de la LTF, 2009, n. 12 ad art. 93; sentenza 1C_413/2007 dell'11 febbraio 2008 in RtiD 2008 II n. 45 pag. 184). In effetti, contrariamente all'assunto ricorsuale, la circostanza che una parte del litigio, segnatamente la questione della tutela della situazione acquisita del traliccio sia stata ritenuta definitiva nella sede cantonale, non è decisiva, l'ammissibilità del ricorso in esame essendo retta a livello federale solo dalla LTF.
1.5.1 Il ricorrente sostiene che sul concetto di tutela della situazione acquisita, di cui beneficerebbe il traliccio, il Tribunale federale non potrebbe più esprimersi, qualora l'impugnata sentenza diventasse definitiva, per cui si sarebbe in presenza di un pregiudizio irreparabile. L'assunto non regge.
1.5.2 La Corte cantonale ha stabilito che la realizzazione del traliccio in quanto tale non è oggetto della domanda di costruzione litigiosa. Al riguardo, il ricorrente si limita a rilevare che si sarebbe in presenza di un cambiamento di utilizzazione del traliccio, non più utilizzato per le apparecchiature radiotelevisive, ma per antenne di telefonia mobile, che non necessiterebbero di una struttura di tale grandezza e in quella ubicazione. L'assunto non può essere esaminato, poiché decisiva è la circostanza che, per potersi pronunciare definitivamente con cognizione di causa sull'asserito cambiamento di utilizzazione del traliccio o su una sua trasformazione parziale e quindi sulla portata effettiva della sua utilizzazione soggetta a tutela della situazione acquisita, è indispensabile fare assumere i completamenti richiesti dalla Corte cantonale ed esperire gli accertamenti mancanti. In caso contrario, il Tribunale federale potrebbe essere chiamato a esprimersi più volte su questa causa, se del caso su situazioni differenti, a dipendenza dell'esito dei nuovi accertamenti.
D'altra parte, il semplice prolungamento della procedura o l'aumento dei costi legati alla causa non costituiscono pregiudizi irreparabili secondo l'art. 93 cpv. 1 lett. a LTF, nocumenti che toccano in primo luogo peraltro gli istanti (DTF 134 II 137 consid. 1.3.1; 133 V 477 consid. 5.2.1 e 5.2.2). Né si è chiaramente in presenza, e il ricorrente non lo sostiene, della condizione prevista dall'art. 93 cpv. 1 lett. b LTF (DTF 133 II 409 consid. 1.2; 134 II 142 consid. 1.2.3-12.4; cfr. sentenza 1C_295/2007 del 23 gennaio 2008, consid. 1.2). In effetti egli parrebbe disattendere che il quesito di un'eventuale demolizione del traliccio, cui tende implicitamente il ricorso, esula dall'oggetto del litigio.
2. 2.1 Ne segue che il ricorso è inammissibile. Le spese giudiziarie seguono la soccombenza (art. 66 cpv. 1 LTF).
2.2 L'emanazione del presente gravame rende priva di oggetto la domanda di effetto sospensivo.
Per questi motivi, il Tribunale federale pronuncia:
1. Il ricorso è inammissibile.
2. Le spese giudiziarie di fr. 1'000.-- sono poste a carico del ricorrente.
3. Comunicazione ai patrocinatori delle parti, al Municipio di Novazzano, al Consiglio di Stato e al Tribunale amministrativo del Cantone Ticino nonché all'Ufficio federale dell'ambiente e all'Ufficio federale dello sviluppo territoriale.