Fatti: A. Nel 1984 A._ ha acquisito, in via successoria, il fondo part. n. 522 di Vezia, costituito da una superficie prativa di 386 m2. Nel 1990 ha poi comperato per fr. 60'000.-- la particella confinante n. 524, di 293 m2. I fondi sono situati ad ovest della Bolla di San Martino, un biotopo inserito nell'inventario dei siti di riproduzione degli anfibi di importanza nazionale e censito nell'inventario federale delle paludi di importanza nazionale. B. Il primo piano regolatore di Vezia, del 1965, inseriva gli attuali fondi part. n. 522 e 524 in zona edificabile estensiva. L'azzonamento è stato confermato nel maggio del 1973 nell'ambito della revisione del piano regolatore, in cui i fondi sono stati inclusi in zona R2, all'interno del perimetro del piano generale delle canalizzazioni (PGC). Dopo l'entrata in vigore della LPT, i fondi sono stati inseriti dall'autorità cantonale in una zona di pianificazione corrispondente al comprensorio della Bolla di San Martino, in applicazione del decreto esecutivo sull'ordinamento provvisorio in materia di pianificazione del territorio del 29 gennaio 1980 (DEPT). C. Il 5 dicembre 1989 il Consiglio di Stato del Cantone Ticino ha approvato un nuovo piano regolatore comunale, che inseriva la Bolla di San Martino in una specifica zona di protezione gravata da appositi vincoli. La porzione occidentale delle particelle n. 522 e 524 è stata assegnata alla zona residenziale estensiva con regolamento speciale RU2s, mentre la parte orientale è stata inclusa nella zona di protezione della natura 2 della Bolla di San Martino, con il conseguente divieto di erigere costruzioni, pur essendo tale superficie computabile come edificabile ai fini del calcolo degli indici. D. Nel 1990 A._ ha chiesto al Municipio di Vezia il permesso di costruire sui suoi fondi due case di abitazione. Le domande di costruzione non hanno comportato il rilascio di licenze edilizie, l'autorità comunale avendo in particolare istituito nel 1991 una zona di pianificazione, la cui validità è stata prorogata dal Consiglio di Stato fino al 9 settembre 1995. Nel frattempo, il Municipio ha elaborato un progetto di piano particolareggiato della Bolla di San Martino, che nella seduta del 28 agosto 1995 il legislativo comunale ha tuttavia deciso di rinviare all'esecutivo, demandando al Cantone il compito di provvedere all'adozione delle relative misure di protezione. E. L'autorità cantonale ha quindi deciso di presentare un piano regolatore cantonale di protezione della Bolla di San Martino (PRCP-BSM) fondato sulle disposizioni del decreto legislativo sulla protezione delle bellezze naturali e del paesaggio, del 16 gennaio 1940 (DLBN) e del relativo regolamento di applicazione, del 22 gennaio 1974 (RDLBN). Tale piano, adottato dal Consiglio di Stato il 30 aprile 1997, prevedeva in particolare l'attribuzione integrale dei fondi part. n. 522 e 524 alla zona di protezione della natura ZPN 2, escludendovi ogni possibilità edificatoria. Contro il provvedimento pianificatorio, il proprietario ha adito l'allora Tribunale della pianificazione del territorio, che con sentenza del 19 agosto 1998 l'ha in sostanza confermato, riconoscendo tuttavia la possibilità di trasferire gli indici dei citati fondi su quelli retrostanti. F. Il 26 luglio 2001 A._ ha inoltrato al Tribunale di espropriazione una richiesta d'indennità per espropriazione materiale di fr. 288'575.--, oltre interessi, nei confronti del Comune di Vezia e dello Stato del Cantone Ticino. Ha pure chiesto il versamento di complessivi fr. 45'283.20, oltre interessi, a titolo di rimborso delle spese di progettazione e di perizia. Nell'ambito della procedura, gli enti pubblici hanno chiamato in causa la Confederazione Svizzera, che si era impegnata ad assumere una parte degli eventuali oneri espropriativi derivanti dal PRCP-BSM. Con sentenza del 19 ottobre 2007, il Tribunale di espropriazione ha parzialmente accolto la domanda, riconoscendo al proprietario un'indennità di fr. 350.-- il m2, oltre interessi, per l'espropriazione materiale dei fondi part. n. 522 e 524. L'indennizzo è stato posto a carico dei tre enti pubblici nella misura stabilita nel programma di realizzazione del piano cantonale di protezione. La prima istanza ha per contro respinto la richiesta di rifusione delle spese di progettazione e peritali. G. Contro la sentenza del Tribunale di espropriazione sia A._ sia gli enti pubblici hanno adito il Tribunale cantonale amministrativo, che con sentenza del 17 marzo 2011 ha respinto il ricorso del primo e accolto quelli dei secondi. La Corte cantonale ha quindi annullato il giudizio di primo grado, respingendo integralmente l'istanza di espropriazione materiale e ponendo a carico dell'istante le spese processuali e le ripetibili riconosciute alla Confederazione. Ha sostanzialmente rilevato che l'inserimento delle particelle n. 522 e 524 nella zona di protezione della natura ZPN 2 del PRCP-BSM costituiva un rifiuto di attribuirle alla zona edificabile ed ha negato che tale provvedimento realizzava gli estremi di un'espropriazione materiale. H. A._ impugna con un ricorso in materia di diritto pubblico al Tribunale federale questa sentenza, chiedendo di annullarla e di rinviare gli atti alla Corte cantonale per una nuova decisione dopo avere riconosciuto l'esistenza di un caso di espropriazione materiale. Il ricorrente fa valere la violazione del diritto federale e l'accertamento manifestamente inesatto dei fatti. I. La Corte cantonale si riconferma nella sua sentenza, mentre la Confederazione Svizzera, lo Stato del Cantone Ticino e il Comune di Vezia chiedono di respingere il gravame. Il ricorrente si è espresso il 7 luglio 2011 sulle risposte degli enti pubblici.