Fatti:
A. Il 16 ottobre 1990 il Municipio di Sementina ha rilasciato alla B._SA una licenza edilizia per la costruzione di quattro case unifamiliari a gradoni sul fondo part. yyy, di cui era allora proprietaria. La licenza edilizia è stata rinnovata più volte negli anni successivi.
Il 5 febbraio 1996, la B._SA ha presentato una nuova domanda di rinnovo della licenza edilizia, alla quale si è opposto il Dipartimento del territorio del Cantone Ticino, essendo il fondo interessato dal progetto di nuova trasversale ferroviaria alpina (tratta Gnosca-Sementina). Dando seguito all'opposizione dell'autorità cantonale, con decisione del 4 aprile 1996, il Municipio di Sementina ha decretato la sospensione della domanda per due anni, secondo l'art. 65 della legge cantonale di applicazione della LPT, del 23 maggio 1990 (LALPT).
B. Con scritto dell'8 luglio 1998, l'arch. A._, nuovo proprietario della particella dopo il fallimento della B._SA, trascorso il periodo biennale di sospensione, ha chiesto il rilascio della licenza edilizia. Con decisione dell'11 agosto 1998, l'Ufficio federale dei trasporti (UFT) lo ha negato in applicazione dell'art. 18a della legge federale sulle ferrovie (Lferr; RS 742.101), nel tenore in vigore dal 1° gennaio 1985 al 31 dicembre 1999 (cfr. RU 1984 1429). L'UFT ha rilevato che la prevista edificazione era in contrasto con il progetto AlpTransit, essendo il fondo situato nella zona del portale sud della galleria Gnosca-Sementina. La decisione non è stata impugnata.
C. In seguito, il proprietario ha sollecitato a più riprese una decisione definitiva in merito alla sua particella e sono pure state avviate trattative volte alla sua vendita, rimaste però infruttuose. L'11 luglio 2008, l'UFT ha comunicato che la tratta interessata non verrà realizzata prima degli anni 2030-2040 e che per la Confederazione non esistono ostacoli progettuali alla prospettata edificazione.
D. L'11 agosto 2008, l'arch. A._, in relazione alle restrizioni della sua proprietà, ha notificato ad AlpTransit San Gottardo SA e all'UFT delle pretese di indennizzo per complessivi fr. 1'131'325.--. Questa notifica è stata trasmessa il 16 settembre 2008 dall'UFT alla Commissione federale di stima del 13° Circondario (CFS) per competenza. All'udienza di conciliazione del 7 novembre 2008 dinanzi alla CFS, l'UFT ne ha contestato la ricevibilità, sollevando inoltre l'eccezione di prescrizione delle pretese. Con l'accordo delle parti, è stato stabilito che la CFS si sarebbe inizialmente pronunciata sulle questioni della ricevibilità e della tempestività della notifica.
E. Con decisione del 25 novembre 2008, la CFS ha accertato che la notifica di pretese presentata dal proprietario era proponibile e tempestiva, rinviando a un ulteriore giudizio la determinazione dell'eventuale indennità dovuta al richiedente.
F. Contro la decisione della CFS, l'UFT ha adito il Tribunale amministrativo federale (TAF), che con sentenza del 21 aprile 2011 ha dichiarato irricevibile il gravame. Ha ritenuto che all'UFT difettava la legittimazione a ricorrere, essendo un organo della Confederazione privo di personalità giuridica propria e non essendo previsto un diritto di ricorso specifico giusta l'art. 48 cpv. 2 PA (RS 172.021).
G. L'UFT impugna questa sentenza con ricorso in materia di diritto pubblico al Tribunale federale, chiedendo di annullarla e di rinviare la causa al TAF perché entri nel merito del gravame. Il ricorrente fa valere la violazione del diritto federale, in particolare dell'art. 48 PA.
H. Il TAF e la CFS si riconfermano nelle loro decisioni, mentre l'arch. A._ chiede di respingere il gravame nella misura della sua ricevibilità. È stato invitato ad esprimersi sul ricorso anche il Dipartimento federale dell'ambiente, dei trasporti, dell'energia e delle comunicazioni (DATEC), che non ha tuttavia presentato osservazioni. Il ricorrente ha comunicato il 7 luglio 2011 di rinunciare ad esprimersi ulteriormente e di confermare il contenuto del suo ricorso.
Diritto:
1. Contro una decisione del TAF in materia di espropriazione è data, in virtù dell'art. 87 cpv. 1 LEspr (RS 711), la via del ricorso in materia di diritto pubblico al Tribunale federale ai sensi degli art. 82 segg. LTF. La decisione impugnata nega all'UFT la legittimazione ad aggravarsi contro il giudizio della CFS. Quale parte nella procedura, l'UFT è quindi legittimato in questa sede a fare valere che la precedente istanza si è rifiutata a torto di entrare nel merito del suo gravame (cfr. DTF 131 II 497 consid. 1). Al riguardo, il Tribunale federale applica d'ufficio il diritto (art. 106 cpv. 1 LTF) e può quindi accogliere il ricorso sulla base di un motivo non invocato, rispettivamente respingerlo con una motivazione diversa da quella addotta dalla precedente istanza (DTF 133 II 249 consid. 1.4.1 e rinvii). Il ricorso in materia di diritto pubblico, tempestivo (art. 100 cpv. 1 LTF), è quindi di principio ammissibile.
2. 2.1 Il ricorrente lamenta un'errata applicazione dell'art. 48 PA. Negando la licenza edilizia per l'edificazione del fondo dell'opponente allo scopo di tutelare la futura realizzazione della circonvallazione di Bellinzona della linea AlpTransit, sostiene di avere agito nel contesto delle competenze attribuitegli dalla legge. Adduce che, a questo stadio, esso sarebbe il solo organo abilitato ad intervenire, poiché l'impresa ferroviaria non disporrebbe ancora di un titolo giuridico per salvaguardare la possibilità di realizzare questa tratta, rinviata dalle autorità federali. L'UFT rileva di essere tenuto a curare gli interessi della Confederazione nell'ambito del progetto di nuova trasversale ferroviaria alpina, rientrando nei suoi compiti in particolare la gestione e il controllo dei crediti approvati dal Parlamento, nonché l'amministrazione del fondo per i grandi progetti ferroviari, conformemente all'art. 11 cpv. 2 dell'ordinanza sul transito alpino (OTrAl; RS 742.104.1). Secondo il ricorrente, il diniego della legittimazione ricorsuale dinanzi al TAF in ambito espropriativo gli impedirebbe di svolgere i compiti assegnatigli dal Consiglio federale a tutela degli interessi finanziari della Confederazione.
2.2 Secondo l'art. 48 cpv. 1 PA ha diritto di ricorrere chi ha partecipato al procedimento dinanzi all'autorità inferiore o è stato privato della possibilità di farlo (lett. a), è particolarmente toccato dalla decisione impugnata (lett. b) e ha un interesse degno di protezione all'annullamento o alla modificazione della stessa (lett. c). Giusta l'art. 48 cpv. 2 PA, ha inoltre diritto di ricorrere ogni persona, organizzazione o autorità cui un'altra legge riconosce tale diritto.
La precedente istanza ha negato una legittimazione a ricorrere sulla base dell'art. 48 cpv. 1 PA, poiché l'UFT è un'unità amministrativa dell'Amministrazione federale e non dispone di personalità giuridica propria. In effetti, il diritto generale di ricorso sancito da questa norma concerne innanzitutto i privati e, secondariamente, gli enti pubblici, ma non le singole autorità o i settori dell'amministrazione privi di personalità giuridica (cfr. MARANTELLI SONANINI/HUBER, in: Waldmann/ Weissenberger, Praxiskommentar VwVG, 2009, art. 48 n. 21 e art. 6 n. 13; cfr. inoltre, con riferimento all'analogo art. 89 cpv. 1 LTF, DTF 134 II 45 consid. 2.2).
Il TAF ha inoltre escluso che nella fattispecie fosse dato un diritto di ricorso dell'autorità sulla base di una legge speciale, conformemente all'art. 48 cpv. 2 PA. Il ricorrente fonda in sostanza la sua facoltà ricorsuale sull'art. 11 cpv. 2 OTrAl, disposizione specifica che prevede in particolare il suo compito di gestire e controllare i crediti approvati dal Parlamento, nonché di amministrare il fondo per i grandi progetti ferroviari (cfr. art. 11 cpv. 2 lett. b e c OTrAl). A torto. Per ammettere la legittimazione a ricorrere sulla base di una legge speciale non basta infatti che l'UFT disponga in generale di competenze in materia ferroviaria o che gli spettino compiti di direzione e di sorveglianza nella realizzazione delle nuove trasversali ferroviarie alpine, ma occorre che tale facoltà ricorsuale sia prevista a suo favore in modo esplicito dalla legge (DTF 127 II 32 consid. 2c; 123 II 542 consid. 2c). Ora, l'art. 11 cpv. 2 OTrAl non sancisce esplicitamente alcun diritto di ricorso del UFT.
2.3 Ad essere impugnato dinanzi al TAF era un giudizio della CFS riguardante una pretesa di indennità per espropriazione materiale sottoposta alla procedura di stima giusta gli art. 57 segg. LEspr. Secondo l'art. 78 cpv. 1 LEspr, non richiamato dalla precedente istanza nel suo giudizio, contro la decisione della CFS sono legittimati a ricorrere al TAF le parti principali nonché i titolari di diritti di pegno immobiliare, di oneri fondiari e di usufrutti, nella misura in cui la decisione della CFS cagioni loro una perdita. Questa facoltà di ricorso specifica è applicabile anche alla procedura dinanzi al Tribunale federale (cfr. art. 87 cpv. 2 LEspr; messaggio del 28 febbraio 2001 concernente la revisione totale dell'organizzazione giudiziaria federale, FF 2001 3995).
La decisione di diniego della licenza edilizia dell'11 agosto 1998 alla base della restrizione della proprietà è stata resa dall'UFT in applicazione del previgente art. 18a vLferr. Questa norma prevedeva che per l'edificazione e la modificazione di costruzioni e impianti non esclusivamente o prevalentemente destinati all'esercizio ferroviario era necessaria l'approvazione dell'autorità di vigilanza, segnatamente quando essi rendevano impossibile o considerevolmente più difficile l'estensione futura di impianti ferroviari (cfr. art. 18a cpv. 1 lett. d Lferr). L'approvazione doveva essere negata, se il progetto pregiudicava la sicurezza dell'esercizio ferroviario o contrastava lo scopo di una zona riservata o di un allineamento (cfr. l'art. 18a cpv. 3 vLferr). Poteva inoltre essere negata, in assenza di zone riservate o allineamenti, qualora il progetto rendeva impossibile o considerevolmente più difficile l'estensione futura di impianti ferroviari (cfr. l'art. 18a cpv. 4 vLferr).
Secondo l'art. 18i cpv. 1 vLferr, se una tale restrizione della proprietà era equivalente a un'espropriazione, essa dava luogo a un'indennità integrale. Giusta l'art. 18i cpv. 2 vLferr, l'indennità era dovuta dall'impresa ferroviaria oppure, in difetto di questa, da chi aveva cagionato la restrizione della proprietà. Se le pretese erano, in tutto o in parte, contestate tornava applicabile la procedura di stima degli art. 57 segg. LEspr (cfr. art. 18i cpv. 3 vLferr). L'art. 18i vLferr corrisponde sostanzialmente all'attuale art. 18u Lferr, nella versione del 18 giugno 1999, in vigore dal 1° gennaio 2000. Quest'ultima disposizione fa invero riferimento unicamente alle restrizioni della proprietà secondo gli attuali art. 18n-18t Lferr, concernenti le zone riservate e gli allineamenti, e non contempla esplicitamente le restrizioni della proprietà derivanti, come in concreto, dal diniego dell'approvazione di progetti di terzi che potrebbero pregiudicare lo sviluppo futuro degli impianti ferroviari. Il diritto vigente, tuttavia, non attribuisce più tale competenza all'UFT. L'attuale art. 18m Lferr, che ha sostituito il previgente art. 18a vLferr, non prevede infatti più un'approvazione dell'UFT per l'edificazione e la modifica di costruzioni e impianti non destinati esclusivamente o prevalentemente all'esercizio ferroviario, ma soltanto, in determinati casi, la sua consultazione o il consenso dell'impresa ferroviaria (cfr. messaggio del 25 febbraio 1998 concernente la legge federale sul coordinamento e la semplificazione delle procedure d'approvazione dei piani, FF 1998 2073; DTF 127 II 227 consid. 3b in fine). In ogni modo, in applicazione sia dell'art. 18i cpv. 2 vLferr sia dell'attuale art. 18u cpv. 2 Lferr, l'indennità per titolo di espropriazione materiale è dovuta dall'impresa ferroviaria oppure, in mancanza della stessa, da chi ha causato la restrizione della proprietà.
2.4 In concreto, la restrizione della proprietà considerata dalla CFS deriva dal diniego, a suo tempo, dell'approvazione da parte dell'UFT del progetto edilizio dell'arch. A._, ritenuto in contrasto con il futuro sviluppo della linea ferroviaria AlpTransit. Questa restrizione può essere costitutiva di espropriazione materiale e comportare quindi il versamento di un'indennità conformemente agli art. 18i vLferr e 18u Lferr, dovuta dall'impresa ferroviaria, oppure, se manca l'impresa, da colui che ha causato la restrizione della proprietà. Nella fattispecie, come visto, la restrizione è stata determinata dall'UFT a favore della Confederazione per un'opera pubblica di sua utilità. La tratta in questione della linea AlpTransit non è tuttavia ancora stata decisa dall'Assemblea federale e le imprese ferroviarie non sono quindi ancora state incaricate della sua realizzazione (cfr. art. 5bis della legge sul transito alpino, del 4 ottobre 1991 [RS 742.104]; piano settoriale dei trasporti, parte infrastruttura ferrovia, schede di coordinamento Ticino urbano, SC 5.2). A questo stadio, un'impresa ferroviaria non ha perciò potuto partecipare al procedimento espropriativo, sicché l'eventuale indennità giusta gli art. 18i cpv. 2 vLferr e 18u cpv. 2 Lferr è dovuta dalla Confederazione, a favore della quale la restrizione della proprietà è stata sancita. Quale ente espropriante, la Confederazione è quindi parte principale al procedimento e, in questa veste, è pure abilitata conformemente all'art. 78 cpv. 1 LEspr ad adire il TAF contro la decisione della CFS. Del resto, nella decisione della CFS figura quale controparte la "Confederazione svizzera, Dipartimento federale dell'ambiente, dei trasporti, dell'energia e delle comunicazioni (DATEC), Ufficio federale dei trasporti (UFT)" e anche il gravame dinanzi al TAF è stato presentato dal ricorrente con questa intestazione.
2.5 In concreto, non risulta tuttavia che l'UFT sia stato esplicitamente autorizzato a rappresentare la Confederazione, segnatamente che il DATEC, nel cui campo di attività rientra la materia in oggetto, gli abbia conferito la facoltà di agire in suo nome e conto. Giusta l'art. 52 PA, applicabile alla procedura dinanzi al TAF per il rinvio dell'art. 37 LTAF, l'atto di ricorso deve tra l'altro contenere la firma del ricorrente o del suo rappresentante (cpv. 1). Se il ricorso non soddisfa questo requisito, l'autorità assegna al ricorrente un termine suppletorio per rimediarvi, con la comminatoria che, decorrendo tale termine infruttuoso, essa non entrerà nel merito (cpv. 2 e 3). Spettava quindi alla precedente istanza assegnare al ricorrente un termine perché l'atto di ricorso fosse firmato dalle persone competenti del DATEC, rispettivamente perché fosse presentata un'eventuale procura (cfr., riguardo al diritto di firma, art. 49 della legge sull'organizzazione del Governo e dell'Amministrazione, del 21 marzo 1997 [LOGA; RS 172.010]).
3. 3.1 Ne segue che il ricorso deve essere accolto e la sentenza impugnata annullata. La causa è rinviata al TAF, affinché proceda conformemente all'art. 52 PA e, se ne saranno dati presupposti, esamini nel merito il gravame.
3.2 In virtù dell'art. 116 cpv. 1 LEspr, le spese di procedura davanti al TAF, comprese le ripetibili all'espropriato, sono di principio addossate all'espropriante. Per contro, per la procedura dinanzi al Tribunale federale, l'art. 116 cpv. 3 LEspr rinvia alle disposizioni della LTF. Secondo l'art. 66 cpv. 1 LTF, di regola, le spese giudiziarie sono addossate alla parte soccombente. Se le circostanze lo giustificano, il Tribunale federale può ripartirle in modo diverso o rinunciare ad addossarle alle parti. In concreto, considerata la particolarità dell'oggetto litigioso, non si giustifica di porre le spese giudiziarie a carico del proprietario. Facendo uso della possibilità prevista dalla norma, si rinuncia pertanto eccezionalmente a prelevarle. Al proprietario soccombente, non possono comunque essere assegnate ripetibili di questa sede (cfr. art. 68 cpv. 1 LTF).
Per questi motivi, il Tribunale federale pronuncia:
1. Il ricorso è accolto e la decisione impugnata annullata. Gli atti sono rinviati al TAF per una nuova decisione nel senso dei considerandi.
2. Non si prelevano spese giudiziarie.
3. Comunicazione alle parti, alla Corte I del Tribunale amministrativo federale e al Dipartimento federale dell'ambiente, dei trasporti, dell'energia e delle comunicazioni.