Fatti:
A. Il 6 marzo 2008 il Municipio di Vernate ha rilasciato a A._ una licenza edilizia per la costruzione di sei case di abitazione sui fondi contigui part. n. 716, 717 e 719, situati nella zona residenziale Rb del piano regolatore comunale.
Il 19 maggio 2010, B._, proprietario del fondo part. n. 719 e della particella confinante n. 715, ha chiesto al Municipio di accertare che la licenza edilizia era scaduta per il mancato inizio dei lavori entro il termine biennale di validità.
B. Dopo una serie di atti che non occorre qui evocare, con decisione del 21 settembre 2010, il Municipio di Vernate ha accertato che i lavori erano iniziati prima della scadenza della licenza edilizia. Adito dall'opponente, il Consiglio di Stato del Cantone Ticino ne ha respinto il ricorso con decisione del 21 dicembre 2010.
C. Con sentenza del 15 febbraio 2011, il Tribunale cantonale amministrativo ha accolto un ricorso dell'opponente contro la risoluzione governativa, annullandola e accertando che la licenza edilizia del 6 marzo 2008 era scaduta per mancata utilizzazione entro il termine di validità. La Corte cantonale ha rilevato che prima della scadenza erano stati eseguiti unicamente tre lavori preparatori limitati, che non permettevano di considerare come iniziati i lavori di costruzione.
D. A._ impugna questo giudizio con un ricorso in materia di diritto pubblico e un ricorso sussidiario in materia costituzionale al Tribunale federale, chiedendo di annullarlo. Il ricorrente fa sostanzialmente valere la violazione del diritto di essere sentito e del divieto dell'arbitrio.
E. La Corte cantonale e l'opponente chiedono di respingere il ricorso. Il Consiglio di Stato e il Comune di Vernate si rimettono al giudizio del Tribunale federale.
Con decreto presidenziale del 23 marzo 2011 è stata respinta la domanda di conferimento dell'effetto sospensivo contenuta nel gravame.
Il 12 maggio 2011 la Corte cantonale ha presentato osservazioni sulle risposte. Il ricorrente si è espresso su tali osservazioni il 18 maggio 2011.
Diritto:
1. 1.1 Presentato tempestivamente contro una decisione finale dell'autorità cantonale di ultima istanza, che ha accertato definitivamente la scadenza della licenza edilizia rilasciata al ricorrente il 6 marzo 2008, il ricorso in materia di diritto pubblico è ammissibile sotto il profilo degli art. 82 lett. a, 86 cpv. 1 lett. d, 90 e 100 cpv. 1 LTF. Con questo rimedio si può fare valere la violazione del diritto (art. 95 LTF), nel quale rientra anche il diritto costituzionale (DTF 133 I 201 consid. 1).
1.2 Poiché contro la sentenza impugnata è aperta la via ordinaria del ricorso in materia di diritto pubblico, il ricorso sussidiario in materia costituzionale (art. 113 segg. LTF) non entra in considerazione ed è pertanto inammissibile.
1.3 Il ricorrente ha partecipato al procedimento in sede cantonale. Quale beneficiario della licenza edilizia, di cui la Corte cantonale ha accertato la scadenza, egli è particolarmente toccato dalla decisione impugnata e ha un interesse degno di protezione al suo annullamento. Il ricorrente è quindi legittimato a ricorrere giusta l'art. 89 cpv. 1 LTF.
2. 2.1 L'art. 14 cpv. 1 della legge edilizia cantonale, del 13 marzo 1991 (LE) prevede che la licenza edilizia decade se i lavori non vengono iniziati entro due anni dalla sua crescita in giudicato. Essa può comunque essere rinnovata fin quando non è stato modificato il diritto applicabile (cfr. cpv. 2).
Secondo l'art. 23 cpv. 3 del regolamento di applicazione della LE, del 9 dicembre 1992 (RLE), nel tenore in vigore fino al 1° aprile 2010, corrispondente all'attuale cpv. 4, i lavori sono considerati iniziati quando: sono in corso d'esecuzione i lavori di demolizione necessari (lett. a); oppure sono state poste in cantiere le installazioni necessarie all'esecuzione dell'opera (lett. b); oppure è accertato che furono fatte spese ingenti per garantire la sicurezza del cantiere e di opere vicine (lett. c); oppure sono state gettate le fondamenta dell'edificio o impianto (lett. d).
Giusta il previgente cpv. 4 dell'art. 23 RLE (corrispondente all'attuale cpv. 5), trascorso il periodo di due anni senza che i lavori siano stati iniziati, il permesso non può più essere utilizzato prima dell'ottenimento del rinnovo.
2.2 La Corte cantonale ha spiegato che la limitazione temporale della validità della licenza edilizia persegue lo scopo di consentire all'autorità di verificarne ulteriormente la conformità per rapporto ad eventuali modifiche del diritto applicabile intervenute nel frattempo. Ha rilevato che, in base alle citate normative e alla giurisprudenza cantonale, l'inizio dei lavori si identifica di regola con l'apertura del cantiere, ovvero con l'esecuzione sul terreno dedotto in edificazione dei lavori preparatori necessari per la realizzazione della costruzione autorizzata. Deve comunque trattarsi dell'effettiva messa in cantiere dell'opera e non di un semplice espediente per aggirare le disposizioni di legge sulla validità temporale del permesso, come ad esempio la rimozione della vegetazione che ricopre il fondo da edificare.
2.3 La Corte cantonale ha rilevato che la decisione del 21 settembre 2010, con cui il Municipio aveva accertato che i lavori di costruzione erano iniziati prima della scadenza della licenza edilizia (ossia prima del 6 marzo 2010), si fondava su un rapporto del 16 settembre 2010 allestito dall'ing. C._, titolare di uno studio d'ingegneria che fungeva da Ufficio tecnico del Comune. Sulla base dei bollettini di lavoro della ditta D._SA e di una fattura del 18 maggio 2010 della ditta E._, incaricata del taglio della vegetazione, documenti prodotti da A._ nell'ambito di una procedura parallela riguardante il rinnovo della licenza edilizia, la Corte cantonale ha nondimeno accertato che prima del 6 marzo 2010 erano stati eseguiti soltanto tre lavori preparatori. Essi consistevano nell'allacciamento del cantiere alla rete dell'acqua, nella posa del palo di sostegno dei cavi per l'allacciamento alla rete elettrica e di un cancello per chiudere la strada di accesso al cantiere. La precedente istanza ha per contro accertato che prima del 6 marzo 2010 non era stato effettuato alcun allacciamento alla rete di distribuzione dell'elettricità, né era stato installato un quadro elettrico. Ha segnatamente rilevato che entro quella data il terreno non era stato ripulito dagli arbusti e recintato, non erano stati eseguiti lavori di demolizione, non erano state installate le infrastrutture di cantiere, non erano stati effettuati scavi per gettare le fondamenta dell'edificio, né assunte spese ingenti per garantire la protezione del cantiere e delle opere vicine. Ha quindi concluso che i lavori di costruzione non potevano essere considerati come iniziati ai sensi dell'art. 23 RLE.
3. 3.1 Il ricorrente lamenta la violazione del diritto di essere sentito e del divieto dell'arbitrio, rimproverando alla Corte cantonale di essersi scostata dal rapporto dell'ing. C._, senza tenere conto di altri documenti agli atti e omettendo di prendere in considerazione ulteriori mezzi di prova, quali per esempio l'audizione testimoniale dell'ingegnere medesimo.
3.2 Il diritto di essere sentito, sancito dall'art. 29 cpv. 2 Cost., comprende il diritto per l'interessato di consultare l'incarto, di offrire mezzi di prova su punti rilevanti e di esigerne l'assunzione, di partecipare alla stessa e di potersi esprimere sulle relative risultanze nella misura in cui possano influire sulla decisione (DTF 127 I 54 consid. 2b). Tale diritto non impedisce tuttavia all'autorità di procedere a un apprezzamento anticipato delle prove richieste, se è convinta che non potrebbero condurla a modificare la sua opinione. Nell'ambito di questa valutazione, all'autorità compete un vasto margine di apprezzamento e il Tribunale federale interviene solo in caso di arbitrio (DTF 134 I 140 consid. 5.3; 131 I 153 consid. 3).
3.3 Il ricorrente rimprovera sostanzialmente alla Corte cantonale di essersi scostata dal rapporto dell'ing. C._, ma non si confronta con gli accertamenti e le considerazioni eseguiti dalla stessa sulla base dei bollettini di lavoro della D._SA e della fattura della ditta E._, prodotti dal ricorrente nel procedimento parallelo. In particolare, egli non spiega con una motivazione conforme agli art. 42 cpv. 2 e 106 cpv. 2 LTF per quali motivi, a meno di incorrere nell'arbitrio, la Corte cantonale non poteva fondare il proprio convincimento già sulla base di tali atti e rinunciare quindi ad assumere altre prove (cfr., sulle esigenze di motivazione, DTF 136 I 49 consid. 1.4.1 e rinvii). Il ricorrente non sostanzia nemmeno l'esistenza di interventi rilevanti nell'ottica dell'art. 23 RLE, relativi all'esecuzione di lavori di demolizione, alla posa delle installazioni di cantiere necessarie all'edificazione dell'opera, a ingenti spese per garantire la sicurezza del cantiere e a scavi per gettare le fondamenta degli edifici. La Corte cantonale ha infatti accertato che lavori di una simile portata non erano stati eseguiti in concreto e le generiche contestazioni sollevate dal ricorrente, che insiste soprattutto sul rapporto dell'ing. C._, non permettono di ritenere manifestamente insostenibili tali accertamenti. Certo, è dubbio che dalla fattura del 18 maggio 2010 della ditta E._ si possa dedurre che il taglio della vegetazione arbustiva sui fondi dedotti in edificazione non è stato eseguito prima del 6 marzo 2010. Nel documento non si trovano infatti precise indicazioni sulle prestazioni eseguite e di per sé non si può escludere che l'intervento sia comunque stato effettuato in precedenza. Come visto, l'art. 23 RLE e la giurisprudenza cantonale, di cui il ricorrente non censura l'arbitrio, esigono tuttavia, affinché si possa ammettere l'inizio dei lavori ai sensi della legislazione edilizia, che quelli preparatori siano di una certa rilevanza. Quand'anche la vegetazione fosse stata rimossa prima del 6 marzo 2010, alla luce della citata giurisprudenza l'intervento sarebbe comunque di portata limitata, insufficiente per considerare iniziati i lavori. Le argomentazioni ricorsuali non consentono quindi di ritenere che la precedente istanza ha violato gli art. 9 e 29 Cost. rinunciando ad assumere ulteriori prove. In tali circostanze e in considerazione dell'art. 99 LTF, la loro assunzione non si giustifica pertanto nemmeno in questa sede.
4. Il ricorrente sostiene che la motivazione del giudizio impugnato sarebbe insufficiente perché non esporrebbe le ragioni per cui il rapporto dell'ing. C._ e gli altri documenti agli atti non sarebbero attendibili. La Corte cantonale ha tuttavia spiegato sulla base di quali atti e per quali motivi ha ritenuto che i lavori di costruzione non potessero essere considerati come iniziati. Il ricorrente ha d'altra parte compreso la portata di tale decisione, avendo potuto adeguatamente contestarla in questa sede. Anche sotto questo aspetto, il suo diritto di essere sentito non è perciò stato disatteso dalla Corte cantonale (cfr., sull'obbligo di motivazione dell'autorità giudicante, DTF 134 I 83 consid. 4.1 e rinvii).
5. Laddove fa infine valere una violazione della garanzia della proprietà (art. 26 Cost.), il ricorrente lamenta sempre la mancanza di un'istruttoria volta a chiarire adeguatamente i fatti. Così come formulata, la censura si confonde con quella di violazione del diritto di essere sentito che, come esposto, deve tuttavia essere respinta in quanto ammissibile. Per il resto, sostenendo che la garanzia sarebbe disattesa, siccome la decisione impugnata "blocca un cantiere avviato da oltre un anno e che ha già raggiunto un discreto stato d'avanzamento", il ricorrente si scosta dai fatti accertati, vincolanti per il Tribunale federale (art. 105 cpv. 1 LTF), e non censura con una motivazione conforme all'art. 42 cpv. 2 e 106 cpv. 2 LTF la mancanza dei presupposti per una restrizione della garanzia costituzionale (cfr. art. 36 Cost.).
6. Ne segue che il ricorso in materia di diritto pubblico deve essere respinto nella misura della sua ammissibilità, mentre il ricorso sussidiario in materia costituzionale deve essere dichiarato inammissibile. Le spese seguono la soccombenza e sono quindi poste a carico del ricorrente (art. 66 cpv. 1 LTF), che rifonderà all'opponente un'indennità per ripetibili della sede federale (art. 68 cpv. 1 LTF).
Per questi motivi, il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso in materia di diritto pubblico è respinto.
2. Il ricorso sussidiario in materia costituzionale è inammissibile.
3. Le spese giudiziarie di fr. 2'000.-- sono poste a carico del ricorrente, che rifonderà all'opponente un'indennità di fr. 2'000.-- a titolo di ripetibili della sede federale.
4. Comunicazione ai patrocinatori delle parti, al Consiglio di Stato e al Tribunale amministrativo del Cantone Ticino.