Fatti:
A. E._ è proprietario della particella xxx di Magliaso. Il fondo, di 3500 m2, sul quale sorge una casa di abitazione unifamiliare eretta nel 2003, si affaccia lungo il lato est direttamente sul lago Ceresio: verso ovest, esso confina con la particella yyy, appartenente a A.A._, B.A._ e C.A._.
Nel 2005, nel quadro di una procedura di rilascio di una licenza edilizia per la posa di tre pali per l'attracco di natanti, avversata dai vicini, è emerso che, durante i lavori per l'edificazione della nuova villa di E._, erano stati eseguiti, senza previo rilascio della licenza edilizia, interventi di sistemazione esterna dell'area a lago. Si trattava, in sostanza, da una parte, del ripristino di un canneto acquatico sul lago, con conseguente formazione di un canale di circolazione dell'acqua e posa di ghiaia e di grosse pietre sulla riva, e, dall'altra, della sistemazione a prato verde del terreno compreso tra l'abitazione e il lago, nonché della sistemazione del preesistente approdo per le barche, del piazzale retrostante e del muro a confine con la riva del lago. Il 23 maggio 2006 le parti hanno concordato l'inoltro di una domanda di costruzione in sanatoria e il ritiro di un ricorso introdotto da parte dei vicini.
B. Il 25 settembre 2006 il Municipio di Magliaso, raccolto il preavviso favorevole del Dipartimento del territorio e respinta un'opposizione dei vicini, ha concesso a E._ il permesso edilizio richiesto. Con decisione del 13 febbraio 2007, il Consiglio di Stato ha respinto un ricorso dei vicini. Riguardo al ripristino del canneto, ai relativi lavori di consolidamento della riva e alla formazione del citato canale, il Governo cantonale ha ritenuto ch'essi erano stati eseguiti, con la partecipazione finanziaria del Cantone, conformemente alle istruzioni impartite all'istante dall'Ufficio protezione della natura e allo scopo di ricostruire e salvaguardare un importante ambiente naturale. Riguardo alla darsena, ha accertato che la stessa, realizzata dai precedenti proprietari del fondo, esisteva da lungo tempo, per cui i lavori fatti eseguire da E._, in quanto non già autorizzati con la licenza del 2003, potevano beneficiare del regime previsto dall'art. 39 del regolamento del 9 dicembre 1992 di applicazione della legge edilizia cantonale (RLE) relativo agli edifici e impianti esistenti in contrasto col nuovo diritto. Il Tribunale cantonale amministrativo, adito dai vicini, ne ha respinto il ricorso con giudizio del 30 ottobre 2007.
C. Avverso questa sentenza A.A._, B.A._ e C.A._ presentano un ricorso di diritto pubblico al Tribunale federale, chiedendo di annullarla. Dei motivi si dirà, in quanto necessario, nei considerandi. In seguito i ricorrenti hanno inoltrato ulteriori scritti.
Non sono state chieste osservazioni al gravame, ma è stato richiamato l'incarto cantonale.
Diritto:
1. 1.1 Il Tribunale federale esamina d'ufficio e con piena cognizione l'ammissibilità dei ricorsi sottopostigli (DTF 134 II 138 consid. 1).
1.2 Contro una decisione finale dell'ultima istanza cantonale, che ha confermato il rilascio di una licenza edilizia a terzi, è dato dopo l'entrata in vigore, il 1° gennaio 2007 della LTF, il ricorso in materia di diritto pubblico (DTF 133 II 409 consid. 1.1, 353 consid. 2, 249 consid. 1.2) e non più il ricorso di diritto pubblico secondo il previgente OG. Il gravame è di massima ammissibile sotto il profilo degli art. 82 lett. a, 86 cpv. 1 lett. d, 90 e 100 cpv. 1 LTF.
1.3 La Corte cantonale ha ritenuto certa la legittimazione attiva dei vicini, in quanto proprietari di un fondo confinante: nella decisione governativa si sosteneva che sussisterebbe un interesse degli insorgenti alla salvaguardia dei valori naturalistici e paesaggistici che caratterizzano la zona a lago. I ricorrenti, proprietari di un immobile sito, come rilevato dall'opponente nella sede cantonale, sul lato opposto della particella oggetto dei contestati interventi, non visibili dal loro mappale, e separata da una strada, non si esprimono del tutto sulla loro legittimazione, disattendendo il tal modo l'obbligo di motivazione imposto loro dall'art. 42 cpv. 1 e 2 LTF (DTF 133 II 353 consid. 3.1).
1.3.1 Secondo la giurisprudenza, il semplice assunto d'essere toccato dal rilascio di una licenza edilizia non è sufficiente per fondare la legittimazione a ricorrere al Tribunale federale. Deve piuttosto risultare verosimile che, sulla base delle circostanze concrete, l'interessato, che ha partecipato al procedimento dinanzi all'autorità inferiore (art. 89 cpv. 1 lett. a), sia particolarmente toccato dalla decisione impugnata (lett. b) e abbia un interesse degno di protezione al suo annullamento o alla sua modifica (lett. c): ciò allo scopo di escludere un'inammissibile azione popolare. Per l'adempimento delle condizioni della citata norma si può far capo alla prassi inerente alla legittimazione sviluppata nel quadro del previgente ricorso di diritto amministrativo (art. 103 lett. a OG; DTF 133 II 409 consid. 1.3, 120 Ib 48 consid. 2).
1.3.2 Certo, in concreto sussiste un legame spaziale sufficientemente stretto con l'oggetto del litigio. Un interesse degno di protezione è tuttavia dato soltanto quando la situazione giuridica o fattuale del ricorrente è influenzata dall'esito del procedimento: l'insorgente dev'essere infatti particolarmente toccato dalla decisione impugnata e avere dunque un interesse personale, che si distingua dall'interesse generale degli altri membri della collettività su cui l'organo ha statuito (DTF 133 II 353 consid. 3 pag. 357; messaggio del 28 febbraio 2001 concernente la revisione totale dell'organizzazione giudiziaria federale, FF 2001 3885).
1.3.3 Se un vicino vuole impugnare una licenza edilizia deve rendere verosimile, in particolare quando non esiste uno stretto legame spaziale con l'oggetto del litigio, che la sua situazione giuridica o fattuale sia influenzata dall'esito della procedura e che egli abbia un vantaggio pratico all'annullamento o alla modifica della decisione impugnata. Sussiste quindi un obbligo del vicino di un progetto di costruzione di dimostrare la sua legittimazione: quando non è manifesta, non spetta al Tribunale federale cercare negli atti i motivi che potrebbero fondarla (DTF 133 II 409 consid. 1.3, 249 consid. 1.1 e 1.3.1, 400 consid 2.2, 353 consid. 1 e 3; sentenza 1C_342/2008 del 21 ottobre 2008 consid. 2). Un interesse particolare è segnatamente ammesso nei casi in cui il progettato impianto implica verosimilmente immissioni sul fondo che si trova nelle sue vicinanze (DTF 121 II 171 consid. 2b e rinvii; 120 Ib 379 consid. 4c; sentenze 1C_82/2007 del 19 novembre 2007 consid. 3.3; 1C_455/2007 del 10 marzo 2008 consid. 3; 1C_18/2008 del 15 aprile 2008 consid. 5.1), circostanza non addotta dai ricorrenti né ravvisabile in concreto.
1.3.4 Nella fattispecie i ricorrenti non adducono alcun vantaggio pratico all'annullamento o alla modifica della decisione impugnata, né un siffatto interesse o una qualsiasi modifica della loro situazione giuridica o fattuale è ravvisabile. In effetti, essi si limitano ad addurre, peraltro in maniera del tutto generica, l'interesse pubblico a una corretta applicazione del diritto, unico scopo perseguito con il ricorso. Ciò è inammissibile nel quadro di un ricorso in materia di diritto pubblico: d'altra parte i ricorrenti non fanno valere una violazione dei loro diritti di parte (DTF 133 II 249 consid. 1.3.1 e 1.3.2, 400 consid. 2.2; sentenza 1C_32/2007 del 18 ottobre 2007 consid. 1.2). La legittimazione dei ricorrenti appare quindi più che dubbia; la questione non dev'essere comunque approfondita oltre visto l'esito del gravame.
1.4 Conformemente a quanto stabilito dall'art. 95 LTF, il ricorso ordinario al Tribunale federale può essere presentato, tra l'altro, per violazione del diritto federale e dei diritti costituzionali (lett. a e c). Secondo l'art. 42 cpv. 1 e 2 LTF, il gravame dev'essere motivato in modo sufficiente, spiegando nei motivi perché l'atto impugnato viola il diritto (cpv. 2; DTF 133 II 249 consid. 1.4.1; 133 IV 286 consid. 1.4). Il Tribunale federale esamina in linea di principio solo le censure sollevate; esso non è tenuto a vagliare, come lo farebbe un'autorità di prima istanza, tutte le questioni giuridiche che si pongono, se queste ultime non sono presentate nella sede federale (DTF 134 II 244 consid. 2.2; 134 IV 36).
1.4.1 Inoltre, quando, come in concreto, il ricorrente invoca la violazione di diritti costituzionali e di disposizioni di diritto cantonale, giusta l'art. 106 cpv. 2 LTF il Tribunale federale esamina le censure soltanto se sono state esplicitamente sollevate e motivate in modo chiaro e preciso, conformemente alla severa prassi, fondata sull'art. 90 cpv. 1 lett. b OG, applicabile nel quadro del previgente ricorso di diritto pubblico (DTF 134 II 244 consid. 2.1 e 2.2; 133 II 249 consid. 1.4.2). Le esigenze di motivazione sono inoltre accresciute laddove il ricorrente lamenta l'arbitrio nell'accertamento dei fatti e nella valutazione delle prove, dato che ciò equivale a sostenere che i fatti sono stati accertati in violazione dell'art. 9 Cost. e del diritto federale (DTF 134 IV 36 consid. 1.4.1). In questa misura, argomentazioni vaghe o meramente appellatorie e semplici rinvii agli atti cantonali non sono quindi ammissibili (DTF 129 I 113 consid. 2.1 e rinvii).
1.4.2 ll ricorrente deve quindi spiegare perché il giudizio impugnato sarebbe non soltanto discutibile, ma manifestamente insostenibile, in contraddizione manifesta con una norma o un principio giuridico indiscusso o chiaramente lesivo del sentimento di giustizia e dell'equità. L'arbitrio non si realizza, inoltre, già per il semplice fatto che le conclusioni del giudice di merito non corrispondono a quelle del ricorrente o ad altre altrettanto sostenibili o addirittura preferibili, ricordato che la decisione impugnata dev'essere arbitraria non solo nelle sue motivazioni, ma anche nel risultato (vedi, sulla nozione di arbitrio, DTF 132 III 209 consid. 2.1; 132 I 175 consid. 1.2). Come si vedrà, l'atto di ricorso disattende in larga misura queste severe esigenze di motivazione ed è quindi, in gran parte inammissibile.
2. 2.1 Il Tribunale cantonale amministrativo ha accertato i lavori eseguiti sul fondo part. xxx, in particolare quelli relativi alla darsena e al muro a confine con il lago. Ha ricordato che secondo il Consiglio di Stato una parte di queste trasformazioni sarebbe già stata contemplata dai piani approvati il 7 luglio 2003, relativi all'edificazione della nuova casa, per i quali l'opponente beneficiava di un diritto acquisito alla realizzazione in virtù della licenza edilizia ottenuta in quell'occasione. L'esecutivo cantonale si è quindi limitato a esaminare i rimanenti lavori eseguiti, segnatamente la posa di blocchi di contenimento della superficie di approdo e di un lastricato in beole a monte e a lato della medesima, ritenendo che gli stessi potevano essere autorizzati sulla base dell'art. 39 RLE. Secondo questa norma, edifici e impianti esistenti in contrasto col nuovo diritto possono essere riparati e mantenuti, esclusi lavori di trasformazione sostanziali; trasformazioni più importanti possono tuttavia essere autorizzate se il contrasto col nuovo diritto non pregiudica in modo apprezzabile l'interesse pubblico o quello dei vicini (cpv. 1). Il capoverso 2 riserva le disposizioni più severe applicabili a fattispecie qui non ricorrenti.
I giudici cantonali hanno per contro stabilito che la questione di sapere quali interventi di sistemazione intrapresi dall'opponente sull'area del fondo prospiciente il lago fossero già stati autorizzati con la licenza rilasciata nel 2003 poteva rimanere indecisa, poiché, indipendentemente da detto aspetto, gli stessi dovevano comunque essere autorizzati a posteriori.
2.2 La Corte cantonale ha ritenuto infatti che detti lavori concernono alcuni manufatti (darsena e muro di sostegno) regolarmente costruiti prima dell'entrata in vigore, l'11 dicembre 1985, del piano regolatore comunale, come emergerebbe dalla documentazione prodotta il 24 settembre 2007 dal Municipio. Nella misura in cui queste opere si trovano tra la linea di arretramento II e la riva del lago, all'interno della cosiddetta zona RL, esse sono in contrasto con quanto prescritto dagli art. 32 e 42 cpv. 2 lett. c NAPR, entrati in vigore successivamente e che vietano qualsiasi modifica dello stato naturale del terreno e della riva del lago. Il Tribunale amministrativo ha tuttavia ritenuto che, conformemente all'art. 39 RLE, le costruzioni esistenti in contrasto con il nuovo diritto entrato in vigore in epoca successiva alla loro edificazione possono essere mantenute e riparate. Esso ha stabilito che i lavori litigiosi, pur non essendo completamente privi di importanza, non hanno alterato in misura significativa l'identità dei manufatti già esistenti e neppure hanno contribuito ad accentuare in maniera percettibile i momenti di contrasto di dette opere con il diritto vigente. Sempre secondo la Corte cantonale, nella misura in cui questi interventi hanno in sostanza permesso di consolidare le opere già esistenti, occorre ammettere ch'essi possono beneficiare della disciplina prevista dall'art. 39 RLE, non essendo qualificabili come trasformazione sostanziale e poiché non arrecano alcun pregiudizio all'interesse pubblico né a quello dei vicini.
2.3 I ricorrenti non criticano, se non in maniera del tutto generica, i predetti accertamenti di fatto posti a fondamento della criticata decisione e non si confrontano affatto con le differenti motivazioni e differenziazioni operate dai giudici cantonali.
2.3.1 Riguardo ai lavori litigiosi, essi accennano all'asserita mancata edizione di un piano di sistemazione esterna del fondo del vicino approvato dal Municipio il 7 luglio 2003, al loro dire "misteriosamente mancante agli atti". Ora, con scritto del 21 settembre 2007, il giudice delegato del Tribunale cantonale amministrativo aveva invitato il Comune a trasmettere gli incarti precedenti riferiti alle licenze edilizie rilasciate dal Municipio in merito alla costruzione e sistemazione della darsena litigiosa. Egli ha poi concesso alle parti, e segnatamente al rappresentante dei ricorrenti, la facoltà di consultare i documenti trasmessi dal Comune e di presentare eventuali osservazioni. I ricorrenti non sostengono, né ciò risulta dagli atti, ch'essi avrebbero fatto uso, come il vicino, di questa possibilità o che, accertata se del caso l'assenza di determinati atti, ne avrebbero chiesto l'assunzione. Essi non dimostrano quindi l'esistenza di un accertamento inesatto dei fatti, né si è in presenza di una lesione del loro diritto di essere sentiti, visto che nulla impediva loro di chiedere l'assunzione di ulteriori mezzi di prova. D'altra parte, come si vedrà, secondo la tesi della Corte cantonale, non contestata dai ricorrenti, la circostanza di sapere quali lavori sono stati autorizzati nel 2003 non è comunque decisiva.
2.3.2 Sempre con riferimento agli accertamenti fattuali, i ricorrenti rilevano che nella licenza edilizia si parlerebbe di una modifica dell'attracco, mentre a livello ricorsuale di un impianto preesistente. Essi accennano poi a un carente accertamento dei fatti da parte del Municipio riguardo all'esistenza o meno di vegetazione ripuale prima dei criticati interventi, fattispecie al loro dire non verificata neppure dalle autorità cantonali.
Ora, con questi accenni, essi non dimostrano che l'accertamento dei fatti sarebbe stato effettuato in modo manifestamente inesatto o che l'eliminazione del vizio potrebbe essere determinante per l'esito del procedimento (art. 97 cpv. 1 LTF). In effetti, il Tribunale federale fonda la sua sentenza sui fatti accertati dall'autorità inferiore (art. 105 cpv. 1 LTF): può scostarsene solo qualora l'accertamento sia avvenuto in modo manifestamente inesatto o in violazione del diritto ai sensi dell'art. 95 LTF, cioè in maniera arbitraria (art. 105 cpv. 2 LTF, disciplina analoga a quella dell'art. 97 cpv. 1 LTF; DTF 133 II 249 consid. 1.2.2 e 1.4.3). La parte ricorrente, che intende contestare i fatti accertati dall'autorità inferiore, deve quindi spiegare in maniera circostanziata per quale motivo ritiene che le condizioni di una delle eccezioni previste dall'art. 105 cpv. 2 LTF sarebbero realizzate; in caso contrario, come nella fattispecie, non si può tener conto di uno stato di fatto diverso da quello posto a fondamento della decisione impugnata (DTF 133 II 249 consid. 1.4.3; 133 IV 286 consid. 6.2). D'altra parte, gli scritti inoltrati nel 2008 dai ricorrenti, tardivi, sono inammissibili.
3. 3.1 Il ricorso è incentrato sull'assunto secondo cui le autorità cantonali avrebbero interpretato in maniera arbitraria l'art. 39 RLE, pensato, al dire dei ricorrenti, quale "deroga alle misure edilizie, ovvero rispetto al Regolamento stesso o alla legge edilizia", mentre esse avrebbero dovuto applicare unicamente l'art. 42 delle norme di attuazione del piano regolatore (NAPR), quale disposizione pianificatoria fondata sulla LPT (RS 700). In sostanza, essi fanno valere che la Corte cantonale avrebbe ammesso l'applicabilità dell'art. 39 RLE per giustificare un aggiramento di una norma pianificatoria, ossia l'art. 42 NAPR: secondo i ricorrenti, un intervento in contrasto con quest'ultima norma, che non prevede eccezioni, non potrebbe essere tollerato né accettato, poiché una violazione di una norma vigente costituirebbe "una mancanza di rispetto del diritto attuale e positivo e, quindi, dell'interesse pubblico", oltre a toccare una questione legata alla certezza del diritto e alla parità di trattamento. Riguardo a quest'ultima critica, i ricorrenti neppure tentano tuttavia di dimostrare l'esistenza di un'implicita asserita disuguaglianza di trattamento.
3.2 I semplici richiami agli art. 17 cpv. 1 LPT, concernente le zone protette, segnatamente i laghi e le loro rive (al riguardo cfr. DTF 132 II 10 consid. 2.4 con riferimenti anche alla dottrina) e 53 cpv. 3 dell'ordinanza federale dell'8 novembre 1978 sulla navigazione nelle acque svizzere (RS 747.201.1) relativa al divieto di navigazione in prossimità delle rive, nulla mutano all'esito del gravame. Del resto, in tale ambito, essi si limitano ad addurre che il canneto è stato rimesso in ordine anche nelle vicinanze dell'attracco, per cui il divieto di navigazione impedirebbe l'approdo di natanti in quest'area.
Con questo accenno essi disattendono tuttavia che, come stabilito in maniera vincolante nella decisione impugnata, la darsena litigiosa è stata costruita prima dell'entrata in vigore dell'art. 42 cpv. 3 NAPR. D'altra parte, i ricorrenti non contestano che, come accertato dalla Corte cantonale, i lavori eseguiti in tale comparto non alterano in misura significativa l'identità dei manufatti già esistenti e non accentuano in maniera percettibile il contrasto con il diritto vigente. Né essi dimostrano che detti lavori pregiudicherebbero in modo apprezzabile l'interesse pubblico o quello dei vicini. In siffatte circostanze, un'applicazione arbitraria dell'art. 39 RLE non è ravvisabile. Ciò a maggior ragione visto che, secondo la dottrina e la prassi, questa norma permette anche trasformazioni di una certa importanza, che travalicano i limiti della tutela delle situazioni acquisite (SCOLARI, Commentario, n. 517 all'art. 70 LALPT; LUCCHINI, Compendio giuridico per l'edilizia, 1999, pag. 136 segg.; sentenze 1P.274/1997 del 18 luglio 1997 consid. 3 e 4 in RDAT 1998-I n. 45 pag. 172; 1P.441/1996 dell'11 febbraio 1997 consid. 3 e 4 in RDAT 1997-II n. 31 pag. 95).
4. 4.1 Per di più, contrariamente a quanto sostenuto dai ricorrenti, la Corte cantonale si è espressa sulla portata dell'art. 42 NAPR, disposizione peraltro integralmente ripresa nell'impugnato giudizio e in particolare del suo terzo capoverso, secondo cui, nella zona residenziale particolare a lago, oltre le linee di arretramento I e II è vietata l'esecuzione di qualsiasi opera di cui ai precedenti capoversi: sono vietati pure i depositi di materiale di varia natura che modificano sostanzialmente la struttura naturale della riva, mentre la sistemazione del terreno è esclusa per le parti dei fondi situati tra la riva del lago e la linea di arretramento II. Essa ha tuttavia ritenuto che nella fattispecie era applicabile l'art. 39 RLE.
4.2 Infine, riguardo ai lavori di ripristino del canneto e di consolidamento della riva lacustre, il Tribunale amministrativo ha ritenuto che i ricorrenti non sembravano apparentemente più contestarne la legittimità. La Corte cantonale ha nondimeno aggiunto che queste opere sono state eseguite in larga misura su area demaniale, con l'autorizzazione e secondo le istruzioni dell'Ufficio della protezione della natura. Per quanto gli interventi di rinaturazione toccano per contro il fondo dell'opponente, la Corte cantonale ha ritenuto che gli stessi sono chiaramente volti al perseguimento degli scopi di carattere naturalistico contemplati da specifiche norme della legislazione federale e cantonale in materia di protezione delle acque, di protezione della natura e del paesaggio, della pesca e della LPT: questi interventi non soggiacciono pertanto, sempre secondo i giudici cantonali, ai divieti imposti dal diritto edilizio di rango inferiore, segnatamente dalle NAPR di Magliaso, per cui nulla si oppone alla loro realizzazione.
4.3 Ora, quando la decisione impugnata, come in concreto, si fonda su diverse motivazioni indipendenti e di per sé sufficienti per definire l'esito della causa, il ricorrente è tenuto, pena l'inammissibilità, a dimostrare che ognuna di esse viola il diritto (DTF 133 IV 119). I ricorrenti non criticano del tutto la conclusione secondo cui non hanno più contestato i citati lavori, né essi dimostrano l'arbitrarietà della motivazione abbondanziale addotta dai giudici cantonali.
5. Ne segue che il ricorso, in quanto ammissibile, dev'essere respinto. Le spese seguono la soccombenza (art. 66 cpv.1 LTF).
Per questi motivi, il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso è respinto.
2. Le spese giudiziarie di fr. 2'000.-- sono poste a carico dei ricorrenti.
3. Comunicazione ai rappresentanti delle parti, al Municipio di Magliaso, al Consiglio di Stato e al Tribunale amministrativo del Cantone Ticino.