Fatti: A. B.A._ è proprietaria del fondo part. xxx di Carabietta, di complessivi 4'978 m2, ubicato in località Roncaccio. La particella è edificata ed è attribuita in parte alla zona edificabile e in parte a quella agricola. L'11 marzo 2005 A.A._, marito della proprietaria, ha presentato al Municipio di Carabietta una domanda di costruzione in sanatoria per la sistemazione e il rifacimento di un muro in pietrame costruito ad angolo con un lato di 6 m e l'altro di 3 m, alto 2,20 m, realizzato alla distanza di circa 5 m dall'abitazione. Il manufatto dovrebbe sostituire un precedente muro di sostegno che era situato a una distanza di circa 2 m dalla casa e che è stato demolito in occasione di lavori di trasformazione eseguiti all'interno dell'abitazione. B. Preso atto dell'opposizione del Dipartimento del territorio del Cantone Ticino, il Municipio ha negato la licenza edilizia con decisione del 20 luglio 2005. Un ricorso presentato dall'istante contro la risoluzione municipale è stato respinto il 13 dicembre 2005 dal Consiglio di Stato. C. Adito dall'istante, il Tribunale cantonale amministrativo ne ha respinto con sentenza del 20 febbraio 2006 il gravame, ritenendo che il manufatto non era conforme alla zona agricola e non poteva beneficiare di un'autorizzazione eccezionale, poiché non era realizzato il requisito dell'ubicazione vincolata né era data l'identità con il manufatto preesistente. D. A.A._ impugna, con un ricorso di diritto amministrativo del 22 marzo 2006 al Tribunale federale, il giudizio della Corte cantonale, chiedendo di annullarlo e di rilasciargli la licenza edilizia richiesta. Dei motivi si dirà, per quanto necessario, nei considerandi. E. La Corte cantonale si riconferma nella sua sentenza. Il Consiglio di Stato si rimette al giudizio del Tribunale federale, mentre il Municipio di Carabietta chiede di respingere il ricorso. F. F. G.