Fatti: A. La B._Sagl è una società a garanzia limitata che persegue essenzialmente lo scopo di produrre, lavorare e vendere erbe e prodotti biologici. Suo socio e gerente è A._. La società è proprietaria del fondo part. yyy di X._, nella frazione di W._, situato nella zona villaggio per 1'910 m2, in quella per costruzioni accessorie per 443 m2e nell'altro territorio comunale, al di fuori della zona edificabile, per 1'429 m2. La particella è inoltre parzialmente gravata dalla zona di pericolo 2. Il 10 ottobre 2012 l'Autorità edilizia del Comune di X._ ha rilasciato alla proprietaria la licenza edilizia per la costruzione di un nuovo impianto di produzione. Il progetto prevedeva pure la costruzione di un muro di protezione dalle inondazioni situato in gran parte nel settore inedificabile della particella. B. Dopo una serie di atti che non occorre qui evocare, in particolare dopo che l'Autorità edilizia nel settembre del 2013 ha decretato l'immediata sospensione dei lavori di costruzione, siccome aveva tra l'altro constatato che sulla parte del fondo situata nel comparto dell'altro territorio comunale si stava edificando un muro di cinta mai approvato, la proprietaria ha presentato il 10 ottobre 2013 una domanda di costruzione retroattiva per la realizzazione di muri di cinta e la formazione di un nuovo terrapieno sul confine tra i fondi part. zzz e yyy. La domanda faceva seguito a una precedente del 19 settembre 2013, che chiedeva di potere modificare, rispetto al progetto approvato il 10 ottobre 2012, il posizionamento del muro di protezione dalle inondazioni. C. Con decisione del 26 maggio 2015, comunicata il 29 luglio 2015, il Consiglio comunale di X._, quale Autorità edilizia, ha respinto la domanda di costruzione a posteriori. Ha nondimeno deciso di tollerare le opere realizzate ed ha contestualmente inflitto a A._, quale committente responsabile, una multa di fr. 10'000.-- per gli abusi perpetrati e l'inosservanza dei piani di costruzione approvati il 10 ottobre 2012. D. Con sentenza dell'8 giugno 2016 il Tribunale amministrativo del Cantone dei Grigioni ha respinto un ricorso di A._ contro la decisione comunale. La Corte cantonale ha confermato sia il diniego di un'autorizzazione eccezionale giusta l'art. 24 LPT, negando in particolare il presupposto dell'ubicazione vincolata, sia l'ammontare della multa. E. A._ impugna questa sentenza con un ricorso in materia di diritto pubblico al Tribunale federale, chiedendo in via principale di riformarla nel senso di fissare l'importo della multa tra fr. 200.-- e fr. 800.--. In via subordinata, chiede che il giudizio impugnato sia annullato e la causa rinviata alla Corte cantonale per una nuova decisione. Il ricorrente fa valere l'applicazione arbitraria del diritto cantonale e di quello federale. F. La Corte cantonale e il Comune di X._ chiedono la reiezione del gravame nella misura della sua ammissibilità. Con decreto presidenziale del 25 agosto 2016 è stato conferito effetto sospensivo al ricorso.