Fatti: A. A._ è proprietario nel Comune di X._ dei fondi part. xxx, yyy e zzz, situati nella zona del nucleo storico. Il 27 settembre 2002 ha presentato una domanda di costruzione per ristrutturare ed ampliare gli edifici esistenti sui fondi. Dopo una serie di atti che non occorre qui evocare, con decisione del 2 dicembre 2003 l'Autorità edilizia comunale gli ha rilasciato la licenza edilizia richiesta. Gli ha contestualmente imposto che il muro di recinzione previsto a sud-ovest e a nord ovest non oltrepassasse l'altezza di 1.50 m e rientrasse di 0.50 m dal confine con l'area pubblica (strada comunale). B. Constatato che alcuni interventi edilizi si scostavano dai piani approvati, l'Autorità edilizia comunale ha invitato il proprietario a presentare dei piani aggiornati riguardo alle modifiche apportate al progetto. Dopo avere eseguito dei sopralluoghi, con decisione del 9 luglio 2013 la stessa Autorità ha segnatamente stabilito che il muro di cinta verso Carà Y._ era materialmente illegale, non rispettando la distanza dalla strada comunale e l'altezza massima consentita: non poteva pertanto essere autorizzato mediante il rilascio di una licenza edilizia in sanatoria. L'Autorità ha inoltre inflitto a A._ una multa di fr. 3'000.--. C. Il proprietario ha impugnato la decisione comunale dinanzi al Tribunale amministrativo del Cantone dei Grigioni che, dopo avere eseguito un sopralluogo, con sentenza del 25 agosto 2014 ha parzialmente accolto il ricorso nel senso dei considerandi e rinviato gli atti al Comune per una nuova decisione. Per il resto, la Corte cantonale ha respinto il gravame, in particolare ha confermato l'accertamento dell'illegalità del muro di cinta verso Carà Y._, rinviando gli atti al Comune affinché aggiungesse alla sua decisione di rifiuto dell'autorizzazione in sanatoria l'obbligo di demolizione del manufatto. D. Con decisione del 23 maggio 2016, l'Autorità edilizia comunale ha ordinato a A._ di ripristinare lo stato di legalità sui fondi part. xxx e zzz di X._ e precisamente di allontanare completamente il muro di cinta fino ad una distanza di 0.50 m dal confine con la strada comunale, rilevato altresì che la sua altezza non poteva eccedere 1.50 m. Essa lo ha altresì condannato al pagamento di una multa di fr. 4'000.--. E. Adito dal proprietario, il Tribunale amministrativo del Cantone dei Grigioni ne ha respinto il ricorso con sentenza del 15 dicembre 2016. Ha sostanzialmente confermato la decisione comunale di ripristino, siccome era fondata sulla sua precedente sentenza, vincolante, del 25 agosto 2014. F. A._ impugna la sentenza del 15 dicembre 2016 della Corte cantonale con un ricorso in materia di diritto pubblico al Tribunale federale, chiedendo di annullarla e di rinviarle gli atti per una nuova decisione. Il ricorrente chiede inoltre di conferire l'effetto sospensivo al gravame. Non sono state chieste osservazioni sul ricorso, ma è stato richiamato l'incarto cantonale.