Fatti:
A. Con risoluzione del 12 novembre 2007, il Municipio di X._ ha rilasciato la licenza edilizia per edificare due case bifamigliari sui fondi part. yyy e zzz, di proprietà di B._, situati nella zona residenziale estensiva (R2). Sulla particella zzz era in particolare prevista, sotto il terrapieno contiguo all'abitazione, la realizzazione di una scarpata consolidata con vasche prefabbricate, sovrapposte ad incastro su una lunghezza di circa 19 m e con un'inclinazione superiore a 45°. Esse avrebbero seguito l'andamento del terreno fino al confine con il sottostante fondo part. www, di cui era allora proprietario A._.
B. Senza chiedere l'autorizzazione, invece della scarpata e degli elementi prefabbricati, l'istante in licenza ha realizzato a confine con la particella www un muro in calcestruzzo lungo circa 50 m con un'altezza variante da 1,50 m a 2,30 m su almeno la metà della sua lunghezza. Sulla sommità del muro è inoltre stata posata una rete metallica plastificata alta 1 m. Il manufatto così eseguito ha permesso di formare un secondo terrazzamento a valle del suddetto terrapieno.
C. Così richiesta, il 27 luglio 2010 B._ ha presentato al Municipio una domanda di costruzione in sanatoria per la sostituzione degli elementi prefabbricati con un muro di cinta e di sostegno in cemento armato. Con risoluzione del 4 ottobre 2010, l'Esecutivo comunale ha rilasciato la licenza edilizia a posteriori, respingendo nel contempo un'opposizione presentata dal vicino A._. Con decisione del 21 dicembre 2010, il Consiglio di Stato ha accolto un ricorso della Comunione ereditaria fu A._ ed ha annullato la risoluzione municipale.
D. Sia il Comune di X._ sia B._ hanno impugnato la decisione governativa dinanzi al Tribunale cantonale amministrativo, che ha respinto i gravami con sentenza del 19 settembre 2011. La Corte cantonale ha ritenuto che l'altezza del muro, nella quale andava computata anche l'altezza della rete metallica, superava il limite massimo consentito.
E. Il Comune di X._ impugna questa sentenza con un ricorso in materia di diritto pubblico al Tribunale federale. Sostiene che il manufatto litigioso dovrebbe essere qualificato quale muro di sostegno, la cui altezza massima, in mancanza di una regolamentazione comunale, sarebbe disciplinata dall'art. 134 della legge di applicazione e complemento del Codice civile svizzero, del 18 aprile 1911 (LAC).
Non sono state chieste osservazioni sul gravame.
Diritto:
1. Il Tribunale federale esamina d'ufficio e con piena cognizione la sua competenza (cfr. art. 29 cpv. 1 LTF) e l'ammissibilità dei gravami che gli vengono sottoposti (DTF 137 III 417 consid. 1; 136 I 42 consid. 1).
2. Il ricorso è presentato tempestivamente contro una decisione finale dell'ultima istanza cantonale, che ha negato definitivamente il rilascio della licenza edilizia richiesta in sanatoria. Esso adempie quindi i requisiti degli art. 86 cpv. 1 lett. d, 90 e 100 cpv. 1 LTF.
3. 3.1 Il ricorrente sostiene di agire "a tutela del proprio operato in ambito di edilizia pubblica, nonché quale destinatario della decisione impugnata".
3.2 La legittimazione a presentare un ricorso in materia di diritto pubblico è retta dall'art. 89 LTF. Giusta il primo capoverso della disposizione, ha diritto di ricorrere chi ha partecipato al procedimento dinanzi all'autorità inferiore o è stato privato della possibilità di farlo (lett. a), è particolarmente toccato dalla decisione impugnata (lett. b) e ha un'interesse degno di protezione all'annullamento o alla modifica della stessa (lett. c). Conformemente all'art. 89 cpv. 2 lett. c LTF, hanno inoltre diritto di ricorrere i Comuni e gli altri enti di diritto pubblico, se fanno valere la violazione di garanzie loro conferite dalla costituzione cantonale o dalla Costituzione federale. Secondo l'art. 89 cpv. 2 lett. d LTF, sono inoltre abilitate a ricorrere le persone, le organizzazioni e le autorità legittimate al ricorso in virtù di un'altra legge federale.
3.3 L'art. 89 cpv. 1 LTF si indirizza in primo luogo ai privati e il Comune può fondarvisi solo quando la sentenza impugnata lo colpisce analogamente a un privato oppure quando è toccato nei suoi interessi di pubblico imperio degni di protezione (DTF 136 I 265 consid. 1.4; 136 II 383 consid. 2.3 e 2.4 e rinvii). In materia edilizia si può ammettere che il Comune dispone di un interesse pubblico proprio se si oppone a un progetto suscettibile di ingenerare ripercussioni immediate sull'insieme o su una gran parte dei suoi abitanti, segnatamente se comporta immissioni foniche ed inquinanti eccessive sul territorio comunale (cfr. DTF 133 II 400 consid. 2.4.2; 131 II 753 consid. 4.3.3).
Nessuna di queste condizioni è realizzata nella fattispecie. Il Comune ricorrente non è infatti toccato analogamente a un privato, bensì nella sua veste di detentore del pubblico potere, quale autorità competente per il rilascio della licenza edilizia. D'altra parte, esso non agisce a tutela dei propri abitanti da immissioni eccessive sul suo territorio.
3.4 Il ricorrente non è nemmeno legittimato a ricorrere in virtù di un'altra legge federale giusta l'art. 89 cpv. 2 lett. d LTF in relazione con l'art. 34 cpv. 2 LPT. In materia di pianificazione del territorio, quest'ultima disposizione prevede infatti la facoltà di ricorso dei Comuni unicamente contro le decisioni di ultima istanza che vertono sulle indennità per restrizioni della proprietà, sulla conformità alla destinazione della zona di edifici e impianti fuori della zona edificabile o sulle autorizzazioni ai sensi degli art. 24-24d LPT e 37a LPT. Il presente litigio, concernente il rilascio di una licenza edilizia all'interno della zona edificabile, non rientra in nessuno dei casi dell'art. 34 cpv. 2 LPT (cfr. sentenza 1C_523/2009 del 12 marzo 2010 consid. 2.2, in: SJ 2010 I pag. 474 segg.).
3.5 Il ricorrente potrebbe quindi fondare la sua legittimazione a ricorrere sulla base dell'art. 89 cpv. 2 lett. c LTF, se fa valere la violazione di garanzie conferitegli dalla costituzione cantonale o da quella federale. Ciò in particolare è il caso quando il Comune invoca la garanzia della sua autonomia, sancita a livello federale dall'art. 50 cpv. 1 Cost. e a livello cantonale dall'art. 16 cpv. 2 Cost./TI. Certo, la decisione impugnata tocca il ricorrente quale detentore del pubblico potere, siccome conferma l'annullamento della licenza edilizia che aveva rilasciato in sanatoria. Esso non fa però valere una violazione della sua autonomia, questione che, in mancanza di una censura esplicita, non può essere esaminata liberamente dal Tribunale federale.
Sapere se il Comune disponga effettivamente di autonomia nel campo litigioso e se questa sia stata disattesa è infatti questione di merito (DTF 135 I 43 consid. 1.2 e rinvii). Secondo l'art. 42 cpv. 2 LTF, nel ricorso occorre spiegare per quali ragioni l'atto impugnato viola il diritto. Il ricorrente deve quindi confrontarsi con le considerazioni esposte nella decisione impugnata e dimostrare puntualmente dove e per quali ragioni l'autorità cantonale avrebbe violato la sua autonomia tutelabile (DTF 134 II 244 consid. 2.1). Argomentazioni vaghe o meramente appellatorie e semplici rinvii agli atti cantonali sono inammissibili. Il gravame disattende le citate esigenze di motivazione, siccome il ricorrente non censura né tantomeno sostanzia una violazione della sua autonomia.
In particolare, nel giudizio impugnato i giudici cantonali hanno esposto le ragioni per cui nell'altezza complessiva del muro occorreva computare anche la rete metallica plastificata, di modo che il limite massimo risultava superato anche volendo applicare l'art. 134 cpv. 2 LAC invocato dal ricorrente. Con tali ragioni, il ricorrente non si confronta conformemente all'art. 42 cpv. 2 LTF, spiegando per quali motivi la Corte cantonale sarebbe incorsa in un abuso del proprio potere di cognizione.
4. Il ricorrente accenna a un possibile motivo di ricusa, rilevando che nella composizione del Tribunale cantonale amministrativo figurava in concreto anche il giudice supplente C._, che patrocina quale avvocato alcuni cittadini del Comune in altre controversie di natura edilizia contro il ricorrente stesso. Il ricorrente non chiede tuttavia esplicitamente la ricusa del giudice supplente interessato, ma si limita a sollevare dubbi riguardo alla sua partecipazione al giudizio, richiamando genericamente l'art. 47 CPC. Né invoca e sostanzia specifici motivi di ricusa previsti da questa disposizione e nemmeno fa valere circostanze idonee a giustificare oggettivamente un sospetto di prevenzione (cfr. DTF 124 I 121 consid. 3). Insufficientemente motivata, la critica non deve pertanto essere vagliata oltre.
5. Ne segue che il ricorso deve essere dichiarato inammissibile. Il ricorrente, che si è rivolto al Tribunale federale nell'ambito delle sue attribuzioni ufficiali, può essere dispensato dal pagamento di spese giudiziarie (art. 66 cpv. 4 LTF).
Per questi motivi, il Tribunale federale pronuncia:
1. Il ricorso è inammissibile.
2. Non si prelevano spese giudiziarie.
3. Comunicazione alle parti, rispettivamente ai loro patrocinatori, al Consiglio di Stato e al Tribunale amministrativo del Cantone Ticino.