Fatti: A. Nella seduta del 15 febbraio 2000 il Consiglio comunale del Comune di B._, al quale è ora subentrato per aggregazione il Comune di A._, ha adottato la revisione generale del piano regolatore. In quell'ambito, il Comune ha inserito una porzione di circa 6'000 m2 del fondo part. xxx nella zona speciale Zs, mentre per la parte rimanente, nella misura in cui non era boschiva, è stata confermata la destinazione agricola. L'autorità comunale ha inoltre assegnato la particella confinante yyy, di circa 1'000 m2, alla zona insediamenti tradizionali sparsi Ns. Il Consiglio comunale ha contestualmente approvato un credito di fr. 200'000.--, destinato al pagamento del contributo pecuniario sostitutivo per la diminuzione dell'area agricola che non poteva essere compensata con altre aree agricole. B. Con risoluzione del 9 luglio 2002 il Consiglio di Stato ha approvato il piano regolatore, in particolare per quanto riguarda i suddetti azzonamenti, che hanno comportato una diminuzione del territorio agricolo. Con risoluzione dell'8 giugno 2010 il Governo ha imposto al Comune un contributo pecuniario sostitutivo di fr. 132'970.--. C. Contro la risoluzione governativa dell'8 giugno 2010, il Comune ha adito il Tribunale cantonale amministrativo che, con sentenza del 7 marzo 2012, ha respinto il ricorso. La Corte cantonale ha in sostanza confermato l'obbligo contributivo a carico del Comune. D. Il Comune di A._ impugna questa sentenza con un ricorso in materia di diritto pubblico e un ricorso sussidiario in materia costituzionale al Tribunale federale, chiedendo in via principale di annullarla, di annullare pure la risoluzione governativa e di negare un obbligo di compensazione. In via subordinata, postula di rinviare gli atti alla Corte cantonale per una nuova decisione. Il ricorrente fa valere l'accertamento inesatto dei fatti, la violazione del diritto federale e segnatamente degli art. 9 e 29 cpv. 2 Cost. E. La Corte cantonale si riconferma nella sua sentenza. Il Consiglio di Stato chiede di respingere il gravame. Invitato ad esprimersi, l'Ufficio federale dello sviluppo territoriale comunica di non avere osservazioni da formulare. Con decreto presidenziale del 30 maggio 2012 è stato conferito effetto sospensivo al gravame.