Fatti:
A. Il 29 novembre 2004 il Consiglio comunale di Monteggio ha adottato una variante del piano regolatore che prevede un ampio comparto destinato alla realizzazione di un campo da golf d'interesse cantonale in località "La Pampa", su una superficie estesa e pianeggiante finora di carattere agricolo. La variante è in particolare costituita da una zona denominata "zona agricola SAC (golf)" di circa 315'000 m2, destinata ad ospitare il terreno da gioco di 9 buche, e da una zona denominata "zona privata d'interesse pubblico (golf)" di circa 11'000 m2, suddivisa in due settori: uno destinato alla realizzazione di clubhouse, magazzini e infrastrutture legate alla pratica del golf e l'altro riservato alla formazione di posteggi. Il comparto oggetto della variante figura nel piano direttore cantonale quale superficie idonea all'avvicendamento delle colture (SAC) e quale ubicazione prevista per un campo da golf di interesse cantonale.
B. Con risoluzione del 4 aprile 2006 il Consiglio di Stato del Cantone Ticino ha sostanzialmente approvato la variante del piano regolatore, respingendo nel contempo il ricorso presentato, tra gli altri, da B._, agricoltore e proprietario di fondi vicini o interessati dalla variante pianificatoria gestiti dalla sua azienda agricola. Il Governo ha nondimeno parzialmente modificato d'ufficio la norma di attuazione del piano regolatore che disciplina il comparto, stabilendo di vincolare il rilascio della licenza edilizia per la costruzione dell'impianto da golf al deposito di una fideiussione a favore dello Stato a garanzia del finanziamento della opere volte a ripristinare la superficie agricola entro due anni dall'eventuale cessazione dell'attività golfistica. Il Governo ha inoltre stabilito a carico del Comune di Monteggio il pagamento di fr. 103'084.-- a titolo di contributo pecuniario sostitutivo per la diminuzione dell'area agricola, corrispondente alla superficie che verrebbe occupata dai posteggi.
C. Adito da B._, con sentenza dell'11 giugno 2007 il Tribunale cantonale amministrativo ne ha accolto il ricorso e ha annullato la risoluzione governativa di approvazione della variante pianificatoria. La Corte cantonale ha ritenuto la zona riservata alla pratica del golf di per sé ancora compatibile con l'area SAC, in considerazione segnatamente dell'obbligo di ripristinare entro due anni l'utilizzazione agricola in caso di abbandono dell'attività golfistica. Ha tuttavia ravvisato una mancata preliminare ponderazione degli interessi toccati, segnatamente per quanto concerne gli effetti sull'agricoltura, rilevando che pure la zona adibita alla pratica del golf avrebbe comportato una diminuzione dell'area agricola e pertanto un obbligo di compensazione.
D. A._AG, proprietaria della maggior parte dei fondi inclusi nel comparto interessato dalla variante e promotrice del progetto di campo da golf, impugna questa sentenza con un ricorso in materia di diritto pubblico e un ricorso sussidiario in materia costituzionale al Tribunale federale. Chiede, in via principale, l'annullamento del giudizio impugnato e, in via subordinata, il rinvio degli atti al Consiglio di Stato per l'esecuzione degli eventuali accertamenti mancanti, segnatamente sotto il profilo delle conseguenze sull'agricoltura, e la ponderazione degli interessi coinvolti. La ricorrente fa valere la violazione della garanzia della proprietà, della libertà economica, del principio della parità di trattamento, del divieto dell'arbitrio e dell'autonomia comunale.
E. La Corte cantonale si conferma nella sua sentenza. La Divisione dello sviluppo territoriale e della mobilità si rimette al giudizio del Tribunale federale. B._ chiede di respingere il gravame nella misura della sua ammissibilità, mentre il Comune di Monteggio ne postula l'accoglimento. Invitato a presentare una risposta al ricorso, l'Ufficio federale dello sviluppo territoriale (USTE) ha in particolare comunicato che, secondo la concezione attuale, nelle SAC possono essere computate solo le parti dei campi da golf per le quali può essere dimostrato il rispetto permanente dei criteri qualitativi, circostanza che non sarebbe sufficientemente provata nella fattispecie.

Diritto:
1. 1.1 Il Tribunale federale esamina d'ufficio e con piena cognizione l'ammissibilità dei gravami che gli vengono sottoposti (<ref-ruling> consid. 2, 489 consid. 3).
1.2 Con il giudizio impugnato, il Tribunale cantonale amministrativo ha in sostanza negato l'approvazione a una variante di un piano di utilizzazione secondo l'art. 14 segg. LPT. Giusta l'<ref-law> il Tribunale federale giudica i ricorsi contro le decisioni pronunciate in cause di diritto pubblico. Questo rimedio è dato anche nel campo del diritto edilizio e della pianificazione del territorio, come è qui il caso. La LTF non prevede infatti un'eccezione al riguardo e l'art. 34 cpv. 1 LPT, nella versione in vigore dal 1° gennaio 2007, stabilisce che i rimedi giuridici proponibili dinanzi alle autorità federali sono retti dalle disposizioni generali sull'amministrazione della giustizia federale (cfr. <ref-ruling> consid. 2 e 3.3, 409 consid. 1.1; sentenza 1C_153/2007 del 6 dicembre 2007, consid. 1.1 e 1.2).
1.3 La ricorrente ha partecipato al procedimento dinanzi all'autorità inferiore (<ref-law>) e, quale proprietaria della maggior parte dei fondi inclusi nel comparto oggetto della variante e sui quali intende realizzare un campo da golf, è direttamente toccata dalla decisione e ha un interesse degno di protezione al suo annullamento o alla sua modifica (art. 89 cpv. 1 lett. b e c LTF). Il ricorso in materia di diritto pubblico (<ref-law>), tempestivo (art. 100 cpv. 1 in relazione con l'<ref-law>) e diretto contro una decisione finale (<ref-law>) resa da un'autorità cantonale di ultima istanza (art. 86 cpv. 1 lett. d LTF), è quindi di massima ammissibile. Il ricorso sussidiario in materia costituzionale (art. 113 segg. LTF) è di conseguenza inammissibile.
1.4 Il ricorso in materia di diritto pubblico (<ref-law>) può essere presentato per violazione del diritto, conformemente a quanto stabilito dagli art. 95 e 96 LTF. Il Tribunale federale applica di principio d'ufficio il diritto (<ref-law>) e può quindi accogliere un ricorso sulla base di un motivo non invocato, rispettivamente respingerlo con una motivazione diversa da quella addotta dalla precedente istanza (cfr. <ref-ruling> consid. 2.5). Secondo l'art. 42 cpv. 1 e 2 LTF, il ricorso deve comunque essere motivato in modo sufficiente. Il Tribunale federale esamina in linea di principio solo le censure sollevate; esso non è tenuto a vagliare, come lo farebbe un'autorità di prima istanza, tutte le questioni giuridiche che si pongono, se quest'ultime non sono presentate nella sede federale (<ref-ruling> consid. 1.4.1). Inoltre, quando è invocata la violazione di diritti fondamentali e di disposizioni di diritto cantonale, le esigenze di motivazione sono accresciute. A norma dell'<ref-law> il Tribunale federale esamina infatti queste censure soltanto se siano motivate in modo chiaro e preciso, conformemente alla prassi precedentemente in vigore in materia di ricorso di diritto pubblico (cfr. <ref-ruling> consid. 1.4.2, 133 III 393 consid. 6, 638 consid. 2). È questo in particolare il caso laddove la ricorrente lamenta la violazione della legge cantonale sulla conservazione del territorio agricolo, del 19 dicembre 1989 (LTAgr). Trattandosi dell'applicazione di una normativa cantonale, la sua eventuale lesione è esaminata dal Tribunale federale sotto il profilo ristretto dell'arbitrio (<ref-ruling> consid. 1.2.1, 133 I 201 consid. 1), sicché spettava alla ricorrente dimostrare per quali ragioni la censurata applicazione della LTAgr sarebbe in concreto manifestamente insostenibile, in contraddizione manifesta con una norma o con un principio giuridico indiscusso o chiaramente lesiva del sentimento di giustizia e dell'equità (<ref-ruling> consid. 2.1, 129 I 8 consid. 2.1, 128 I 273 consid. 2.1 e rinvii). Nella misura in cui si limita ad addurre un'altra possibile interpretazione, diversa da quella ritenuta dalla Corte cantonale, il gravame non adempie le citate esigenze di motivazione e non può quindi essere esaminato nel merito.
2. 2.1 La ricorrente sostiene che la Corte cantonale avrebbe ravvisato a torto un'insufficiente valutazione delle implicazioni che il progettato campo da golf comporterebbe per l'agricoltura a livello locale e regionale.
2.2 La precedente istanza ha ritenuto l'intera superficie riservata al terreno da gioco, denominata nella variante di piano regolatore "zona agricola SAC (golf)", come compatibile con l'area SAC sulla quale è prevista: sarebbe quindi assicurata l'estensione totale minima della SAC stabilita nel piano direttore. I giudici cantonali hanno inoltre ammesso l'interesse pubblico della variante pianificatoria, legato soprattutto alla promozione del turismo nella valle della Tresa, rilevando però che non era dimostrata la prevalenza rispetto agli interessi dell'agricoltura.
2.3 Nella risposta al gravame, l'USTE rileva che di regola le superfici utilizzate per i campi da golf non possono essere conteggiate nelle SAC, poiché la loro costruzione e utilizzazione compromette irreversibilmente la fertilità del suolo su ampie parti del terreno. Le superfici fortemente alterate dalla realizzazione dell'impianto dovrebbero essere trattate quali superfici di ricoltivazione, peraltro non facilmente attuabile ove solo si consideri la difficoltà di reperire per una superficie di tale ampiezza sufficiente humus per ripristinarne la fertilità. Secondo l'autorità federale, possono quindi essere computate nelle SAC soltanto le parti dei campi da golf per le quali è provato il rispetto permanente dei relativi criteri qualitativi, ciò che non risulta però dimostrato nella fattispecie.
3. 3.1 Confederazione, Cantoni e Comuni provvedono affinché il suolo sia utilizzato con misura (art. 1 cpv. 1 LPT). Essi sostengono con misure pianificatorie in particolare gli sforzi intesi a proteggere le basi naturali della vita, come il suolo, l'aria, l'acqua, il bosco e il paesaggio (art. 1 cpv. 2 lett. a LPT) ed a garantire una sufficiente base di approvvigionamento del Paese (art. 1 cpv. 2 lett. d LPT). Le autorità incaricate di compiti pianificatori sono tenute a rispettare il paesaggio ed in particolare a mantenere per l'agricoltura sufficienti superfici coltive idonee (art. 3 cpv. 2 lett. a LPT).
Le superfici per l'avvicendamento delle colture (SAC) sono parte dei territori idonei all'agricoltura (art. 6 cpv. 2 lett. a LPT); esse sono costituite dalle superfici coltive idonee, comprendenti soprattutto i campi, i prati artificiali in rotazione, come pure i prati naturali confacenti alla campicoltura, e sono assicurate con provvedimenti della pianificazione del territorio (<ref-law>). Un'estensione totale minima delle SAC è necessaria onde assicurare, in periodi perturbati, una base sufficiente per l'approvvigionamento del Paese ai sensi del piano di alimentazione (<ref-law>). Sulla base dell'<ref-law>, la Confederazione ha fissato nel piano settoriale per l'avvicendamento delle colture, dell'8 aprile 1992, l'estensione totale minima delle SAC e la relativa ripartizione tra i Cantoni, stabilendo per il Cantone Ticino una quota minima di 3'500 ettari (FF 1992 II 1396). L'<ref-law> impone ai Cantoni di provvedere affinché le SAC siano attribuite alle zone agricole (cpv. 1) e di garantire che la loro quota di estensione minima sia assicurata costantemente (cpv. 2).
3.2 Secondo la scheda di coordinamento 3.1 del piano direttore cantonale, l'area SAC reperita dal Cantone Ticino ammonta a 4'331 ettari. Questa superficie è stata tuttavia determinata prima del decreto del Consiglio federale dell'8 aprile 1992 e comprende anche 835 ettari all'interno del catasto viticolo, non computate dal piano settoriale della Confederazione (cfr. sentenza del Tribunale cantonale amministrativo del 28 settembre 2006, consid. 4.2.1, apparsa in: RtiD I-2007, n. 30, pag. 133 segg.). Secondo il rapporto USTE del 2003 "Dix ans de plan sectoriel d'assolement" (pag. 39 seg. e 42), il Cantone Ticino figura tra i Cantoni che non possono più garantire la propria quota SAC, la quale è oltretutto anche interessata dalla realizzazione di infrastrutture viarie importanti, quali la nuova trasversale ferroviaria alpina (cfr. sentenze 1E.22/2005 del 21 aprile 2006 e 1E.18/2005 del 26 giugno 2006, apparse in: RtiD II-2006, n. 34 e 35). La limitata disponibilità di riserve di area SAC riduce la possibilità di eventuali compensazioni e deve quindi essere considerata nella pianificazione di nuove zone in tali comparti.
3.3 Secondo la giurisprudenza del Tribunale federale, deve essere attribuita un'importanza rilevante alla tutela dei terreni coltivi e alla garanzia delle superfici per l'avvicendamento delle colture (<ref-ruling> consid. 3f/bb, 114 Ia 371 consid. 5d). Tuttavia, non è di principio escluso che le superfici per l'avvicendamento delle colture possano anche essere prese in considerazione per un'utilizzazione diversa da quella agricola, se risulti giustificata da interessi preponderanti (cfr. <ref-ruling> consid. 10b inedito; sentenza 1A.45/2001 del 20 settembre 2001, consid. 7a, apparsa in: RDAT I-2002, n. 56, pag. 362 segg.). Occorre al riguardo una ponderazione completa di tutti gli interessi privati e pubblici in causa (<ref-law>), tenendo altresì conto che deve essere costantemente assicurata la quota minima di SAC attribuita al Cantone (<ref-law>). Deve quindi essere delucidato quale sia l'incidenza del nuovo azzonamento sulla superficie per l'avvicendamento colturale e in quale misura l'area interessata può essere ricoltivata in caso di necessità di approvvigionamento (cfr. sentenza 1P.563/1991 del 27 maggio 1992, consid. 4a). È pure d'uopo esaminare la possibilità di una compensazione della SAC persa a causa di un'utilizzazione estranea all'agricoltura, in particolare quando la quota di superficie minima prevista dal diritto federale è garantita soltanto di misura o addirittura non è nemmeno raggiunta (<ref-ruling> consid. 5d pag. 376; sentenza 1A.19/2007 del 2 aprile 2008, consid. 5.2).
4. 4.1 In concreto, la variante di piano regolatore prevede l'esclusione dalla zona agricola di una superficie di oltre 31 ettari per destinarla a un campo da golf di 9 buche e relativi impianti accessori. Si tratta di un comprensorio ampio e pianeggiante, molto idoneo alla campicoltura secondo il catasto delle idoneità agricole. La sottrazione dal comparto agricolo di un settore così vasto e pregiato, che si presta particolarmente bene allo sfruttamento agricolo, deve essere giustificata da motivi preponderanti. La modifica pianificatoria litigiosa presuppone quindi una ponderazione accurata e globale degli interessi toccati, in cui rientra pure l'accertamento della portata dell'incidenza sull'area SAC e le conseguenze sotto il profilo dell'estensione minima attribuita al Cantone (cfr. sentenza 1P.563/1991, citata, consid. 4a e b).
4.2 Al riguardo, la Corte cantonale ha ritenuto indistintamente l'intera superficie riservata al terreno da gioco compatibile con l'area SAC, essendo assicurata, in caso di cessazione dell'attività golfistica, la possibilità di una riconversione agricola in tempi brevi. Tuttavia, la costruzione e l'esercizio di un campo da golf comportano interventi incisivi su talune parti del suolo, che possono impedire o rendere difficoltosa una ricoltivazione delle superfici colpite (cfr. <ref-ruling> consid. 3c/cc pag. 123; sentenza 1P.563/1991, citata, consid. 4a; Sergio Bianchi, Campi da golf e loro realizzazione nel territorio ticinese, in: Giurisdizione costituzionale e giurisdizione amministrativa, Zurigo 1992, pag. 135 seg.; Thomas Widmer Dreifuss, Planung und Realisierung von Sportanlagen, tesi, Zurigo 2002, pag. 30).
Secondo la "Guida 2006 piano settoriale superfici per l'avvicendamento delle colture" dell'USTE (pag. 10), di regola le superfici utilizzate per i campi da golf non possono essere conteggiate nelle SAC. Nella quota di superficie cantonale possono essere computate soltanto le parti dei campi da golf in cui può essere comprovato il rispetto permanente dei criteri qualitativi. Le superfici fortemente alterate o danneggiate dalla costruzione del campo da golf o quelle create ex novo vanno trattate come superfici di ricoltivazione. Quest'ultime possono essere computate nelle SAC solamente dopo la conclusione dei provvedimenti di ricoltivazione, di regola non prima di quattro anni, a condizione che siano conformi ai criteri qualitativi. L'USTE rileva nondimeno che il reperimento di un quantitativo di humus sufficiente per ripristinare la fertilità del suolo di una superficie così estesa appare molto difficile e non sarebbe finora mai avvenuto (cfr. sentenza 1A.19/2007, citata, consid. 6.4).
4.3 Nella fattispecie, la parte di superficie per l'avvicendamento delle colture che verrebbe persa a seguito degli interventi e delle trasformazioni del terreno nel comparto destinato al campo da gioco non è stata accertata. Né è stato delucidato e considerato nelle decisioni delle autorità preposte alla pianificazione in quale misura le superfici alterate possono essere ricoltivate. Come esposto, in seguito alla costruzione dell'impianto da golf, una parte non trascurabile del terreno non adempirebbe infatti più le esigenze dell'area SAC, sia per l'alterazione della struttura del suolo sia per le eventuali dimensioni ridotte e le forme inadeguate delle superfici rimanenti (cfr. Guida 2006, pag. 15). Affinché la ponderazione degli interessi possa essere eseguita in modo completo e con cognizione di causa, occorre infatti chiarire e considerare già in sede pianificatoria questi aspetti, valutandoli nel contesto della quota di estensione minima attribuita al Cantone. Ciò in particolare, ove si consideri l'esaurimento o quantomeno la scarsa disponibilità di riserve di queste aree, oltre alla generale diminuzione della superficie agricola utile nel Cantone Ticino durante l'ultimo decennio (cfr. rapporto esplicativo 2007 concernente il progetto di revisione del piano direttore cantonale, pag. 42 e 53).
4.4 La ricorrente sostiene che, contrariamente a quanto ravvisato dalla Corte cantonale, gli interessi dell'agricoltura sarebbero stati presi in considerazione sia dal Comune di Monteggio sia dal Consiglio di Stato. Richiama al riguardo un rapporto dell'agosto 1997 e una verifica di fattibilità del luglio 1998 del Gruppo promotore Valle della Tresa, oltre a un rapporto preliminare sull'impatto ambientale fatto allestire nel maggio 2004. La ponderazione degli interessi deve tuttavia essere eseguita dalle autorità incaricate dei compiti pianificatori e deve essere addotta nella motivazione delle loro decisioni (cfr. <ref-law>). In concreto, il Comune si è limitato nel rapporto di pianificazione a ritenere la variante litigiosa come generalmente compatibile con la superficie per l'avvicendamento delle colture e ad accennare a un cambiamento auspicabile nell'orientamento economico della regione. Nella risoluzione di approvazione, il Consiglio di Stato ha parimenti ammesso tale compatibilità, stabilendo l'ammontare del contributo pecuniario sostitutivo per la diminuzione dell'area agricola corrispondente alla superficie di 5'500 m2 destinata ai posteggi. Premesso che, come visto, un computo indifferenziato di tutta la superficie del campo da golf nella SAC non è conforme ai criteri esposti, non risulta in tali circostanze che gli interessi legati al mantenimento di sufficienti superfici coltive idonee per l'agricoltura (cfr. art. 3 cpv. 2 lett. a LPT) siano stati soppesati in modo appropriato dal Governo e dal Comune, che non hanno addotto nelle loro decisioni i motivi per cui dovrebbero essere inferiori rispetto a quelli che giustificherebbero la realizzazione di un campo da golf.
D'altra parte, secondo i documenti del Gruppo promotore Valle della Tresa citati dalla ricorrente, il comparto oggetto della variante è costituito dai migliori terreni agricoli del Malcantone. Essi sono stati ricavati da un intervento di bonifica, presentano una buona fertilità e si prestano molto bene alla campicoltura. Il settore primario impiegherebbe 42 persone domiciliate nella regione, distribuite su una quindicina di aziende agricole, mentre il progettato campo da golf comporterebbe la sottrazione del 18 % delle attuali aree agricole e la soppressione di un'azienda che occupa dalle tre alle quattro persone. Nella misura in cui fossero accertate, queste constatazioni si contrappongono all'interesse a realizzare il campo da golf e dovranno quindi, dandosene il caso, essere valutate nel contesto della ponderazione globale degli interessi. In tale ambito dovrà pure essere chiarita la portata dell'incidenza del progetto sull'estensione dell'area SAC (cfr. consid. 4.1-4.3). A ragione la Corte cantonale ha pertanto annullato la risoluzione governativa di approvazione della variante ravvisando una palese violazione dell'<ref-law>.
5. 5.1 Secondo la ricorrente, il Tribunale cantonale amministrativo avrebbe comunque dovuto, per ragioni di economia procedurale, rinviare gli atti al Consiglio di Stato, perché eseguisse direttamente la ponderazione degli interessi.
5.2 Per il rinvio dell'art. 38 cpv. 6 della legge cantonale di applicazione della LPT, del 23 maggio 1990 (LALPT), la procedura ricorsuale dinanzi alla Corte cantonale in materia pianificatoria è retta dalla legge ticinese di procedura per le cause amministrative, del 19 aprile 1966 (LPamm). La ricorrente non fa valere l'applicazione arbitraria dell'art. 65 cpv. 2 LPamm, secondo cui il Tribunale cantonale amministrativo può annullare la decisione impugnata e rinviare la causa per un nuovo giudizio all'istanza inferiore, segnatamente nei casi in cui quest'ultima non è entrata nel merito, ha accertato la fattispecie in modo incompleto o ha violato norme essenziali di procedura. Nondimeno, l'elaborazione del piano regolatore rientra in linea di principio nelle competenze del Comune, il quale dispone in questo campo di un ampio margine di apprezzamento (cfr. art. 2 cpv. 3 LPT; <ref-ruling> consid. 2; sentenza 1P.675/2004 del 12 luglio 2005, consid. 2.2 e rinvii, apparsa in: RtiD II-2005, n. 16, pag. 100 segg.). La Corte cantonale non ha abusato del proprio potere di apprezzamento risolvendo di non rinviare esplicitamente la causa al Consiglio di Stato perché procedesse alla ponderazione degli interessi. L'autorità comunale dispone infatti ancora di un ampio margine di manovra al riguardo e potrebbe anche rinunciare alla variante, in particolare ove si consideri che i giudici cantonali hanno pure ravvisato una sottrazione di territorio agricolo e quindi una necessità di compensazione maggiore rispetto a quanto avevano ritenuto il Comune e il Consiglio di Stato (cfr. <ref-ruling> consid. 3d; sentenza 1P.135/1995 del 23 giugno 1995, consid. 6b).
6. 6.1 La ricorrente critica la decisione della Corte cantonale di riconoscere per la superficie destinata al terreno da gioco ["zona agricola SAC (golf)"] una diminuzione di territorio agricolo soggetta all'obbligo di compensazione in applicazione della LTAgr. Sostiene che tale diminuzione sarebbe esclusa siccome sarebbe determinante il mantenimento della qualifica di SAC.
6.2 Come esposto, la compatibilità con l'area SAC può essere ammessa solo per quelle parti del campo da gioco per le quali è dimostrato il rispetto permanente dei criteri qualitativi. La censura ricorsuale non tiene conto di questo presupposto e della mancanza di accertamenti al riguardo. Anche la questione dell'eventuale compensazione dovrà quindi, se del caso, essere oggetto di una nuova valutazione sulla base dell'accertata diminuzione della superficie agricola. Nondimeno si può rilevare quanto segue.
L'art. 7 LTAgr prevede che la diminuzione di aree agricole ai sensi dell'art. 68 cpv. 1 LALPT può essere operata solo per importanti esigenze della pianificazione del territorio e previa modifica degli strumenti pianificatori cantonali e comunali secondo la procedura e le competenze fissate nell'apposita legislazione. Giusta l'art. 8 LTAgr, la diminuzione delle aree agricole di cui all'art. 68 cpv. 1 lett. a LALPT deve inoltre essere compensata dall'ente pianificante. L'art. 68 cpv. 1 lett. a LALPT, dal titolo marginale "zone agricole (art. 16 LPT)", riprende sostanzialmente la nozione di zona agricola ai sensi dell'art. 16 LPT.
Secondo la giurisprudenza, un campo da golf non è di principio conforme alla zona agricola e deve quindi essere realizzato in una zona apposita (<ref-ruling> consid. 3b; sentenze 1A.127/1994 del 21 luglio 1994, consid. 3 e 1P.563/1991, citata, consid. 3a). Come rilevato dalla Corte cantonale il comprensorio oggetto della variante litigiosa, costituisce una zona specifica destinata alla pratica del golf. Pertanto, nella misura in cui il comparto è stato escluso dalla zona agricola giusta l'art. 16 LPT, per essere attribuito a una zona specifica prevista per un simile impianto, non è manifestamente insostenibile ritenere che il nuovo azzonamento ha comportato una diminuzione di territorio agricolo a mente degli art. 7 segg. LTAgr, di principio soggetta all'obbligo di compensazione. Neppure il risultato secondo cui questa circostanza comporti conseguentemente una limitazione delle possibilità di insediare futuri campi da golf nel Cantone Ticino è suscettibile di costituire arbitrio.
7. 7.1 La ricorrente fa valere la violazione della garanzia della proprietà e della libertà economica, sostenendo che la decisione impugnata le impedirebbe di promuovere ulteriormente il proprio progetto d'impianto sportivo e turistico. Lamenta essenzialmente l'insufficienza della base legale per quanto concerne la facoltà di regresso nei suoi confronti conferita dall'art. 11 LTAgr al Comune che versa contributi compensativi per la diminuzione dell'area agricola. La ricorrente reputa inoltre l'obbligo di compensazione non sorretto da un interesse pubblico sufficiente e lesivo del principio della proporzionalità.
7.2 La compensazione per la diminuzione delle aree agricole in applicazione della LTAgr incombe innanzitutto all'ente pianificante (art. 8). Deve di principio essere reale e venire quindi effettuata con aree di pari estensione e qualità, subordinatamente con altre aree idonee all'agricoltura (art. 9). Qualora ciò non fosse possibile, è dovuto un contributo pecuniario sostitutivo, oscillante da un minimo di venti a un massimo di cento volte il valore di reddito agricolo determinato secondo la legge federale sul diritto fondiario rurale, del 4 ottobre 1991 (art. 10 e 12). All'ente pianificante che ha versato contributi compensativi è conferito un diritto di regresso sul proprietario della costruzione o dell'impianto, rispettivamente sul proprietario del fondo (art. 11).
7.3 Un eventuale regresso del Comune di Monteggio nei confronti della ricorrente non è in discussione allo stadio attuale della procedura e non è quindi oggetto del giudizio impugnato. Sulla base di quanto suesposto, se del caso, la prospettata modifica pianificatoria deve ancora essere compiutamente vagliata dalle autorità comunali e cantonali, che dovranno quindi nuovamente pronunciarsi anche sugli aspetti legati alla diminuzione della superficie agricola. Sollevate in questa sede, le censure concernenti le modalità della compensazione sono quindi premature.
8. 8.1 La ricorrente lamenta una violazione dell'autonomia comunale. Adduce che l'obbligo di compensazione previsto dalla LTAgr limiterebbe lo spazio di manovra del Comune in ambito pianificatorio, impedendo di fatto l'attribuzione di fondi idonei all'agricoltura, specialmente se molto estesi, ad una zona che non sia quella agricola. Rileva che un Comune dalla capacità finanziaria ridotta, come sarebbe il caso di Monteggio, non sarebbe in grado di far fronte a un contributo oltremodo oneroso come quello per la diminuzione di una superficie agricola corrispondente a un campo da golf.
8.2 Poiché il Comune di Monteggio condivide sostanzialmente il gravame postulandone esplicitamente l'accoglimento, la ricorrente è di principio legittimata ad invocare a titolo ausiliario l'autonomia comunale (cfr. sentenza 1C_247/2007 dell'11 marzo 2008, consid. 3.2 e rinvii). Premesso che la questione della compensazione dovrà eventualmente essere oggetto di nuovo esame in sede cantonale, questo Tribunale ha tuttavia già avuto modo di precisare che il Comune ticinese, pur essendo di principio autonomo in materia di pianificazione del territorio, non dispone di autonomia in materia di compensazione per la diminuzione dell'area agricola. La LTAgr regola infatti nel dettaglio sia i presupposti e le modalità della compensazione sia il calcolo dei contributi pecuniari sostitutivi: essa attribuisce al Consiglio di Stato la competenza di stabilirli e di imporli ai Comuni. Le disposizioni cantonali disciplinano quindi la materia in modo esaustivo e non lasciano ai Comuni nessuno spazio normativo o decisionale. Che l'onere contributivo possa in qualche modo orientare o persino condizionare le scelte delle autorità comunali quanto ai terreni da destinare all'agricoltura, restringe semmai la sfera autonoma del Comune nell'ambito della pianificazione, ma non fonda autonomia laddove il diritto cantonale non ne conferisce (cfr. sentenza 1P.731/2005 del 13 ottobre 2006 nella causa Comune di Gordola, consid. 2.4, apparsa in: RtiD I-2007, n. 31, pag. 137 segg.).
9. 9.1 La ricorrente lamenta infine una violazione del principio della parità di trattamento, siccome per la realizzazione del campo da golf delle "Gerre" di Losone non sarebbe stata imposta alcuna compensazione nonostante sorga anch'esso su un territorio agricolo.
9.2 Il principio della parità di trattamento, disciplinato dall'<ref-law>, impone di trattare in modo identico ciò che è simile e in modo diverso ciò che non lo è (cfr. <ref-ruling> consid. 3.6 e rinvii). Esso è però violato solo quando casi simili siano trattati in modo diverso senza motivi oggettivi da parte della stessa autorità (<ref-ruling> consid. 6d, 115 Ia 81 consid. 3c e rispettivi rinvii; sentenza 1P.451/2003 del 15 marzo 2004, consid. 3.1, apparsa in: RtiD II-2004, n. 41, pag. 148 segg.). Ora, non risulta, né è prospettato dalla ricorrente, che il caso del golf di Losone sia stato oggetto di un giudizio della Corte cantonale, che l'avrebbe trattato in modo diverso dalla fattispecie qui in discussione. D'altra parte, qualora il caso accennato fosse analogo a quello in esame e una compensazione fosse stata negata a torto, la ricorrente non invoca le condizioni poste dalla giurisprudenza per ammettere eccezionalmente una parità di trattamento nell'illegalità (cfr. <ref-ruling> consid. 3a, 125 II 152 consid. 5 pag. 166, 122 II 446 consid. 4a).
10. Ne segue che il ricorso in materia di diritto pubblico deve essere respinto in quanto ammissibile, mentre il ricorso sussidiario in materia costituzionale deve essere dichiarato inammissibile. Le spese giudiziarie e le ripetibili seguono la soccombenza e sono pertanto poste a carico della ricorrente (<ref-law>). Al Comune di Monteggio, parimenti soccombente, non possono infatti essere addossate spese giudiziarie, avendo agito nell'esercizio delle sue attribuzioni ufficiali (<ref-law>).
Il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso in materia di diritto pubblico è respinto.
2. Il ricorso sussidiario in materia costituzionale è inammissibile.
3. Le spese giudiziarie di complessivi fr. 3'000.-- sono poste a carico della ricorrente, che rifonderà a B._ un'indennità di fr. 2'000.-- a titolo di ripetibili della sede federale.
4. Comunicazione ai patrocinatori delle parti, alla Divisione dello sviluppo territoriale e della mobilità del Dipartimento del territorio, al Consiglio di Stato, al Tribunale cantonale amministrativo del Cantone Ticino e all'Ufficio federale dello sviluppo territoriale.