Ritenuto in fatto e considerando in diritto:
1. A.A._ ha incoato nei confronti di B.A._ un'azione di modifica della sentenza di divorzio con cui ha segnatamente chiesto l'attribuzione dell'autorità parentale sui figli ancora minorenni e la soppressione del contributo alimentare a loro favore. Nell'ambito di tale causa, il Pretore del distretto di Lugano ha emanato il 30 settembre 2009 un'ordinanza sulle prove in cui ha fra l'altro richiamato dai competenti uffici di tassazione le ultime 3 notifiche di tassazione delle parti e ha assegnato a quest'ultime un termine di 20 giorni per presentare il dettaglio dei costi processuali fino ad allora sostenuti.
Il 15 ottobre 2009 il Pretore, in risposta a uno scritto dell'attore, ha precisato che il procedimento coinvolge due minorenni, motivo per cui è applicabile il principio inquisitorio illimitato, che la procedura verte anche su aspetti finanziari, vista la richiesta, in caso di affidamento dei figli, di essere liberato dal pagamento di contributi alimentari e di ritenere il dettaglio delle spese processuali un elemento "per rendere utile e visibile e concreto il modo in cui, in questi anni, le parti hanno gestito il loro litigio, responsabilizzandole sui loro comportamenti".
2. Con ricorso in materia civile e ricorso sussidiario in materia costituzionale del 30 ottobre 2009 A.A._ postula, previo conferimento dell'effetto sospensivo al rimedio, il parziale annullamento dell'ordinanza del 30 settembre 2009 nel senso che non è ammesso il richiamo dal competente ufficio di tassazione delle sue ultime tre notifiche ed è pure annullato l'ordine fattogli di presentare il dettaglio di tutti i costi processuali sostenuti. Nel ricorso in materia civile, il ricorrente lamenta una violazione del segreto professionale dell'avvocato garantito dall'art. 13 della legge sugli avvocati (RS 935.61; LLCA) e ritiene che la richiesta di prova non è solo motivata in modo incomprensibile, ma sarebbe del tutto inusuale ed ininfluente per l'esito della lite. Si duole altresì di una violazione della massima d'ufficio, perché il giudice non dovrebbe fare alcun accertamento sulla situazione finanziaria delle parti, ma dovrebbe limitarsi, affidandogli i figli, a liberarlo dall'obbligo di versare un contributo alimentare nelle mani dell'ex moglie. Nel ricorso sussidiario in materia costituzionale il ricorrente si prevale di una violazione dell'art. 9 Cost. e afferma che la decisione del Pretore sarebbe arbitraria, perché essa lo obbligherebbe a portare a conoscenza della controparte fatti "strettamente personali e confidenziali, coperti dal segreto professionale e dal segreto fiscale" ininfluenti per le domande di causa e ribadisce di aver redditi e sostanza sufficienti per mantenere i figli.
Con decreto del 25 novembre 2009 la Presidente della Corte adita ha conferito effetto sospensivo al ricorso.
3. L'impugnata ordinanza sulle prove è stata emanata nell'ambito di un'azione di modifica della sentenza di divorzio e quindi in una causa civile. Le decisioni processuali - incluse quelle concernenti l'assunzione delle prove - sono in linea di principio decisioni cautelari nel senso dell'art. 98 LTF (Messaggio del 28 febbraio 2001 concernente la revisione totale dell'organizzazione giudiziaria federale, FF 2001 3892 n. 4.1.4.2), motivo per cui anche in un ricorso in materia civile il ricorrente può unicamente prevalersi - come nell'ambito di un ricorso sussidiario in materia costituzionale - della violazione di diritti costituzionali. Non occorre pertanto stabilire se si tratta di una causa pecuniaria e, in caso di risposta affermativa, se il valore litigioso minimo previsto dall'art. 74 LTF è dato (sentenza 5A_428/2009 del 23 novembre 2009 consid. 1, non pubblicato nella DTF 135 III 633).
4. 4.1 La decisione impugnata, che concerne il richiamo di documenti da un'autorità e l'edizione di documenti da una parte, è un'ordinanza sulle prove ai sensi dell'art. 94 CPC/TI (COCCHI/TREZZINI, Codice di procedura civile ticinese massimato e commentato, 2000, n. a2 ad art. 94 CPC/TI) e come tale inappellabile (art. 95 CPC/TI). Il ricorso è pertanto diretto contro una decisione di ultima istanza cantonale. Non nuoce che il Pretore non sia un'istanza cantonale suprema (art. 75 cpv. 2 e 130 cpv. 2 LTF).
4.2 La contestata ordinanza è una decisione incidentale notificata separatamente, che non concerne la competenza o una domanda di ricusazione, unicamente suscettiva di un ricorso al Tribunale federale se può causare un danno irreparabile (art. 93 cpv. 1 lett. a LTF). Un tale pregiudizio dev'essere di natura giuridica e quindi non deve poter essere ulteriormente eliminato, perlomeno non completamente, nemmeno mediante l'emanazione di una decisione finale favorevole al ricorrente (DTF 134 III 188 consid. 2.1, con rinvii).
4.3 Secondo il ricorrente il presupposto del danno irreparabile sarebbe in concreto adempiuto, perché la domanda di edizione comporterebbe un intervento nella sua sfera personale e violerebbe il segreto professionale dell'avvocato e quello fiscale. Giova innanzi tutto rilevare che il ricorrente nemmeno pretende che la decisione impugnata lo toccherebbe quale avvocato o quale persona incaricata dell'applicazione di leggi fiscali: per questo motivo sia il richiamo all'art. 13 LLCA (norma attinente al segreto professionale dell'avvocato) che quello al segreto fiscale (cfr. DTF 135 I 200 consid. 1.2) si rivelano di primo acchito inconferenti. In concreto non occorre nemmeno stabilire se - come affermato nel rimedio - l'ordinanza impugnata cagioni un pregiudizio al ricorrente perché costituirebbe un'ingerenza nella sua sfera personale segreta, atteso che, come si dirà nei considerandi che seguono, il ricorso si rivela in ogni caso infondato.
5. 5.1 Come già osservato, l'ordinanza in discussione è stata emanata nel corso di una causa civile in cui viene postulata la modifica della sentenza di divorzio e segnatamente chiesta una diversa attribuzione dell'autorità parentale e la soppressione del contributo alimentare per la prole. Contrariamente a quanto accade quando si contrappongono unicamente gli interessi degli ex coniugi, queste domande non vengono decise in una procedura retta - come la maggior parte delle cause civili - dal principio attitatorio, in cui le parti devono fornire al giudice i fatti pertinenti e le necessarie prove. Alle menzionate richieste è invece - incontestatamente - applicabile, come per tutte le disposizioni riguardanti i figli, l'art. 145 cpv. 1 CC. Tale disposto di legge recita che il giudice accerta d'ufficio i fatti e valuta le prove secondo il suo libero convincimento. In base alla citata norma, il giudice ha il dovere di chiarire la fattispecie prendendo in considerazione d'ufficio tutti gli elementi che possono essere rilevanti per emanare una decisione conforme al bene del figlio; egli può istruire secondo il suo apprezzamento, anche assumendo dei mezzi di prova in modo inusuale (DTF 128 III 411 consid. 3.2.1, con rinvii).
5.2 Ribadito che in concreto è applicabile la limitazione dei motivi di ricorso prevista dall'art. 98 LTF (supra, consid. 3), la censura secondo cui l'art. 145 CC sarebbe stato violato si appalesa inammissibile. Può invece essere esaminata la critica ricorsuale secondo cui tale norma sarebbe stata applicata violando l'art. 9 Cost. Con riferimento a quest'ultima garanzia costituzionale è opportuno ricordare che una decisione non è arbitraria per il solo motivo che un'altra soluzione sarebbe sostenibile o addirittura preferibile, ma il giudizio attaccato dev'essere, anche nel suo risultato, manifestamente insostenibile, in aperto contrasto con la situazione effettiva, fondato su una svista manifesta oppure in urto palese con il sentimento di giustizia ed equità (DTF 134 II 124 consid. 4.1, con rinvii). Si può del resto rilevare che giusta l'art. 97 cpv. 1 LTF, il ricorrente può censurare l'accertamento dei fatti unicamente se è stato svolto in violazione del diritto ai sensi dell'art. 95 LTF oppure in maniera manifestamente inesatta; quest'ultima definizione corrisponde a quella di arbitrio (DTF 133 II 249 consid. 1.2.2 pag. 252) e configura a sua volta una violazione del diritto (art. 9 Cost.; DTF 134 IV 36 consid. 1.4.1 pag. 39). Ne segue che anche per questo motivo in casi come quello all'esame il ricorrente può - in linea di principio - unicamente lamentarsi che il giudice sia caduto nell'arbitrio reputando l'assunzione di talune prove necessarie ai fini del giudizio.
5.2.1 Nella fattispecie si può concordare con il ricorrente che l'edizione dei costi processuali sostenuti dagli ex coniugi può apparire insolita. Tuttavia la capacità di cooperare delle parti è un fattore rilevante in materia di affidamento dei figli (PETER BREITSCHMID, Basler Kommentar, Zivilgesetzbuch I; 3a ed. 2006, n. 7 ad art. 133 CC; DTF 115 II 106 consid. 4b) e in concreto il giudice di prime cure ritiene di poter dedurre dalla contestata edizione elementi per valutare tale fatto. In queste circostanze con la richiesta di edizione in discussione il Pretore non ha applicato in modo insostenibile l'art. 145 CC, ricordato che quando è adito con un ricorso fondato sul divieto dell'arbitrio il Tribunale federale non sostituisce, come una Corte di appello, il suo apprezzamento a quello del giudice del merito e che in materia di prove esso interviene con ritegno (DTF 120 Ia 31 consid. 4b pag. 40; 118 Ia 28 consid. 1b; 104 Ia 381 consid. 9 pag. 399).
5.2.2 Con riferimento al richiamo dei documenti fiscali occorre sottolineare che, viste le domande di merito del ricorrente, il Pretore ha il dovere di accertare se, per l'eventualità in cui esse dovessero essere accolte, si giustificherebbe liberare - come implicitamente proposto - la madre da qualsiasi contributo alimentare nei confronti della prole. A tal fine egli non può accontentarsi della semplice affermazione - contenuta nel ricorso - secondo cui sarebbe incontestabile che il padre abbia redditi e sostanza sufficienti per mantenere i figli di cui ha chiesto l'affidamento. In ragione della massima inquisitoria che regge la procedura, l'assenza di una contestazione da parte dell'opponente di tale affermazione appare del tutto irrilevante. Ne segue che pure le argomentazioni ricorsuali dirette contro il richiamo in discussione sono volte all'insuccesso.
6. Da quanto precede discende che il ricorso, nella misura in cui è ammissibile, si rivela infondato e dev'essere respinto. Le spese giudiziarie seguono la soccombenza (art. 66 cpv . 1 LTF), mentre non si giustifica assegnare ripetibili all'opponente, che non è incorsa in spese per la procedura federale.
Per questi motivi, il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso è respinto.
2. Le spese giudiziarie di fr. 1'000.-- sono poste a carico del ricorrente.
3. Comunicazione ai patrocinatori delle parti e al Pretore del Distretto di Lugano, Sezione 6.