Fatti:
A. Dal 1978 al 2004 A._, Lugano, è stato revisore e consulente della ditta di falegnameria B._ SA, Giubiasco, la quale ha a sua volta eseguito diverse opere per lui. Dopo la cessazione della collaborazione è iniziata la discussione sui loro rapporti di dare-avere. A._ ha inviato due fatture: una di fr. 133'638.-- per il periodo 1991 - 2003 (indicato inizialmente per errore 1990 - 2003) e una di fr. 13'900.-- per le prestazioni dal 1° gennaio al 31 maggio 2004. La B._ SA le ha contestate, comunicando di essere disposta a considerarle saldate per compensazione con le fatture da lei emesse in precedenza per un totale di fr. 82'962.--. Sono seguiti scambi di corrispondenza infruttuosi e precetti esecutivi vicendevoli, con le relative opposizioni.
B. B.a Il 27 gennaio 2006 A._ ha chiesto al Pretore di Bellinzona di condannare la B._ SA a pagargli fr. 147'538.--, corrispondenti al totale delle predette due fatture. La convenuta ha riconosciuto un onorario complessivo di fr. 52'000.--, da compensare con il suo credito di fr. 82'962.--: ha perciò chiesto di respingere la petizione e formulato una domanda riconvenzionale di fr. 30'962.--. In sede di conclusioni l'attore ha ridotto la propria domanda a fr. 141'170.--.
Il Pretore, con sentenza del 5 marzo 2009, ha respinto la petizione e accolto la domanda riconvenzionale, condannando l'attore a pagare alla convenuta fr. 30'962.-- con interessi al 5 % dal 1° gennaio 1995.
B.b Il giudizio di prima istanza è stato riformato il 22 novembre 2011 dalla II Camera civile del Tribunale di appello ticinese, su appellazione dell'attore, il quale è stato condannato a pagare alla convenuta fr. 17'443.-- con interessi al 5 % dal 1 gennaio 2005.
C. L'attore insorge davanti al Tribunale federale con ricorso in materia civile del 16 gennaio 2012. Chiede la riforma della sentenza cantonale, la reiezione della domanda riconvenzionale e l'accoglimento parziale della sua petizione con la condanna della convenuta a pagargli in via principale fr. 90'629.30, in via subordinata fr. 25'864.80, in entrambi i casi con interessi al 5 % dal 1° gennaio 2005.
La convenuta propone di respingere il ricorso con risposta del 16 aprile 2012. L'autorità cantonale non ha preso posizione.
Diritto:
1. Il ricorso è presentato dalla parte soccombente nella sede cantonale (art. 76 cpv. 1 lett. a LTF), è tempestivo (art. 100 cpv. 1 LTF) ed è volto contro una sentenza finale (art. 90 LTF) emanata su ricorso dall'autorità giudiziaria ticinese di ultima istanza (art. 75 LTF) in una causa civile (art. 72 cpv. 1 LTF) con un valore litigioso superiore a fr. 30'000.-- (art. 74 cpv. 1 lett. b LTF). Sotto questo profilo esso è pertanto ammissibile.
2. Il Tribunale federale esamina d'ufficio l'applicazione del diritto federale (art. 106 cpv. 1 LTF). Tuttavia, tenuto conto dell'onere di allegazione e motivazione posto dall'art. 42 cpv. 1 e 2 LTF, la cui mancata ottemperanza conduce all'inammissibilità del gravame (art. 108 cpv. 1 lett. b LTF), considera di regola solo gli argomenti proposti nell'atto di ricorso (DTF 134 III 102 consid. 1.1). Le esigenze sono più severe quando è fatta valere la violazione di diritti fondamentali: in questo caso l'art. 106 cpv. 2 LTF esige una motivazione puntuale e precisa, analoga a quella che l'art. 90 cpv. 1 lett. b OG prescriveva per il ricorso di diritto pubblico (DTF 134 III 244 consid. 22, 130 I 258 consid. 1.3).
Di principio il Tribunale federale fonda il suo ragionamento giuridico sull'accertamento dei fatti svolto dall'autorità inferiore (art. 105 cpv. 1 LTF). Può scostarsene o completarlo solo se è stato effettuato in violazione del diritto ai sensi dell'art. 95 LTF o in modo manifestamente inesatto (art. 105 cpv. 2 LTF). L'accertamento dei fatti contenuto nella sentenza impugnata può essere censurato alle stesse condizioni; occorre inoltre che l'eliminazione dell'asserito vizio possa influire in maniera determinante sull'esito della causa (art. 97 cpv. 1 LTF).
Se rimprovera all'autorità cantonale un accertamento dei fatti manifestamente inesatto - ossia arbitrario (DTF 133 Il 249 consid. 1.2.2 pag. 252) - il ricorrente deve motivare la censura conformemente alle esigenze poste dall'art. 106 cpv. 2 LTF (DTF 133 III 638 consid. 2). Deve indicare chiaramente i diritti costituzionali che si pretendono violati e precisare in cosa consiste la violazione (DTF 134 III 244 consid. 2.2). Siccome il giudice cantonale fruisce di un grande potere discrezionale nel campo dell'apprezzamento delle prove (o dell'accertamento dei fatti in genere), chi invoca l'arbitrio deve dimostrare che la sentenza impugnata ha ignorato il senso e la portata di un mezzo di prova preciso, ha omesso senza ragioni valide di tenere conto di una prova importante suscettibile di modificare l'esito della lite, oppure ha ammesso o negato un fatto ponendosi in aperto contrasto con gli atti di causa o interpretandoli in modo insostenibile (DTF 137 I 58 consid. 4.1.2; 129 III 8 consid. 2.1).
3. La contestazione è limitata al valore della remunerazione dovuta all'attore.
Il Tribunale di appello, richiamando la prassi sviluppatasi attorno all'art. 394 cpv. 3 CO, ha ricordato che la mercede del mandatario, in assenza di accordi e di usi, va determinata considerando tutte le circostanze pertinenti, tenendo conto ch'essa deve essere proporzionata e corrispondente ai servizi resi. Respingendo le critiche mosse dall'attore contro la perizia giudiziaria allestita in prima istanza, i giudici ticinesi hanno anzitutto confermato le conclusioni del Pretore secondo le quali il compenso per le attività di revisione e di allestimento delle dichiarazioni fiscali ammonta a fr. 38'960.--. In seguito hanno accertato, soprattutto sulla base della testimonianza di C._, che le prestazioni dell'attore non si erano limitate a quelle attività, come stabilito dal Pretore, ma erano consistite di una consulenza più estesa a favore della convenuta.
Per valutarne l'entità la Corte cantonale ha rifiutato la proposta dell'attore, che si prevaleva delle cifre esposte annualmente come accantonamenti e del raffronto degli onorari medi dei vari periodi, per ritenere invece quale unico elemento utile lo scritto indirizzato dall'attore alla convenuta il 23 dicembre 1990. Esso preventivava in fr. 7'000.-- il costo della consulenza annua, compresa la revisione e le dichiarazioni fiscali ma con esclusione dell'allestimento del bilancio intermedio. Posto che il perito ha quantificato quest'ultima prestazione in fr. 1'000.--, la sentenza impugnata ha accertato in fr. 8'000.-- l'onorario annuo complessivo dovuto all'attore durante il periodo 1991 - 2003, per un totale di fr. 104'000.--.
Quanto alle prestazioni del 2004 la Corte cantonale ha dato atto all'attore che il Pretore ha omesso di pronunciarsi e le ha quantificate in fr. 3'000.--.
4. L'attore non contesta la retribuzione stabilita per l'anno 2004. Ritiene invece che quella riconosciutagli per il periodo 1991 - 2003 sia frutto di accertamenti manifestamente inesatti e arbitrari, per diversi motivi.
4.1 Il primo attiene alla citata lettera del 23 dicembre 1990 (doc. 1). A mente dell'attore essa rende evidente che "il costo approssimativo di fr. 7'000.-- si riferiva alle sole operazioni di allestimento del bilancio e alle pratiche fiscali". Avendo tuttavia la Corte cantonale accertato, grazie alla deposizione di C._, che l'attività del mandatario era andata "ben oltre dette due prestazioni", l'onorario doveva per forza di cose essere superiore.
La censura è infondata. L'attore fa confusione laddove sostiene che le "due prestazioni" oggetto del documento 1 sono le medesime considerate dall'autorità cantonale nell'accertamento in questione. Essa si riferiva alla revisione, mansione assai differente dalla confezione del bilancio, e all'allestimento delle dichiarazioni fiscali, che è solo una delle attività che possono rientrare nella definizione generica di "pratiche fiscali". In effetti la Corte ticinese, riprendendo appunto la deposizione di C._, ha stabilito che l'attore riceveva le registrazioni mensili, allestiva i bilanci intermedi e finali, manteneva i contatti con le autorità fiscali, controllava la documentazione IVA ed era a disposizione per risolvere problemi contabili o di registrazione IVA. Nel ricorso è invero richiamata anche la parte iniziale della deposizione, ove C._ asserisce che l'attore aveva introdotto un nuovo sistema contabile, allestito il piano dei conti e sviluppato una contabilità industriale. La testimone ha però precisato che tali attività si erano svolte "inizialmente", ovvero, tenendo conto della cronologia ch'ella ha indicato, certamente prima del periodo 1991 - 2003 nel quale si situano le prestazioni litigiose.
Ne viene che non è affatto insostenibile ritenere che la lettera del 23 dicembre 1990 "per bilancio e pratiche fiscali" inglobasse tutte le predette attività, riconducibili in definitiva all'assistenza contabile e fiscale. Anche perché, prima di formulare il preventivo, l'attore, che rispondeva alla richiesta della convenuta "sul costo base di consulenza annua", avvertiva che era "possibile solo una valutazione approssimativa in quanto ogni volta il lavoro da svolgere può variare, l'allestimento di un bilancio non essendo una semplice operazione di addizione o sottrazione e dovendo i risultati, che non sono anticipatamente prevedibili, essere esaminati più o meno a fondo a dipendenza di fattori imponderabili". Soggiungeva che "Pari discorso vale per l'aspetto fiscale della consulenza, che può richiedere maggiore o minor impegno a seconda delle circostanze" (doc. 1 pag. 2).
4.2 In secondo luogo l'attore vede arbitrio nel riconoscimento di una remunerazione media di soli fr. 8'000.-- all'anno, poiché nel periodo 1993 - 2002 la convenuta ha messo a bilancio accantonamenti corrispondenti a una media annua di fr. 12'630.--; rimprovera alla Corte ticinese di avere semplicemente negato che gli accantonamenti valgano riconoscimento di debito, senza valutarne la "forza probante" insieme con altri fattori.
L'attore isola un passaggio della motivazione impugnata, non curandosi delle considerazioni che lo precedono e lo seguono. Il Tribunale di appello ha premesso, riferendosi a un'ammissione dell'attore medesimo e alla perizia giudiziaria, che gli accantonamenti sono importi approssimativi "inidonei per loro natura a sostanziare la congruità di una pretesa"; ne ha dedotta la conseguenza che l'approvazione da parte degli organi della convenuta, ammesso che fosse intervenuta, non equivale al riconoscimento di un credito; e ha aggiunto, per abbondanza, che vi sono divergenze a volte importanti, non spiegate dalla convenuta, tra le cifre esposte nei conteggi prodotti in causa (doc. D) e le somme accantonate, ciò che conferma la "portata di pura valutazione" di quest'ultime.
Il rimprovero di non avere valutato la "forza probante" degli accantonamenti è quindi manifestamente infondato. Per il resto la censura è inammissibile, poiché l'attore non si confronta con gli apprezzamenti esposti nel giudizio, in particolare con le divergenze tra le cifre del documento D e quelle accantonate.
4.3 Da ultimo l'attore ricorda che la convenuta aveva pagato senza riserve una fattura che esponeva per l'anno 1990 un importo di fr. 12'900.--, emessa due mesi dopo l'invio della citata lettera di preventivo, e che per l'intero periodo 1978 - 1990 essa aveva d'altronde pagato fatture per una media annua di fr. 18'426.15, concernenti prestazioni perlomeno analoghe, se non inferiori, a quelle effettuate durante gli anni 1991 - 2003. Sostiene che l'autorità cantonale ha commesso arbitrio giudicando che il pagamento delle fatture del primo periodo non comporta riconoscimento di debito per le fatture successive, di nuovo senza valutarne la "forza probante", e nel riconoscergli di conseguenza solo un onorario annuo di fr. 8'000.--.
L'attore si sofferma ancora una volta su di un aspetto del giudizio cantonale, perdendo di vista la motivazione nel suo insieme. La Corte d'appello ha effettivamente osservato che il confronto delle medie non è "proponibile" e che dal pagamento delle fatture del primo periodo "non si può certo dedurre il riconoscimento automatico delle pretese del secondo periodo". Queste valutazioni sono inserite nel considerando nel quale sono esaminati gli accantonamenti, le fatture pagate, il raffronto delle medie e il conteggio D. Quest'ultimo documento, hanno soggiunto i giudici cantonali, oltre ad esporre cifre che divergono da quelle degli accantonamenti, "risulta peraltro oltremodo lacunoso nella misura in cui non riporta alcun dispendio orario, non fa riferimento a una tariffa applicabile, non è firmato né datato". Ne è scaturita la conclusione secondo la quale l'attore non ha saputo "fornire elementi oggettivi sufficienti" atti a giustificare pretese superiori a quelle preventivate nella lettera del 23 dicembre 1990. Infine l'autorità d'appello muove contro l'attore il rimprovero di non avere nemmeno dimostrato di avere informato la convenuta, nel corso degli anni, che il preventivo era sottostimato.
Contrariamente a quanto si sostiene nel ricorso - e a prescindere dall'espressione forse un poco imprecisa utilizzata - la Corte cantonale ha quindi soppesato la portata del pagamento delle fatture del primo periodo insieme agli altri indizi proposti dall'attore a giustificazione delle sue pretese. Sotto questo profilo la censura d'arbitrio è perciò infondata. Nella misura in cui l'attore non si pronuncia di nuovo sulle considerazioni a lui sfavorevoli che l'autorità d'appello ha tratto dal documento D, essa è inammissibile.
5. In via subordinata l'attore propone due censure di diritto concernenti il calcolo finale della sentenza impugnata.
5.1 La Corte ticinese ha fissato in fr. 107'000.-- con interessi del 5 % dal 1° gennaio 2005 (104'000.-- + 3'000.--) la retribuzione complessiva dovuta all'attore, oggetto dell'azione principale. Da questa somma ha dedotto la pretesa riconvenzionale della convenuta, che ha quantificato in fr. 82'962.-- di capitale e fr. 41'481.-- di interessi dal 1° gennaio 1995 al 1° gennaio 2005, per un totale di fr. 124'443.--. Ne è risultato un saldo a favore della convenuta al 1° gennaio 2005 di fr. 17'443.-- (124'443.-- - 107'000.--). Nel dispositivo l'attore è stato condannato a pagare alla convenuta tale importo, con interessi al 5 % dal 1° gennaio 2005.
5.2 L'attore asserisce che, aggiungendo gli interessi di mora al suo debito verso la convenuta, la Corte cantonale ha violato l'art. 124 cpv. 2 CO, secondo il quale "il debito compensato non può portare interesse". Invoca anche una "crassa violazione" dell'art. 86 CPC/TI, che sancisce il "divieto della extrapetizione", non avendo a suo dire la convenuta chiesto gli interessi sui crediti compensati.
5.3 L'argomento fondato sul diritto cantonale è di primo acchito infondato. D'un canto perché la convenuta, con la risposta e riconvenzione del 17 maggio 2006, aveva chiesto espressamente la corresponsione degli interessi al 5 % dal 1° gennaio 1995 sulla pretesa riconvenzionale. Dall'altro poiché nelle procedure rette dalla massima dispositiva il giudice è di regola vincolato soltanto all'ammontare complessivo della pretesa fatta valere in causa, non dai singoli elementi che la compongono (DTF 119 II 396).
5.4 Il diritto federale merita invece di essere approfondito.
5.4.1 In forza dell'art. 124 cpv. 1 CO il debitore, affinché si produca la compensazione, deve manifestare al creditore la sua intenzione di prevalersene. Si tratta di un atto unilaterale che necessita ricezione, che non richiede forme particolari e che può essere compiuto anche nell'ambito di una procedura giudiziaria (sentenze 4A_23/2011 del 23 marzo 2011 consid. 3.2; 4A_290 e 292/2007 del 10 dicembre 2007 consid. 8.3.1; CORINNE ZELLWEGER-GUTKNECHT, Commentario Bernese, 2012, n. 12 e 16 ad art. 124 CO, n. 118 ad Vorbemerkungen zu Art. 120-126 CO). L'art. 124 cpv. 2 CO stabilisce che la compensazione, dichiarata in tale modo, estingue i rispettivi crediti nel momento stesso in cui sono divenuti vicendevolmente compensabili. L'estinzione ha effetto retroattivo e coinvolge anche gli accessori del credito. Pertanto, a partire dal momento in cui si produce, non sono più dovuti interessi di mora (sentenze 4A_285/2011 del 1° settembre 2011 consid. 3.1; 4A_475/2008 dell'8 gennaio 2009 consid. 3.3 e rif.).
Il momento determinante non è necessariamente il medesimo per l'una e l'altra parte. L'art. 120 cpv. 1 CO prescrive che i crediti, per essere compensabili, devono essere scaduti. La dottrina interpreta la disposizione nel senso che soltanto il credito di chi si prevale della compensazione deve essere esigibile, mentre è sufficiente che il suo debito - ovvero il credito dell'altra parte - possa essere adempito. Questa asimmetria si ripercuote anche sulla compensabilità secondo l'art. 124 cpv. 2 CO: gli effetti della compensazione risalgono al momento in cui il credito della parte che vuole compensare è divenuto esigibile e quindi opponibile al credito dell'altra parte, suscettibile di essere adempito (WOLFGANG PETER, Commentario Basilese, 5a ed., 2007, n. 4 ad art. 120 CO e n. 5 ad art. 124 CO; VIKTOR AEPLI, Commentario Zurighese, 2001, n. 81 ad art. 120 CO e n. 119 ad art. 124 CO).
5.4.2 La Corte ticinese, come detto, ha aggiunto al debito dell'attore fr. 41'481.-- di interessi, costatando semplicemente che la pretesa fatta valere in via riconvenzionale dalla convenuta non è stata contestata dall'attore "né per capitale né per interessi"; le date del 1° gennaio 1995 e 1° gennaio 2005, tra le quali ha fatto correre gli interessi, sono quelle che le parti hanno indicato nelle proprie domande di causa quali punti di partenza degli interessi sulle rispettive pretese. Questo ragionamento non si concilia con l'art. 124 CO. Essendo pacifico che la compensazione è intervenuta (sebbene il giudizio impugnato non precisi quando l'attore l'abbia dichiarata), occorreva valutarne le conseguenze nel modo definito sopra.
Il debito dell'attore di fr. 82'962.--, ammesso in via riconvenzionale, si è estinto per compensazione con la sua pretesa di fr. 107'000.--, oggetto dell'azione principale. Rimane un saldo intermedio a suo favore di fr. 24'038.--. Il debito estinto non può fruttare interessi di mora. Potrebbero però essere dovuti gli interessi maturati prima dell'estinzione. È perciò necessario determinare quando è divenuto esigibile il credito dell'attore verso la convenuta e verificare se tra il 1° gennaio 1995 - scadenza non contestata secondo la Corte ticinese - e tale momento, determinante secondo l'art. 124 cpv. 2 CO, fossero maturati interessi di mora sul debito di fr. 82'962.--. L'importo corrispondente andrebbe dedotto dal predetto saldo intermedio di fr. 24'038.-- a favore dell'attore.
5.4.3 La censura di violazione dell'art. 124 cpv. 2 CO è di conseguenza fondata, almeno parzialmente. Il Tribunale federale non è tuttavia in grado di completare gli accertamenti necessari per la corretta applicazione del diritto. La causa va perciò ritornata all'autorità cantonale (art. 107 cpv. 2 LTF).
6. In conclusione, il ricorso è fondato limitatamente all'importo di fr. 41'481.--. Per il resto, nella misura in cui è ammissibile, va respinto.
Tenuto conto delle conclusioni formulate davanti al Tribunale federale, l'attore è parte vincente - o soccombente - in ragione della metà circa. Le spese sono ripartite tra le parti in tale proporzione (art. 66 cpv. 1 LTF). Le indennità reciproche per ripetibili si azzerano (art. 68 cpv. 1 LTF). Nell'ambito del giudizio su rinvio il Tribunale di appello provvederà a riformare, se necessario, la ripartizione di spese e ripetibili delle istanze cantonali (art. 67 e 68 cpv. 5 LTF).
Per questi motivi, il Tribunale federale pronuncia:
1. Il ricorso in materia civile è accolto parzialmente: la sentenza impugnata è annullata e la causa è ritornata all'autorità cantonale per nuovo giudizio nel senso dei considerandi.
2. Le spese di giustizia della procedura federale, di fr. 5'000.--, sono addossate a ricorrente ed opponente in ragione di un mezzo ciascuno. Non sono accordate indennità per ripetibili della procedura federale.
3. Comunicazione ai patrocinatori delle parti e alla II Camera civile del Tribunale d'appello del Cantone Ticino.