Fatti:
A. Dopo aver lavorato alla banca B._ per quasi trent'anni, alla fine dell'anno 2000 A._, allora sessantenne, è stato posto al beneficio della pensione anticipata. quel momento il suo avere di vecchiaia ammontava a fr. 162'319.-- per la previdenza obbligatoria (pilastro 2a), assicurata presso la Fondazione collettiva per la previdenza professionale obbligatoria della C._, e a fr. 429'122.30 per la previdenza complementare (pilastro 2b), garantita dal Fondo di previdenza della banca B._.
Come richiesto dall'interessato, il 31 dicembre 2000 il Fondo di previdenza della banca B._ gli ha erogato la somma di fr. 179'122.30; il rimanente importo di fr. 250'000.-- è invece rimasto presso il Fondo stesso, a disposizione del beneficiario. Mediante l'apposito formulario, il 16 dicembre 2000 il Fondo di previdenza ha notificato all'Amministrazione federale delle contribuzioni l'imminente versamento di fr. 179'122.30. Il 19 gennaio 2001 la Fondazione collettiva della C._ ha poi versato all'interessato la somma di fr. 162'319.-- del pilastro 2a, informandone a sua volta il fisco. Infine il 31 marzo 2005, al compimento dei 65 anni, il Fondo di previdenza della banca B._ ha erogato ad A._ i restanti fr. 250'000.-- più gli interessi, per un totale di fr. 303'270.20. Detta prestazione è stata segnalata alle autorità fiscali il 24 marzo precedente.
B. Fondandosi sulla comunicazione del 16 dicembre 2000, il 22 gennaio 2001 l'Ufficio circondariale di tassazione di Mendrisio ha tassato ai fini dell'imposta federale diretta e dell'imposta cantonale e comunale la prestazione in capitale di fr. 179'122.30 ricevuta a fine 2000 da A._. Con ulteriori decisioni di tassazione speciale emanate il 3 maggio 2002 è poi stata imposta la prestazione in capitale di fr. 162'319.-- ricevuta per la previdenza professionale obbligatoria. Da ultimo il 14 luglio 2005 l'autorità competente ha tassato in maniera analoga la somma di fr. 303'270.20 percepita qualche mese prima.
Contro quest'ultima decisione A._ ha dapprima interposto reclamo, rimasto senza successo, e successivamente è insorto dinanzi alla Camera di diritto tributario del Tribunale d'appello del Cantone Ticino che invece, con sentenza del 22 marzo 2006, ha accolto il ricorso e annullato la tassazione speciale. La Corte cantonale ha in effetti ritenuto che l'intera prestazione di fr. 429'122.30 derivante dalla previdenza complementare era divenuta esigibile nel 2000, al momento del prepensionamento, per cui avrebbe dovuto venir tassata in modo complessivo in quell'anno.
C. Preso atto di tale pronuncia, con decisioni del 20 febbraio 2007 l'Ufficio delle procedure speciali della Divisione delle contribuzioni ha intimato ad A._ il pagamento di fr. 8'811.50 per l'imposta federale diretta, di fr. 19'477.55 per l'imposta cantonale e di fr. 18'360.90 per l'imposta comunale, a titolo di recupero d'imposta, multe e interessi di ritardo. In particolare, l'autorità di tassazione ha inflitto multe in ragione di un terzo delle imposte speciali sottratte, per un totale di fr. 8'381.10.
A._ ha contestato anche queste decisioni mediante reclamo, respinto il 9 ottobre 2007, e poi mediante ricorso, che è invece stato parzialmente accolto. Con sentenza del 26 febbraio 2008 la Camera di diritto tributario ha in effetti annullato le multe, ma confermato i recuperi d'imposta.
D. Il 28 marzo 2008 A._ ha presentato un ricorso in materia di diritto pubblico dinanzi al Tribunale federale, con cui chiede di annullare il giudizio della Camera di diritto tributario, così come le precedenti decisioni della Divisione delle contribuzioni. Egli lamenta la violazione del diritto federale, contestando che siano dati i presupposti per un recupero d'imposta.
Chiamate ad esprimersi, la Divisione delle contribuzioni del Cantone Ticino e l'Amministrazione federale delle contribuzioni domandano di respingere il ricorso, mentre la Camera di diritto tributario non presenta formali richieste di giudizio.

Diritto:
1. 1.1 Rivolta contro la decisione di un'autorità cantonale di ultima istanza in una causa di diritto pubblico, l'impugnativa in esame, presentata in tempo utile dal destinatario del giudizio contestato, è di massima ammissibile quale ricorso in materia di diritto pubblico ai sensi degli art. 82 segg. LTF (cfr. anche l'art. 146 della legge federale del 14 dicembre 1990 sull'imposta federale diretta [LIFD; RS 642.11] e l'art. 73 della legge federale del 14 dicembre 1990 sull'armonizzazione delle imposte dirette dei Cantoni e dei Comuni [LAID; RS 642.14]).
Un'eccezione va tuttavia ravvisata nella misura in cui il ricorrente domanda l'annullamento anche delle decisioni emanate dalla Divisione delle contribuzioni. In effetti, in virtù dell'effetto devolutivo della procedura ricorsuale, tali pronunce sono state sostituite dalla sentenza della Camera di diritto tributario. Soltanto tale sentenza può pertanto costituire l'oggetto dell'impugnativa (art. 86 cpv. 1 lett. d LTF; <ref-ruling> consid. 1.4; cfr. anche <ref-ruling> consid. 1.1).
1.2 Con i ricorsi ordinari può in particolare venir censurata la violazione del diritto federale (<ref-law>), che di per sé il Tribunale federale applica comunque d'ufficio (<ref-law>; cfr. tuttavia <ref-law> e <ref-ruling> consid. 1.4.1). L'accertamento dei fatti può invece venir contestato soltanto se è stato svolto in modo manifestamente inesatto o in violazione del diritto ai sensi dell'<ref-law> e se l'eliminazione del vizio è determinante per l'esito del procedimento (<ref-law>). Di principio, il Tribunale federale si fonda in effetti sui fatti appurati dall'autorità inferiore (art. 105 cpv. 1 e 2 LTF).
2. 2.1 Per quanto concerne l'imposta federale diretta, l'<ref-law> sancisce che sono tra l'altro imponibili tutti i proventi derivanti dalla previdenza professionale. Secondo l'<ref-law>, le prestazioni in capitale provenienti dalla previdenza sono imposte separatamente mediante un'imposta annua intera calcolata in base ad una tariffa speciale. Quando insorge un caso di previdenza o sono soddisfatte le condizioni per un pagamento in contanti, l'imposta dev'essere calcolata sull'intero avere di previdenza e non è quindi possibile effettuare una riscossione "a rate" (Circolare dell'Amministrazione federale delle contribuzioni n. 22 del 4 maggio 1995, n. II.2.3).
2.2 Nel caso concreto, il Fondo di previdenza della banca B._ ha tuttavia concesso al ricorrente di ritirare il proprio avere di vecchiaia in due fasi distinte ed ha certificato le prestazioni erogate in maniera conseguente, ovvero mediante due attestazioni parziali separate. Ritenuto inoltre che, come accertato dalla Camera di diritto tributario nel suo primo giudizio, l'intera prestazione in capitale era già esigibile al momento del prepensionamento, si pone quindi la questione di sapere come deve essere considerato, dal profilo fiscale, il pagamento definitivo della seconda "tranche" con i relativi interessi.
3. 3.1 In virtù dell'<ref-law>, quando fatti o mezzi di prova sconosciuti in precedenza permettono di stabilire che una tassazione è stata indebitamente omessa o che una tassazione cresciuta in giudicato è incompleta, oppure che una tassazione omessa o incompleta è dovuta ad un crimine o delitto contro l'autorità fiscale, quest'ultima procede al recupero dell'imposta non incassata, compresi gli interessi. Per stabilire se i fatti o i mezzi di prova nuovi erano in realtà già esistenti al momento della tassazione, è determinante lo stato degli atti a quel momento. Non è necessaria una colpa del contribuente; si tratta piuttosto di valutare gli obblighi rispettivi del contribuente stesso e dell'autorità fiscale nella procedura di tassazione (sentenza 2A.502/2005 del 2 febbraio 2006, in: StR 61 pag. 442, consid. 2; sentenza 2A.182/2002 del 25 aprile 2003, in: ASA 73 pag. 482, consid. 3.3).
3.2 Secondo l'<ref-law>, le autorità di tassazione determinano con il contribuente le condizioni di fatto o di diritto determinanti per un'imposizione completa ed esatta. Di principio, la tassazione risulta quindi dalla collaborazione delle due parti. Al contribuente è infatti imposto l'obbligo di fare tutto il necessario per consentire una tassazione completa ed esatta (<ref-law>). In particolare, deve compilare il modulo della dichiarazione d'imposta in modo completo e veritiero e rinviarlo tempestivamente (<ref-law>). Se nutre dubbi sulla rilevanza fiscale di un determinato fatto, non deve sottacerlo, ma segnalare la propria incertezza. In ogni caso deve esporre la situazione in maniera esaustiva e trasparente (sentenza 2A.502/2005 del 2 febbraio 2006, in: StR 61 pag. 442, consid. 2; sentenza 2A.182/2002 del 25 aprile 2003, in: ASA 73 pag. 482, consid. 3.3.1).
3.3 D'altra parte, l'autorità fiscale controlla la dichiarazione d'imposta e procede alle indagini necessarie (<ref-law>). Di principio, può comunque confidare nel fatto che la dichiarazione è corretta e completa, per cui, senza particolari motivi, non è tenuta ad effettuare raffronti con gli atti di altri contribuenti né a cercare documenti complementari nell'incarto fiscale. Essa non deve comunque fondarsi sulla dichiarazione come se fosse un atto di autotassazione e deve considerare che nei relativi formulari non vanno inseriti solo dei dati di fatto, ma si pongono anche questioni puramente giuridiche. Un dovere di indagine complementare esiste per l'autorità di tassazione comunque solo se la dichiarazione contiene errori chiaramente evidenti. Lacune o imprecisioni semplicemente riconoscibili non bastano per ammettere che determinati fatti o mezzi di prova erano noti alle autorità già al momento della tassazione, rispettivamente per imputare loro la relativa conoscenza (sentenza 2A.502/2005 del 2 febbraio 2006, in: StR 61 pag. 442, consid. 2; sentenza 2A.182/2002 del 25 aprile 2003, in: ASA 73 pag. 482, consid. 3.3.2-3.3.3; sul tutto cfr. anche, tra tante: sentenza 2C_557/2007 del 21 dicembre 2007, consid. 2; sentenza 2A.204/2006 del 22 giugno 2007, consid. 5.1-5.2).
4. 4.1 Come già accennato, nella fattispecie il Fondo di previdenza della banca B._ alla fine dell'anno 2000 ha versato al ricorrente solo l'importo di fr. 179'122.30, ovvero solo una parte dell'intero avere di previdenza di fr. 429'122.30. Fondandosi sull'art. 19 della legge federale del 13 ottobre 1965 sull'imposta preventiva (LIP; RS 642.21), il 16 dicembre 2000 il Fondo ha notificato la concessione di tale prestazione parziale all'Amministrazione federale delle contribuzioni mediante il formulario ufficiale n. 563. Sulla base di questa comunicazione, ulteriormente trasmessa alla Divisione cantonale delle contribuzioni, l'Ufficio circondariale di tassazione il 22 gennaio 2001 ha emanato la decisione di tassazione speciale riferita all'anno 2000, che è rimasta incontestata ed è pertanto cresciuta in giudicato.
Dopo tale notifica di tassazione, e più precisamente il 27 giugno 2001, il ricorrente ha inoltrato la dichiarazione d'imposta per il periodo fiscale 2001/2002, per la quale, in applicazione del sistema impositivo prenumerando biennale, risultava determinante lo stato della sostanza al 31 dicembre 2000. In tale occasione egli ha esposto nell'elenco dei titoli il suo avere residuo di fr. 250'000.-- nei confronti del "Fondo previdenza II pilastro banca B._", senza tuttavia indicare tale somma fra i redditi alla cifra 10 della dichiarazione, nella quale andavano menzionate le "liquidazioni in capitale ... provenienti da istituzioni di previdenza professionale". L'autorità di tassazione ha giudicato errata l'indicazione della sostanza, ritenendo che il capitale di fr. 250'000.-- fosse depositato su un conto di libero passaggio. Essa ha pertanto corretto l'importo della sostanza imponibile in favore del contribuente, indicando nel contempo però anche di essersi fondata sui dati forniti da quest'ultimo. In maniera analoga pure nel periodo fiscale successivo il capitale in questione ed i relativi interessi, nuovamente dichiarati, sono stati considerati irrilevanti ai fini dell'imposizione.
4.2 In un primo tempo, l'Ufficio di tassazione disponeva pertanto solo dell'incompleta attestazione inoltrata il 16 dicembre 2000 dal Fondo di previdenza della banca B._. Sulla base di tale documento, l'autorità non poteva sapere che la somma indicata costituiva unicamente una parte dell'avere previdenziale del ricorrente. La decisione di tassazione speciale emanata all'inizio del 2001 è pertanto stata resa, in maniera corretta, sulla base delle informazioni a quell'epoca note alle istanze fiscali.
In una seconda fase, l'imprecisa e problematica indicazione del restante importo di fr. 250'000.-- nella dichiarazione 2001/2002 del ricorrente avrebbe forse potuto rendere attente le autorità ed indurle ad approfondire la questione. D'altro canto esse potevano però attendersi che la notifica di una prestazione in capitale da parte del fondo di previdenza di un rinomato istituto bancario fosse esatta ed esaustiva. L'Ufficio di tassazione poteva pertanto legittimamente supporre che il ricorrente avesse dichiarato per errore tra gli elementi della sostanza una semplice aspettativa su un diritto. In ogni caso a quel momento non vi erano quindi ancora motivi sufficienti per ammettere che l'imposta annua intera per il 2000 doveva venir rivista mediante procedura di recupero, al fine di estenderla alla seconda "tranche" dell'avere previdenziale.
4.3 Soltanto dopo che il 24 marzo 2005 il Fondo di previdenza della banca B._ ha comunicato l'imminente versamento del capitale rimanente e dei relativi interessi, l'autorità di tassazione ha manifestato l'intenzione di percepire un'imposta annua intera su detta prestazione. Essa ha ritenuto di prelevare un'imposta separata per l'anno 2005. A giusta ragione questo modo di procedere non è tuttavia stato tutelato dalla Camera di diritto tributario, che ha comunque invitato la Divisione delle contribuzioni a valutare se fossero dati i presupposti per un recupero dell'imposta speciale per l'anno 2000.
Orbene la presa di conoscenza da parte dell'autorità dell'esistenza di una seconda porzione dell'avere previdenziale, dopo che la decisione di imposizione relativa alla prima "tranche" era già cresciuta in giudicato, costituisce manifestamente un fatto nuovo ai sensi dell'<ref-law>. Ci si deve quindi unicamente chiedere se l'autorità fiscale non avrebbe dovuto avviare in precedenza la procedura di recupero. Considerato che il termine di perenzione previsto a tale scopo non è ancora scaduto (<ref-law>), la risposta non può che essere negativa. D'altronde è vero che, come accertato dall'istanza inferiore, l'errore più grave è stato commesso dal Fondo di previdenza della banca B._ ed è altrettanto vero che l'applicazione corretta della legislazione fiscale incombe in primo luogo alle autorità fiscali e non ai contribuenti (Klaus A. Vallender/Martin E. Looser, in: Zweifel/ Athanas [a cura di], Kommentar zum schweizerischen Steuerrecht, vol. I/2b, Bundesgesetz über die direkte Bundessteuer, 2a ed., Basilea 2008, n. 9 ad art. 151; Felix Richner/Walter Frei/Stefan Kaufmann, Handkommentar zum DBD, Zurigo 2003, n. 25 ad art. 151). Tuttavia ci si poteva anche attendere che il ricorrente, in precedenza professionalmente attivo nel settore bancario, attirasse di sua iniziativa l'attenzione dell'autorità fiscale sul modo di procedere problematico del Fondo di previdenza, tanto più che egli era consapevole di vantare sul capitale rimanente non una semplice aspettativa bensì un diritto esigibile.
4.4 Se ne deve quindi concludere che risultano adempiuti i presupposti dell'<ref-law> per il recupero delle imposte 2000-2003. Per il resto, non occorre più soffermarsi sulla multa per sottrazione d'imposta inflitta dalla Divisione delle contribuzioni in applicazione dell'<ref-law>, considerato che detta sanzione è stata annullata dalla Camera di diritto tributario.
5. Per quanto concerne l'imposta cantonale e comunale, le disposizioni della legge sull'armonizzazione fiscale concernenti l'imposizione delle prestazioni fornite da istituzioni di previdenza (art. 7 cpv. 1 e 11 cpv. 3 LAID), il recupero di imposta (<ref-law>) gli obblighi procedurali del contribuente (<ref-law>) ed i doveri di verifica dell'autorità di tassazione (<ref-law>) coincidono con le rispettive norme della legge sull'imposta federale diretta. Il medesimo ordinamento è poi ripreso anche dal diritto cantonale (cfr. gli art. 21 cpv. 1, 38 cpv. 1, 196, 200 cpv. 1, 204 cpv. 1 e 236 cpv. 1 della legge tributaria del Cantone Ticino, del 21 giugno 1994). Di conseguenza le considerazioni esposte a proposito dell'imposta federale diretta valgono anche per le imposte cantonali e comunali. Anche sotto questo profilo è quindi a giusta ragione che la Corte cantonale ha proceduto al ricupero delle imposte dovute per gli anni fiscali 2000-2003.
6. In virtù di quanto precede, il ricorso, nella misura in cui è ammissibile, si avvera infondato e deve pertanto essere respinto. Visto l'esito dell'impugnativa, le spese processuali vanno poste a carico del ricorrente, secondo soccombenza (art. 65 e 66 cpv. 1 LTF). Non si assegnano ripetibili ad autorità vincenti (<ref-law>).

Per questi motivi, il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso in materia di diritto pubblico è respinto.
2. Le spese giudiziarie di fr. 2'500.-- sono poste a carico del ricorrente.
3. Comunicazione al ricorrente, alla Divisione delle contribuzioni e alla Camera di diritto tributario del Tribunale d'appello del Cantone Ticino nonché all'Amministrazione federale delle contribuzioni, Divisione principale imposta federale diretta, imposta preventiva, tasse di bollo.