Fatti:
A. Prima di sposarsi, con contratto matrimoniale e successorio del 5 marzo 1966, F.A._ e la sua seconda moglie G.A._ hanno convenuto di adottare il regime della separazione dei beni e di rinunciare alle rispettive pretese ereditarie. Nel contempo i figli di primo letto A.A._ e H.A._ si sono impegnati a versare alla moglie del padre, in caso di decesso di quest'ultimo, una rendita vitalizia annuale di fr. 35'000.--, da adeguare ogni tre anni all'indice del costo della vita. F.A._ è deceduto il 18 dicembre 1977 e da quel momento il pagamento della rendita è quindi divenuto effettivo.
B. Nella dichiarazione d'imposta relativa al periodo fiscale 2001/2002, i coniugi A.A._ e B.A._ hanno chiesto di poter dedurre dal reddito lordo l'importo di fr. 54'039.--, corrispondente alla metà della rendita annua pagata ad G.A._ negli anni 1999/2000 (fr. 108'077.-- in media annua). Diversamente dalle precedenti notifiche, con decisione del 21 luglio 2003 l'Ufficio di tassazione di Lugano-Città non ha tuttavia ammesso la deduzione integrale della quota parte della rendita, ma l'ha ritenuta deducibile solo nella misura del 40 %, pari a fr. 21'616.--.
Contro tale decisione, A.A._ e B.A._ hanno dapprima interposto reclamo, respinto il 28 maggio 2007, e sono successivamente insorti dinanzi alla Camera di diritto tributario del Tribunale d'appello. Esperita un'udienza e preso atto che le figlie erano subentrate a B.A._, nel frattempo deceduta, con sentenza del 29 aprile 2008 anche la Corte cantonale ha confermato la tassazione litigiosa.
C. Il 17 giugno 2008 A.A._ e la comunione ereditaria fu B.A._ hanno inoltrato un ricorso in materia di diritto pubblico dinanzi al Tribunale federale con cui chiedono di annullare la sentenza della Camera di diritto tributario, di ammettere in deduzione la totalità della quota parte di rendita ed eventualmente di rinviare la causa all'autorità cantonale competente per nuovo giudizio. Lamentano la violazione di norme fiscali federali e cantonali, del divieto dell'arbitrio e dei principi di non retroattività e della buona fede.
Chiamate ad esprimersi, la Divisione delle contribuzioni del Cantone Ticino e l'Amministrazione federale delle contribuzioni (Divisione principale imposta federale diretta, imposta preventiva, tasse di bollo) propongono di respingere il gravame, mentre la Camera di diritto tributario del Tribunale d'appello non presenta formali richieste di giudizio.

Diritto:
1. 1.1 Rivolta contro una decisione finale emanata da un'autorità cantonale di ultima istanza in una causa di diritto pubblico che non ricade sotto alcuna delle eccezioni dell'<ref-law>, l'impugnativa in esame, presentata in tempo utile dai destinatari del giudizio contestato, è di massima ammissibile quale ricorso in materia di diritto pubblico ai sensi degli art. 82 segg. LTF (cfr. anche l'<ref-law> [RS 642.11] e l'<ref-law> [RS 642.14]).
1.2 Con tale rimedio può in particolare venir censurata la violazione del diritto (art. 95 e 96 LTF), che di per sé il Tribunale federale applica comunque d'ufficio (<ref-law>), senza essere quindi vincolato né agli argomenti fatti valere nel ricorso, né ai considerandi sviluppati dall'istanza precedente. L'accertamento dei fatti può per contro venir contestato soltanto in maniera ristretta; in effetti, a meno che siano stati appurati in modo manifestamente inesatto o in violazione del diritto (art. 105 cpv. 2 e 97 cpv. 1 LTF), il Tribunale federale si fonda sui fatti ritenuti dall'istanza inferiore (<ref-law>).
1.3 Secondo l'art. 42 cpv. 1 e 2 LTF, l'atto di ricorso deve contenere le conclusioni della parte ricorrente ed i motivi su cui si fondano; negli stessi occorre spiegare in maniera concisa perché l'atto impugnato viola il diritto. La motivazione deve pertanto essere pertinente e riferita all'oggetto del litigio, in modo che dall'impugnativa emerga perché e su quali punti la decisione contestata viene impugnata (<ref-ruling> consid. 2.1; <ref-ruling> consid. 1.4). Esigenze più severe si applicano poi in relazione alla violazione di diritti fondamentali e di disposizioni di diritto cantonale. Il Tribunale federale esamina infatti simili censure soltanto se l'insorgente le ha sollevate e motivate in modo preciso (<ref-law>; <ref-ruling> consid. 2.2; <ref-ruling> consid. 1.4.2). Nella fattispecie il gravame rispetta solo in parte questi requisiti. Nella misura in cui la motivazione non è sufficientemente precisa, esso risulta pertanto inammissibile.
2. 2.1 All'imposta federale diretta soggiace di principio la totalità dei proventi, periodici o unici (<ref-law>), tra cui anche quelli ottenuti da fonti previdenziali (<ref-law>). Secondo l'<ref-law>, le rendite vitalizie ed i proventi da vitalizi sono tuttavia imponibili soltanto nella misura del 40 %. Questa limitazione tiene conto che una rendita vitalizia è costituita in parte dagli interessi maturati sul capitale da cui proviene ed in parte dal rimborso del capitale stesso (<ref-ruling> consid. 5.4.1; <ref-ruling> consid. 7.6.5). L'imposizione solo parziale delle rendite percepite costituisce una soluzione schematica per assoggettare all'imposta unicamente la componente di reddito ed escludere quella di rimborso del capitale (sentenza 2A.366/2000 del 15 novembre 2001 consid. 2a, in StE 2002 B 26.12 n. 6). Questo regime legislativo si applica simmetricamente anche al debitore della rendita. In base all'<ref-law>, le rendite vitalizie versate sono infatti deducibili dai proventi solo nella misura del 40 %.
2.2 L'ordinamento illustrato è stato introdotto dalla legge federale del 19 marzo 1999 sul programma di stabilizzazione 1998 (RU 1999 2374), entrata in vigore il 1° gennaio 2001. In precedenza le rendite percepite erano imponibili nella misura del 60 % (art. 22 cpv. 3 vLIFD; RU 1991 1192), percentuale che è poi stata ridotta in quanto ritenuta troppo elevata per essere riferita soltanto alla componente di interessi (<ref-ruling> consid. 5.4.3; sentenza 2C_596/2007 del 24 giugno 2008 consid. 4.3). D'altra parte, le rendite versate erano integralmente deducibili, ma il debitore che aveva ottenuto una controprestazione aveva diritto alla deduzione soltanto a partire dal momento in cui il totale delle rendite versate superava il valore della controprestazione (art. 33 cpv. 1 lett. b vLIFD; RU 1991 1195). Nel regime ancora precedente, ovvero applicabile fino al 1° gennaio 1995 (cfr. RU 1991 1253), il debitore della rendita poteva di massima dedurre integralmente le prestazioni effettuate senza nemmeno soggiacere alla limitazione introdotta dall'art. 33 cpv. 1 lett. b vLIFD (cfr. l'art. 22 cpv. 1 lett. d del decreto federale del 9 dicembre 1940 per la riscossione di un'imposta per la difesa nazionale [DIFD; RU 1940 2107]; cfr. anche ERNST KÄNZIG, Wehrsteuer, I. Teil, 2a ed., 1982, n. 146 segg. ad art. 22 DIFD; GLADYS LAFFELY MAILLARD, in Commentaire romand, Impôt fédéral direct, 2008, n. 18 ad <ref-law>).
2.3 A partire dal 1° gennaio 2001 vale quindi il cosiddetto principio di corrispondenza nel trattamento fiscale del creditore e del debitore di una rendita vitalizia. Inoltre, per quanto riguarda il debitore, il modello schematico fondato sulla deduzione percentuale forfettaria degli interessi sui debiti ha sostituito il più complicato sistema di deduzione in funzione della controprestazione ottenuta (cfr. Messaggio del 28 settembre 1998 concernente il programma di stabilizzazione 1998, FF 1999 3, in part. pag. 101 ad <ref-law>). Diversamente che nel regime applicabile in precedenza, nella nuova regolamentazione le modalità di finanziamento della rendita vitalizia non hanno poi più alcuna rilevanza sull'imposizione fiscale e ciò in riferimento sia al creditore che al debitore della rendita (HANS-JÜRG NEUHAUS, Die steuerlichen Massnahmen im Bundesgesetz vom 19. März 1999 über das Stabilisierungsprogramm 1998, ASA 62 pag. 273 segg., in part. pag. 294; LAFFELY MAILLARD, op. cit., n. 19 ad <ref-law>; PETER LOCHER, Kommentar zum DBG. I. Teil, 2001, n. 27 ad <ref-law>). Per ragioni di praticabilità queste modifiche nel sistema di imposizione delle rendite sono state adottate senza volutamente corredarle di disposizioni transitorie (ZIGERLIG/JUD, in Kommentar zum schweizerischen Steuerrecht, vol. I/2a, 2a ed., 2008, n. 15 ad <ref-law>; RICHNER/FREI/KAUFMANN, Handkommentar zum DBG, 2003, n. 46 ad <ref-law>; NEUHAUS, op. cit., pag. 295; LAFFELY MAILLARD, op. cit., n. 18 ad <ref-law>; cfr. anche sentenza 2P.170/2003 del 13 febbraio 2004 consid. 8, in ASA 74 pag. 161).
3. 3.1 Nel caso di specie, è incontestato che negli anni di computo 1999/2000 (periodo fiscale 2001/2002) l'insorgente abbia versato alla seconda moglie di suo padre l'importo annuo medio di fr. 54'039.--, quale quota di un mezzo, di sua incombenza, della rendita vitalizia. In base all'<ref-law> in vigore dal 1° gennaio 2001, tale prestazione è deducibile dai proventi lordi soltanto nella misura del 40 %, corrispondente a fr. 21'216.--.
3.2 Come osservato, sotto il profilo del regime legale applicabile al periodo fiscale in discussione è irrilevante che la rendita trovi fondamento in un contratto oneroso oppure in un atto di disposizione a titolo gratuito. In ogni caso, diversamente da quanto sostenuto dai ricorrenti, la Corte cantonale ha a giusta ragione ammesso che l'obbligo di versamento della rendita è sorto in cambio di una controprestazione. Nel contratto del 5 marzo 1966 la beneficiaria della rendita ha infatti rinunciato ai diritti derivanti dall'adozione del regime matrimoniale ordinario nonché a qualsiasi pretesa ereditaria nei confronti del suo futuro marito. Certo, anche quest'ultimo ha a sua volta rinunciato a far valere diritti sulla sostanza posseduta dalla moglie, ma le pattuizioni intervenute hanno comunque accresciuto le aspettative ereditarie dei figli di primo letto rispetto a quelle che avrebbero normalmente potuto vantare dopo il nuovo matrimonio del padre. La rendita vitalizia che i figli si sono impegnati a versare a partire dal decesso del genitore rappresenta pertanto la controprestazione economica di tali vantaggi ereditari (cfr. sentenza 2A.126/2000 del 15 agosto 2000 consid. 2b, in StE B 27.2 n. 24).
3.3 L'obbligo condizionato di versare la rendita è divenuto effettivo nel 1978, quando la creditrice aveva 62 anni, e nel periodo di computo in esame durava da più di vent'anni. Di conseguenza è senz'altro possibile, come sostengono i ricorrenti, che la controprestazione a suo tempo ottenuta risultasse ormai compensata. Tuttavia l'insorgente e la moglie, durante tutti gli anni precedenti, hanno sempre potuto dedurre integralmente le rendite versate. Tale deduzione è certo stata concessa nel rispetto dell'art. 22 cpv. 1 lett. d DIFD, mentre è invero più opinabile che fosse poi corretta anche sotto il profilo dell'art. 33 cpv. 1 lett. b vLIFD. Ad ogni modo, come giustamente ritenuto dalla Corte cantonale, essa ha permesso agli interessati di detrarre dal reddito le spese effettuate per estinguere un debito, in contrasto con il principio sancito dall'art. 34 lett. c LIFD, rispettivamente dall'art. 23 DIFD. I contribuenti sono quindi stati fiscalmente avvantaggiati, considerato anche che la controprestazione ricevuta, oltre che per l'imposta sul reddito, non è stata presa in considerazione nemmeno sotto il profilo dell'imposta di successione. Come risulta dalla decisione dell'Ufficio cantonale delle imposte di successione e donazione del 6 aprile 1978, l'importo capitalizzato della rendita vitalizia, calcolato in fr. 420'000.--, è infatti stato computato alla creditrice della rendita e dedotto dalla quota patrimoniale devoluta ai figli del defunto.
A questo stadio non può evidentemente essere rivisto il trattamento fiscale applicato alle rendite versate in passato. Tuttavia, con la possibilità di dedurre in futuro ancora soltanto il 40 % della quota parte della rendita, viene semplicemente neutralizzata una parte dei precedenti vantaggi fiscali. Il risultato che ne deriva non appare per nulla ingiusto. Del resto il nuovo ordinamento è stato volutamente concepito in maniera schematica (FF 1999 100) ed una simile scelta legislativa è comunque vincolante per il Tribunale federale (<ref-law>).
3.4 Il nuovo regime fiscale avrebbe potuto risultare per certi versi penalizzante per i contribuenti soltanto se le rendite pagate in passato fossero state sottoposte all'art. 33 cpv. 1 lett. b vLIFD durante la fase di compensazione della controprestazione ed ora, dopo l'estinzione del debito su cui si fondano (cosiddetta "Rentenstammschuld"), in base alla stessa norma essi sarebbero al beneficio della deduzione integrale. Considerato che la deduzione è sempre stata riconosciuta in misura completa, questa situazione tuttavia non si verifica.
Il fatto che ora la deduzione venga limitata al 40 % della rendita versata non costituisce nemmeno un caso di retroattività in senso proprio. Nel diritto fiscale un simile caso si presenta infatti se l'obbligo contributivo in quanto tale si fonda su fatti accaduti prima dell'entrata in vigore della legge, ma non se tali fatti sono determinanti unicamente per stabilire l'entità dell'imposizione (sentenza 2P.170/2003 del 13 febbraio 2004 consid. 8.5, in ASA 74 pag. 161; sentenza 2A.557/2001 dell'11 luglio 2002 consid. 1.3, in ASA 72 pag. 663; cfr. anche <ref-ruling> consid. 5c/dd).
Nella misura in cui non ne risulti una violazione di diritti acquisiti o del principio dell'affidamento (<ref-law>), non è inoltre vietato dalla costituzione prevedere che una fattispecie duratura comporti, a partire da un dato momento, conseguenze giuridiche diverse da quelle sancite fino ad allora (<ref-ruling> consid. 4.1, 1 consid. 4.3; <ref-ruling> consid. 4a). In concreto, la vantaggiosa imposizione concessa in passato non ha creato alcun diritto acquisito e le autorità fiscali non hanno garantito espressamente ai ricorrenti, con un atto individuale, il mantenimento del pregresso regime giuridico. I cambiamenti legislativi intervenuti, come detto comunque vincolanti (<ref-law>), appaiono quindi in ogni caso rispettosi dell'ordinamento costituzionale.
3.5 Certo, il nuovo trattamento fiscale riservato alle rendite vitalizie può apparire insoddisfacente ai ricorrenti anche perché il loro obbligo di versamento deriva da un accordo contrattuale assai datato e che non può più essere modificato. Tuttavia queste circostanze non portano a conclusioni differenti di fronte alla scelta del legislatore di rinunciare a prevedere disposizioni transitorie. Tale scelta si fonda peraltro su pertinenti ragioni di praticabilità. In effetti, considerato che le normative fiscali devono essere applicate in un gran numero di procedimenti, il precedente sistema della deduzione in funzione della controprestazione ottenuta si era rivelato eccessivamente complicato ed un regime transitorio avrebbe accresciuto ancor più le difficoltà di applicazione. Va inoltre rilevato che il programma di stabilizzazione 1998 era stato adottato essenzialmente allo scopo di garantire risorse finanziarie alla Confederazione (FF 1999 4 segg.). Anche la soluzione schematica adottata nell'ambito in esame deve perciò essere valutata in funzione di tale finalità. A fronte dell'adeguamento al ribasso dell'imposizione delle rendite in quanto tali (40 % anziché 60 %), pure in quest'ottica una certa compensazione a carico dei debitori appare una soluzione logica e coerente.
4. Da quanto precede discende che l'interpretazione e l'applicazione dell'<ref-law> effettuate dalle autorità fiscali del Canton Ticino non risultano lesive del diritto federale. Laddove si riferisce all'imposta federale diretta, il ricorso in materia di diritto pubblico, nella misura in cui è ammissibile, deve pertanto essere respinto.
5. Per quanto concerne l'imposta cantonale e comunale, gli art. 7 cpv. 2 e 9 cpv. 2 lett. b LAID così come gli art. 21 cpv. 3 e 32 cpv. 1 lett. b della legge tributaria ticinese, del 21 giugno 1994 (LT; RL/TI 10.2.1.1) corrispondono alla lettera agli art. 22 cpv. 3 e 33 cpv. 1 lett. b LIFD. Le considerazioni esposte a proposito dell'imposta federale diretta si applicano quindi, per analogia, anche all'imposizione delle rendite vitalizie sotto il profilo dell'imposta cantonale e comunale. Anche l'esito del gravame non può pertanto che essere identico.
6. Secondo soccombenza, le spese processuali vanno poste a carico dei ricorrenti, con responsabilità solidale (art. 65 e 66 cpv. 1 e 5 LTF). Non si assegnano ripetibili ad autorità vincenti (<ref-law>).

Per questi motivi, il Tribunale federale pronuncia:
1. In riferimento all'imposta federale diretta, il ricorso in materia di diritto pubblico, nella misura in cui è ammissibile, è respinto.
2. In riferimento all'imposta cantonale e comunale, il ricorso in materia di diritto pubblico, nella misura in cui è ammissibile, è respinto.
3. Le spese giudiziarie di fr. 2'500.-- sono poste a carico dei ricorrenti, in solido.
4. Comunicazione ai ricorrenti, alla Divisione delle contribuzioni e alla Camera di diritto tributario del Tribunale d'appello del Cantone Ticino, nonché all'Amministrazione federale delle contribuzioni, Divisione principale imposta federale diretta, imposta preventiva, tasse di bollo.