Fatti:
A. Il 13 aprile 1979 D._ è deceduto lasciando quali eredi legali la moglie C._ e i figli minorenni A._, E._ e B._. Avendo la vedova optato per l'usufrutto su metà della successione (art. 462 vCC), nel certificato ereditario del 21 giugno 1979 la qualità di eredi è stata riconosciuta unicamente ai suoi figli.
A.a Tra gli attivi della successione, tuttora intestata alla Comunione ereditaria, vi è la part. xxx sulla quale sorge una casa d'abitazione con quattro appartamenti e undici garage.
A.b Due appartamenti e sei autorimesse sono stati occupati da B._ e A._ a far tempo dal 1990 rispettivamente dal 1991 e sino al 31 dicembre 2006.
A.c Agli inizi del 2007 C._ ha chiesto ai figli di versarle un indennizzo per l'uso degli appartamenti e dei garage durante circa sedici anni. Senza successo.
B. Il 25 giugno 2007 C._ ha dunque adito la Pretura del Distretto di Lugano chiedendo la condanna di A._ e B._ al pagamento di fr. 361'440.-- rispettivamente di fr. 288'099.--, oltre interessi. A sostegno della sua pretesa essa ha addotto che se un membro della comunione ereditaria utilizza, prima della divisione, un bene facente parte della successione a titolo privato, egli deve alla comunione ereditaria rispettivamente all'usufruttuario un indennizzo per tale uso, calcolato tenendo conto delle pigioni e delle spese accessorie che avrebbero potuto essere incassate.
A._ e B._ si sono opposti alla petizione eccependo, tra l'altro, la carenza del presupposto processuale della preventiva conciliazione in materia di locazione. Infatti, a loro modo di vedere, pur non avendolo dichiarato espressamente, la madre avrebbe avviato la causa giudiziaria per ottenere il corrispettivo di un contratto di locazione.
Limitata l'udienza preliminare all'esame dell'eccezione (art. 181 CPC/TI), con sentenza dell'11 settembre 2008 la giudice di primo grado ha concluso per la sua infondatezza, non essendo realizzato un elemento essenziale del contratto di locazione, ovvero l'esistenza di reciproco consenso circa il carattere oneroso dell'utilizzo degli appartamenti e delle autorimesse; inoltre, l'ammontare di una qualsivoglia pigione non era determinato né determinabile. In assenza di un contratto di locazione, la giudice ha negato la competenza dell'ufficio di conciliazione.
C. Dello stesso avviso la II Camera civile del Tribunale d'appello del Cantone Ticino, che il 30 settembre 2008 ha respinto l'impugnativa interposta da A._ e B._, ponendo a loro carico fr. 1'030.-- (tassa di giustizia di fr. 1'000.-- e spese di fr. 30.--) per oneri processuali.
D. Il 23 ottobre 2008 A._ e B._ sono insorti dinanzi al Tribunale federale con un ricorso in materia civile, con ricorso sussidiario in materia costituzionale, volto a ottenere, previa concessione dell'effetto sospensivo al gravame, l'annullamento della sentenza cantonale e il rinvio della causa alla Corte ticinese per nuovo giudizio. In via subordinata hanno postulato la riduzione della tassa di giustizia da fr. 1'000.-- a fr. 75.--.
La domanda di conferimento dell'effetto sospensivo è stata accolta il 20 novembre 2008.
Nella risposta del 27 novembre 2008 C._ ha proposto l'integrale reiezione dei ricorsi e la conferma della sentenza cantonale. L'autorità cantonale non ha invece presentato osservazioni.
Diritto:
1. Il Tribunale federale si pronuncia d'ufficio e con pieno potere d'esame sulla propria competenza e sull'ammissibilità dell'impugnativa (art. 29 cpv. 1 LTF; DTF 133 III 462 consid. 2, 629 consid. 2).
2. Emanata in una causa civile ai sensi dell'art. 72 LTF la sentenza cantonale può essere impugnata mediante il rimedio ordinario del ricorso in materia civile.
2.1 Nelle cause di carattere pecuniario il ricorso è ammissibile solo se il valore litigioso ammonta almeno a fr. 15'000.-- nelle controversie in materia di diritto di locazione (art. 74 cpv. 1 lett. a LTF), rispettivamente a fr. 30'000.-- in tutti gli altri casi (art. 74 cpv. 1 lett. b LTF). In concreto il valore litigioso è in ogni caso raggiunto, indi per cui il ricorso in materia civile è senz'altro proponibile.
2.2 Dalla proponibilità del ricorso in materia civile, nell'ambito del quale - contrariamente a quanto sembrano ritenere i ricorrenti - può essere fatta valere anche la violazione dei diritti costituzionali, trattandosi di diritto federale (art. 95 lett. a LTF; DTF 133 III 446 consid. 3.1, 462 consid. 2.3), discende l'inammissibilità, d'acchito, del ricorso sussidiario in materia costituzionale. Giusta l'art. 113 LTF il Tribunale federale giudica infatti i ricorsi in materia costituzionale interposti contro le decisioni cantonali di ultima istanza solo qualora non sia aperta la via del ricorso ordinario di cui agli art. 72-89 LTF.
2.3 A norma dell'art. 90 LTF il ricorso è di principio proponibile contro le decisioni che pongono fine al procedimento, contro le decisioni parziali indicate nell'art. 91 LTF così come contro decisioni pregiudiziali e incidentali separate dal merito che riguardano la competenza o la ricusazione (art. 92 LTF), trattandosi di questioni che necessitano di essere chiarite immediatamente e non possono più essere sollevate ulteriormente.
La decisione in concreto impugnata non pone fine al procedimento. Nella sentenza dell'11 settembre 2008, confermata dal Tribunale d'appello, la Pretora ha infatti respinto l'eccezione processuale sollevata dai qui ricorrenti - i quali ritenevano che la lite avrebbe dovuto venir preventivamente sottoposta all'Ufficio di conciliazione in materia di locazione - e ha deciso di proseguire con l'istruzione della causa. Si tratta di una decisione incidentale notificata separatamente dal merito e concernente la competenza ai sensi dell'art. 92 cpv. 1 LTF, direttamente impugnabile al Tribunale federale.
2.4 Interposto tempestivamente (art. 100 cpv. 1 LTF) dalla parte soccombente in sede cantonale (art. 76 cpv. 1 lett. a LTF) contro una decisione incidentale sulla competenza (art. 92 cpv. 1 LTF) pronunciata dall'autorità ticinese di ultima istanza (art. 75 cpv. 1 LTF) in una causa civile di carattere pecuniario il cui valore litigioso supera ampiamente i limiti posti dall'art. 74 cpv. 1 LTF, il ricorso risulta per il resto ricevibile, perlomeno sotto questo profilo.
3. L'ammissibilità del ricorso suscita infatti delle perplessità sotto il profilo del suo contenuto (art. 42 LTF).
3.1 Giusta l'art. 42 cpv. 1 LTF il ricorso deve "contenere le conclusioni", ovverosia specificare le modifiche auspicate. Dato che il ricorso in materia civile ha principalmente effetto riformatorio (art. 107 cpv. 2 LTF) la parte ricorrente non può, in linea di massima, limitarsi a postulare l'annullamento della pronunzia impugnata. Il rinvio all'autorità cantonale rimane tuttavia inevitabile - e la semplice domanda in tal senso ammissibile - ogniqualvolta il giudizio impugnato non contenga gli accertamenti di fatto necessari per l'applicazione del diritto (DTF 133 III 489 consid. 3.1; cfr. anche DTF 134 III 235 consid. 2).
3.2 Nell'allegato sottoposto al Tribunale federale i ricorrenti, che domandano appunto il rinvio degli atti all'autorità ticinese, non indicano per quale motivo tale eventualità sarebbe realizzata nella fattispecie. Essi non solo non pretendono che gli accertamenti effettuati in sede cantonale non permetterebbero di pronunciarsi sulla questione litigiosa - dinanzi al Tribunale d'appello avevano d'altro canto chiesto l'annullamento del giudizio di primo grado e non il rinvio degli atti alla Pretora - ma anzi dichiarano esplicitamente che "la natura locativa della pretesa dedotta in lite emerge chiaramente [non solo] dal substrato fattuale [...]".
In queste circostanze il ricorso potrebbe probabilmente venir dichiarato inammissibile, perlomeno su questo punto, per carenza di conclusioni conformi all'art. 42 cpv. 1 LTF. La questione non necessita tuttavia di essere ulteriormente discussa, dato che in ogni caso esso va respinto per i motivi che seguono.
4. In ingresso al loro allegato i ricorrenti precisano di volersi prevalere della violazione del diritto federale (art. 95 lett. a LTF) e dell'accertamento manifestamente arbitrario e inesatto dei fatti (art. 97 cpv. 1 LTF), "segnatamente laddove si afferma che la vertenza sarebbe di natura ereditaria e non attinente ad una locazione e quindi non soggetta alle norme speciali imperative degli art. 274 segg. CO". Essi criticano inoltre l'ammontare posto a loro carico quale tassa di giustizia per la sede di appello, siccome non conforme a quanto disposto dall'art. 24 lett. a della legge del Cantone Ticino del 14 dicembre 1965 sulla tariffa giudiziaria (LTG; RL 3.1.1.5).
4.1 Ora, con il ricorso in materia civile può essere fatta valere la violazione del diritto così come determinato dall'art. 95 lett. a - lett. e LTF (diritto svizzero) e dall'art. 96 LTF (diritto estero). Le norme di diritto cantonale sulla tariffa giudiziaria non rientrano fra i motivi di ricorso elencati dall'art. 95 LTF. Dato che il diritto federale, esplicitamente menzionato dall'art. 95 lett. a LTF, include anche i diritti costituzionali dei cittadini (DTF 133 III 446 consid. 3.1), è tuttavia possibile far valere la violazione del divieto dell'arbitrio - garantito dall'art. 9 Cost. - nell'interpretazione rispettivamente nell'applicazione del diritto cantonale, come già sotto l'egida dell'OG (DTF 133 III 462 consid. 2.3 pag. 466).
4.2 Giusta l'art. 42 cpv. 2 LTF nell'allegato ricorsuale occorre spiegare in modo conciso i motivi per i quali l'atto impugnato viola il diritto. Se questa condizione è soddisfatta, il Tribunale federale applica il diritto d'ufficio (art. 106 cpv. 1 LTF; DTF 134 II 244 consid. 2.1).
Le esigenze di motivazione quando viene fatta valere la violazione di diritti fondamentali sono più rigorose. Il Tribunale federale esamina infatti queste censure solo se il ricorrente le ha debitamente sollevate e motivate, come prescritto dall'art. 106 cpv. 2 LTF (DTF 134 II 244 consid. 2.2). Il campo di applicazione di questa norma corrisponde a quello del precedente ricorso di diritto pubblico per violazione dei diritti costituzionali e valgono pertanto le regole di motivazione poste dall'art. 90 cpv. 1 lett. b OG (DTF 133 III 638 consid. 2).
4.3 In linea di principio, il Tribunale federale fonda il suo ragionamento giuridico sull'accertamento dei fatti svolto dall'autorità inferiore (art. 105 cpv. 1 LTF); giusta l'art. 105 cpv. 2 LTF può scostarsene solo se è stato svolto in violazione del diritto ai sensi dell'art. 95 LTF o in modo manifestamente inesatto, ovvero arbitrario (DTF 133 II 249 consid. 1.2.2 pag. 252). L'accertamento dei fatti contenuto nella sentenza criticata può essere impugnato alle stesse condizioni (art. 97 cpv. 1 LTF); occorre inoltre che l'eliminazione dell'asserito vizio possa influire in maniera determinante sull'esito della causa (art. 97 cpv. 1 LTF).
Tocca alla parte che propone una fattispecie diversa da quella contenuta nella sentenza impugnata esporre in maniera circostanziata i motivi per i quali ritiene adempiute queste condizioni. Qualora venga fatto valere che nel quadro dell'accertamento dei fatti l'autorità cantonale ha violato il divieto dell'arbitrio, sancito dall'art. 9 Cost., la relativa censura deve ottemperare i requisiti di motivazione posti dall'art. 106 cpv. 2 LTF.
Come detto, il campo di applicazione di questa norma corrisponde a quello del precedente ricorso di diritto pubblico; di conseguenza, il ricorrente che lamenta una violazione del divieto d'arbitrio non può limitarsi a criticare la decisione impugnata come in una procedura d'appello, dove l'autorità di ricorso gode di cognizione libera, opponendo semplicemente la propria opinione a quella dell'autorità cantonale, bensì deve dimostrare, attraverso un'argomentazione chiara e dettagliata, che la decisione impugnata è manifestamente insostenibile, e ciò non solo nella sua motivazione bensì anche nell'esito (DTF 133 III 585 consid. 4.1 pag. 589; 130 I 258 consid. 1.3 pag. 262).
4.4 In concreto, come si vedrà qui di seguito, a sostegno della tesi secondo cui la vertenza avrebbe natura locativa i ricorrenti propongono un'argomentazione nella quale questioni diritto e questioni di fatto si sovrappongono e si confondono; laddove criticano l'applicazione del diritto cantonale, essi dimenticano invece di sostanziare adeguatamente l'arbitrio.
5. La controversia verte sulla natura giuridica della pretesa creditoria avanzata dall'opponente, dalla quale dipende il seguito della procedura. Qualora si dovesse ammettere che la pretesa è di natura successoria, come affermato dall'opponente e ritenuto dalle autorità giudiziarie cantonali, la Pretora potrebbe continuare con l'istruzione della causa; se venisse invece ammessa la sua natura locativa, addotta dai ricorrenti, la petizione verrebbe dichiarata irricevibile, il litigio dovendo venir innanzitutto sottoposto al competente Ufficio di conciliazione.
5.1 Il diritto federale impone infatti ai Cantoni di istituire autorità di conciliazione incaricate di cercare d'indurre le parti all'intesa in caso di litigi concernenti la locazione di immobili (art. 274a cpv. 1 lett. b CO) e, di principio, obbliga le parti a sottoporre ogni contestazione riguardante contratti di locazione di locali d'abitazione e commerciali al competente ufficio di conciliazione prima di poter adire il giudice civile (DTF 133 III 645 consid. 1 con rinvii).
5.2 Nella sentenza impugnata l'applicabilità di questa norma alla fattispecie in esame è stata negata già per il motivo che le parti non hanno mai stipulato un contratto di locazione, nemmeno di fatto, e nessuno ha mai preteso il contrario. In queste circostanze - hanno osservato i giudici del Tribunale d'appello - i ricorrenti sono malvenuti a sostenere che la madre reclama loro il pagamento di pigioni arretrate. Negli allegati introduttivi di causa essa non ha d'altro canto fatto il benché minimo accenno a un eventuale rapporto di locazione, mentre ha chiaramente spiegato che la procedura giudiziaria da lei avviata mira a ottenere un indennizzo per il motivo che i due figli, membri della comunione ereditaria, hanno utilizzato a titolo privato, prima della divisione, un bene facente parte della successione. Richiamandosi a una sentenza del Tribunale federale del 23 gennaio 2002, i magistrati ticinesi hanno concluso che, pur dovendo tale pretesa essere quantificata facendo capo per analogia ai principi che disciplinano il contratto di locazione, essa è chiaramente di natura successoria. Indi per cui l'ufficio di conciliazione in materia di locazione non è competente per esaminarla.
6. A mente dei ricorrenti, il solo fatto che l'opponente abbia fondato la sua pretesa sul diritto successorio, segnatamente sull'art. 602 CC, non esclude automaticamente l'applicazione dell'art. 274 segg. CO. Sulla scorta di quanto deciso nella DTF 120 II 112 consid. 3c, essi sostengono che basta che dal substrato fattuale della pretesa risulti una fattispecie attinente al diritto di locazione. Secondo loro, infatti, la pretesa avanzata in causa non può che avere natura locativa, donde l'obbligo di adire preventivamente l'Ufficio di conciliazione in materia di conciliazione.
Inoltre, negano che l'opponente possa legittimamente richiamarsi all'art. 602 CC, in quanto usufruttuaria e non membro della Comunione ereditaria.
Entrambi gli argomenti sono votati all'insuccesso.
6.1 Nella decisione citata dai ricorrenti, il Tribunale federale ha stabilito che gli art. 274 segg. CO determinano la procedura e il foro quando le pretese vantate in causa concernono l'uso della cosa locata e riguardano quindi una fattispecie attinente al diritto di locazione (DTF citata consid. 3).
Contrariamente a quanto asseverato nel gravame, questa eventualità non si realizza in concreto. La tesi per cui dal substrato fattuale della vertenza emergerebbe una fattispecie attinente al diritto di locazione non trova infatti conforto nella sentenza impugnata, nella quale è stato accertato che le parti non hanno mai concluso un contratto di locazione, nemmeno di fatto, né hanno mai pattuito una pigione o consapevolmente rinunciato alla stessa. Stando a quanto constatato dai giudici ticinesi - e non contestato - nessuna delle parti in causa ha mai ritenuto che i ricorrenti occupassero gli appartamenti e i garage in virtù di un contratto di locazione. Il litigio non concerne dunque l'"uso della cosa locata".
6.2 La tesi dei ricorrenti, secondo cui la richiesta di un corrispettivo per la concessione in uso degli appartamenti e dei garage durante un certo periodo non può che fondarsi su di un contratto di locazione è errata.
Come osservato dai giudici ticinesi, il Tribunale federale ha già precisato che una simile pretesa può anche trarre spunto da diritti di tipo reale rispettivamente successorio; in tal caso il versamento di una somma di denaro mira a indennizzare gli altri eredi per la perdita della possibilità di utilizzare l'immobile durante un certo periodo (sentenza 4C.284/2000 del 23 gennaio 2002 consid. 2a).
6.3 La questione di sapere se l'opponente possa effettivamente far valere a una simile pretesa, nella sua posizione di usufruttuaria, e se la pretesa sia benfondata, esula dall'attuale procedura e verrà giudicata dalla Pretora con la sentenza di merito.
Ciò che conta, nel quadro del presente procedimento, è che fra le parti non vi è mai stato un contratto di locazione e che l'opponente non fonda la propria domanda su di un simile rapporto giuridico bensì su altri diritti, concepibili, ai quali l'art. 274a CO non risulta applicabile.
6.4 Ne discende che la decisione dei giudici ticinesi di negare la competenza dell'Ufficio di conciliazione in materia di locazione a trattare preventivamente la controversia è conforme al diritto federale.
7. Come preannunciato, richiamandosi all'art. 24 lett. a della LTG in via subordinata i ricorrenti chiedono la riduzione della tassa di giustizia da fr. 1'000.-- a fr. 75.--, pari alla metà della tassa di giustizia imposta loro in prima sede, di fr. 150.--.
7.1 L'art. 24 lett. a LTG stabilisce che per i giudizi di merito nelle cause appellate dinanzi alla Camera civile del Tribunale d'appello, la tassa di giustizia corrisponde alla "metà della tassa prevista per la prima istanza, limitatamente al valore appellato".
A mente dei ricorrenti, con il termine "prevista - secondo la prassi abituale notoriamente seguita dal Tribunale d'appello - deve essere intesa la tassa che il giudice di prima istanza ha fissato (previsto), quindi con un riferimento concreto alla problematica oggetto del giudicato, e non con riferimento ai limiti generali fissati dalla LTG. Né sembra poter giovare" - proseguono i ricorrenti - "il fatto che la lettera b dell'art. 24 LTG preveda per altri tipi di provvedimenti l'applicazione dell'art. 19 LTG (da fr. 30.-- a fr. 10'000.--) [...], l'art. 19 LTG valendo principalmente in caso di provvedimenti autonomi del Tribunale d'appello. [...] Concretamente, di fronte a una tassa di giustizia di fr. 150.-- (più fr. 50.-- di spese) stabilita dal Pretore [...], la tassa di fr. 1'000.-- (più fr. 30.-- di spese) imposta dal Tribunale d'appello appare arbitrariamente elevata rispetto ai limiti stabiliti dalla LTG".
7.2 Pur prevalendosi di una violazione del divieto dell'arbitrio nell'applicazione dell'art. 24 LTG - ciò che è di per sé ammissibile (cfr. quanto esposto al consid. 4.2) - i ricorrenti non sostanziano adeguatamente la loro censura, dato che si limitano a opporre la loro interpretazione ed applicazione del diritto cantonale a quella effettuata dai giudici cantonali (cfr. quanto esposto al consid. 4.3). In particolare, essi non forniscono alcun esempio concreto circa l'asserita "prassi abituale notoriamente seguita dal Tribunale d'appello" di dimezzare la tassa di giustizia fissata in prima sede.
7.3 Sia come sia, nella sentenza impugnata la Corte ticinese non ha spiegato in maniera dettagliata i criteri da lei applicati per la determinazione della tassa di giustizia, salvo la precisazione secondo cui il valore di causa ritenuto ai fini di tale calcolo era di fr. 649'539.--.
I ricorrenti non prendono posizione su tale questione.
Considerato che, come detto, l'art. 24 lett. a LTG stabilisce che la tassa di giustizia corrisponde alla "metà della tassa prevista per la prima istanza, limitatamente al valore appellato", e che l'art. 17 cpv. 1 LTG - che disciplina il calcolo della tassa di giustizia in prima sede - prevede, per le cause di valore litigioso tra fr. 500'001.-- e fr. 1'000'000.-- una tassa di giustizia tra fr. 3'000.-- e fr. 18'000.--, la decisione dei giudici ticinesi di porre a carico dei ricorrenti una tassa di giustizia di fr. 1'000.--, inferiore alla metà della tassa minima prevista dalla tariffa, non appare arbitraria.
7.4 Anche su questo punto il ricorso si avvera dunque infondato, nella misura in cui è ammissibile.
8. In conclusione, il ricorso sussidiario in materia costituzionale è inammissibile e il ricorso in materia civile dev'essere respinto, nella misura in cui è ammissibile.
Le spese giudiziarie e le ripetibili seguono la soccombenza (art. 66 cpv. 1 e 5 LTF, art. 68 cpv. 1, 2 e 4 LTF).
Per questi motivi, il Tribunale federale pronuncia:
1. Il ricorso sussidiario in materia costituzionale è inammissibile.
2. Nella misura in cui è ammissibile, il ricorso in materia civile è respinto.
3. Le spese giudiziarie di fr. 6'000.-- sono poste a carico dei ricorrenti, in solido, con l'obbligo di rifondere all'opponente, sempre con vincolo di solidarietà, fr. 7'000.-- a titolo di ripetibili della sede federale.
4. Comunicazione ai patrocinatori delle parti e alla II Camera civile del Tribunale d'appello del Cantone Ticino.