Fatti:
A. Nell'ambito della procedura di contestazione dell'inventario nella divisione ereditaria fu I._, con decisione 1° giugno 2010 il Pretore del distretto di Riviera ha estromesso le conclusioni di A._ dal fascicolo processuale siccome intempestive e ha ordinato al notaio divisore di iscrivere nell'inventario della successione un credito di fr. 250'000.-- oltre interessi al 5 % dal 23 maggio 1990 verso A._, condannato a versare tale somma (pari al prezzo del fondo rrr di S._ vendutogli dal defunto padre in data 23 aprile 1990) alla relativa Comunione ereditaria. Il Giudice di prime cure ha inoltre condannato A._ a collazionare le particelle ttt, uuu, vvv, www, un mezzo della particella xxx e un mezzo della particella yyy di S._, fissandogli un termine di dieci giorni dal passaggio in giudicato dalla sentenza per comunicare al notaio divisore la sua scelta fra le seguenti possibilità: conferire tali fondi in natura alla Comunione ereditaria, imputare il valore di fr. 361'698.-- sulla sua quota ereditaria oppure versare la somma di fr. 361'698.-- alla Comunione ereditaria.
B. Con sentenza 3 dicembre 2010 la I Camera civile del Tribunale d'appello del Cantone Ticino ha dichiarato irricevibile l'appello (appello e "istanza di ricorso") del 14 giugno 2010 presentato da A._ avverso la decisione pretorile.
C. Con un ricorso in materia civile ed un ricorso sussidiario in materia costituzionale del 21 gennaio 2011 A._ chiede al Tribunale federale di annullare la sentenza cantonale e di riformarla nel senso che il suo appello del 14 giugno 2010 sia accolto.
Non sono state richieste risposte ai ricorsi.

Diritto:
1. 1.1 La sentenza impugnata costituisce una decisione finale ai sensi dell'art. 90 LTF ed è stata pronunciata dall'autorità di ultima istanza del Cantone Ticino (art. 75 cpv. 1 LTF) in una causa civile (art. 72 cpv. 1 LTF) che supera il valore di lite minimo di fr. 30'000.-- previsto dall'art. 74 cpv. 1 lett. b LTF. Inoltrato tempestivamente (art. 46 cpv. 1 lett. c in relazione con l'art. 100 cpv. 1 LTF) da un ricorrente che ha già partecipato al procedimento dinanzi all'autorità inferiore (art. 76 cpv. 1 lett. a LTF) e ha un interesse giuridicamente protetto all'annullamento e alla modifica della sentenza impugnata fondato sulla sua qualità di erede (art. 76 cpv. 1 lett. b LTF, nel suo tenore in vigore fino al 31 dicembre 2010; v. art 132 cpv. 1 LTF), il ricorso in materia civile si rivela pertanto in linea di principio ammissibile.
In queste circostanze, vista la proponibilità del ricorso in materia civile, il ricorso sussidiario in materia costituzionale si appalesa di primo acchito inammissibile (art. 113 LTF; <ref-ruling> consid. 5).
1.2 Il Tribunale federale applica il diritto d'ufficio (art. 106 cpv. 1 LTF). Ciò nondimeno, giusta l'art. 42 cpv. 2 LTF, nei motivi del ricorso occorre spiegare in modo conciso perché l'atto impugnato viola il diritto. Ciò significa che il ricorrente deve almeno confrontarsi brevemente con i considerandi della sentenza impugnata pena l'inammissibilità del gravame (<ref-ruling> consid. 2.1). Giova poi ricordare che il Tribunale federale esamina la violazione di diritti fondamentali soltanto se il ricorrente ha sollevato e motivato tale censura (art. 106 cpv. 2 LTF). Il ricorrente deve pertanto spiegare in modo chiaro e dettagliato, alla luce dei considerandi della sentenza impugnata, in che modo sarebbero stati violati diritti costituzionali (<ref-ruling> consid. 1.2 con rinvii).
Poiché il divieto dell'arbitrio (art. 9 Cost.) rientra fra i diritti fondamentali, la censura relativa ad una sua violazione va espressamente sollevata e motivata nei predetti termini qualificati (<ref-ruling> consid. 2.2 con rinvii). Il ricorrente che lamenta una violazione del divieto dell'arbitrio non può limitarsi a criticare la decisione impugnata come in una procedura d'appello, dove l'autorità di ricorso gode di cognizione libera, opponendo semplicemente la propria opinione a quella dell'autorità cantonale (<ref-ruling> consid. 3).
1.3 Giusta l'art. 97 cpv. 1 LTF, il ricorrente può censurare l'accertamento dei fatti unicamente se è stato svolto in violazione del diritto ai sensi dell'art. 95 LTF oppure in maniera manifestamente inesatta; quest'ultima definizione corrisponde a quella di arbitrio (<ref-ruling> consid. 1.2.2).
2. 2.1 La Corte cantonale ha confermato che il Pretore del distretto di Riviera poteva estromettere le conclusioni scritte del ricorrente siccome tardive ai sensi dell'art. 280 cpv. 3 CPC/TI (norma secondo la quale le parti hanno la facoltà di produrre un allegato conclusionale fino a cinque giorni prima del dibattimento). Data la preclusione del ricorrente dalla lite (art. 169 cpv. 1 CPC/TI) in seguito all'omessa presentazione della risposta di causa ed alla reiezione della sua istanza volta alla restituzione in intero per vedersi riassegnare il termine entro cui inoltrare tale allegato, i Giudici cantonali hanno inoltre osservato che se anche egli avesse esposto oralmente le conclusioni comparendo al dibattimento finale, il loro contenuto non sarebbe in ogni modo stato ammissibile.
2.2 Il ricorrente ripropone l'argomento - già avanzato in sede di appello - secondo il quale l'art. 280 cpv. 3 CPC/TI non sarebbe applicabile alla fattispecie, ma unicamente l'art. 395 CPC/TI, disposizione che gli avrebbe permesso di riassumere le proprie conclusioni al dibattimento finale e, in caso di sua assenza, obbligato il Pretore del distretto di Riviera a tenere conto delle sue precedenti allegazioni contenute nel suo memoriale conclusivo. Il ricorrente considera inoltre che il Giudice di prime cure avrebbe dovuto informarlo della possibilità di partecipare al dibattimento finale e di esporre oralmente quanto espresso nelle conclusioni scritte ed invoca così una violazione del suo diritto di essere sentito.
2.3 Le norme di diritto cantonale di cui si può far valere la violazione dinanzi al Tribunale federale sono quelle in materia di diritti costituzionali cantonali ed in materia di diritti di voto dei cittadini (art. 95 lett. c/d LTF). Per contro, l'applicazione di altre norme di diritto cantonale non può essere rivista dal Tribunale federale se non nell'ottica della violazione del diritto federale (art. 95 lett. a LTF), segnatamente del divieto dell'arbitrio o di un altro diritto costituzionale (<ref-ruling> consid. 2.3).
In concreto, limitandosi esclusivamente a contrapporre la sua opinione a quella dell'autorità cantonale e riproponendo la medesima censura già sollevata in sede di appello, senza indicare in che modo la conferma da parte dei Giudici cantonali dell'estromissione dal fascicolo processuale del suo allegato conclusivo sia insostenibile e senza nemmeno invocare una violazione del divieto dell'arbitrio (art. 9 Cost.), il ricorrente non ha sollevato né tanto meno motivato la censura di arbitraria applicazione dell'art. 280 cpv. 3 CPC/TI conformemente alle esigenze poste dall'art. 106 cpv. 2 LTF (supra consid. 1.2). La censura potrebbe pertanto venir dichiarata inammissibile già per carente motivazione. Nel merito, comunque, la critica è manifestamente infondata. Checché ne dica il ricorrente la Corte cantonale non è incorsa nell'arbitrio confermando che le sue conclusioni scritte erano tardive: l'art. 280 cpv. 3 CPC/TI è infatti applicabile al caso di specie su rinvio dell'art. 399 CPC/TI (norma che richiama quale diritto suppletorio per la procedura accelerata le disposizioni sulla procedura ordinaria).
Per quanto attiene alla lamentata violazione del diritto di essere sentito, a prescindere dal fatto che la critica ricorsuale non si riferisce alla sentenza impugnata oggetto di ricorso, ma a quella dell'autorità di prime cure, e senza che occorra esprimersi in merito alla lesione denunciata, va rilevato che essa è stata in ogni modo sanata dal fatto che il ricorrente ha potuto esporre i suoi argomenti mediante appello alla Corte cantonale, che gode di piena cognizione in fatto ed in diritto e dispone pertanto dello stesso potere di esame dell'autorità alla quale viene attribuita la lesione dei diritti dedotti dall'art. 29 cpv. 2 Cost. (<ref-ruling> consid. 2.6.1). Il memoriale conclusivo è infatti stato esaminato dai Giudici cantonali che hanno giudicato gli argomenti ivi contenuti inammissibili in quanto fondati su fatti non desumibili dagli atti ed in contrasto con quelli addotti dagli opponenti, che il ricorrente precluso dalla lite non poteva dunque presentare (v. art. 169 cpv. 1 CPC/TI).
Le censure, nella ridotta misura in cui sono ammissibili, si appalesano pertanto infondate.
3. 3.1 Dopo aver messo in dubbio la ricevibilità degli argomenti presentati dal ricorrente in sede di appello a causa della sua preclusione dalla lite, la Corte cantonale li ha nondimeno discussi.
Essa ha considerato irricevibile per carenza di motivazione l'argomento secondo il quale il mancato pagamento di fr. 250'000.-- per l'acquisto della particella rrr di S._ non sarebbe stato sufficientemente dimostrato, il ricorrente non essendosi confrontato con il ragionamento pretorile che evidenziava come egli avesse dichiarato all'autorità fiscale un proprio debito di pari cifra nei confronti della Comunione ereditaria. La Corte cantonale sottolinea inoltre che il ricorrente nemmeno indica quando sarebbe avvenuto il versamento del prezzo della compravendita immobiliare.
I Giudici cantonali hanno altresì reputato irricevibile per insufficiente motivazione l'argomento del ricorrente per il quale il de cuius non intendesse sottoporre a collazione i fondi a lui donati e ha rifiutato di prendere in considerazione, per il calcolo del valore dei fondi, i costi che il ricorrente avrebbe sopportato in relazione a tali beni immobili (spese di miglioria, pagamento degli interessi e degli ammortamenti relativi ai debiti ipotecari gravanti tali fondi) in quanto non sufficientemente specificati.
3.2 Il ricorrente sostiene che il Pretore del distretto di Riviera e la Corte cantonale avrebbero accertato i fatti in modo arbitrario ai sensi dell'art. 97 cpv. 1 LTF.
Per quanto concerne il pagamento di fr. 250'000.-- considera che essi si siano fondati su prove inconcludenti e non avrebbero invece tenuto conto di una ricevuta di pagamento firmata il 14 maggio 1990 da I._ e di un'attestazione del 7 giugno 2000 di J._ (moglie del de cuius). Afferma peraltro che, su questo punto, la preclusione dalla lite non dovrebbe applicarsi atteso che gli opponenti, nei loro allegati, avrebbero essi stessi rilevato la sua contestazione del mancato pagamento del prezzo della compravendita del fondo rrr di S._.
Il ricorrente sostiene inoltre che le istanze inferiori avrebbero interpretato erroneamente la volontà del padre sull'obbligo di collazione dei fondi e trascurato le spese sopportate in relazione a tali fondi, spese che sarebbero state indicate in modo preciso nel suo allegato conclusivo ed anche in una bozza di inventario della successione. Anche i costi (invocati e documentati dinanzi al Pretore) da lui sostenuti per la Comunione ereditaria fu I._ e per J._ di complessivi fr. 98'000.-- non sarebbero stati, a torto, presi in considerazione.
3.3 La parte preclusa conserva la facoltà di appellare la sentenza pretorile. Nel gravame non può però contestare i fatti di petizione, nella misura in cui sono stati accertati dal Pretore sulla base delle prove offerte dalla parte attrice. Può invece sostenere che i fatti allegati da quest'ultima non sono stati dimostrati (COCCHI/TREZZINI, Codice di procedura civile ticinese massimato e commentato, 2000, n. 6 ad art. 169 CPC/TI). Gli argomenti del ricorrente in tal senso sono stati giudicati inammissibili per insufficiente motivazione dalla Corte cantonale (supra consid. 3.1). Nel gravame all'esame il ricorrente non censura tale conclusione dei Giudici cantonali, ma si limita ad esporre la sua versione dei fatti. La sua rilettura puramente appellatoria della sentenza impugnata non soddisfa pertanto i requisiti di motivazione dell'art. 106 cpv. 2 LTF (supra consid. 1.2 e 1.3). Giova inoltre rilevare che il ricorrente si avvale essenzialmente di fatti nuovi poiché non allegati dinanzi all'autorità inferiore e quindi inammissibili in virtù dell'art. 99 cpv. 1 LTF e di mezzi di prova - quali la ricevuta di pagamento del 14 maggio 1990 di I._ e l'attestazione del 7 giugno 2000 di J._ - che già nella sentenza impugnata erano stati giudicati nuovi ed irricevibili.
Non soccorre inoltre al ricorrente affermare che le controparti abbiano ammesso che egli abbia contestato di non aver pagato il prezzo della compravendita del fondo rrr di S._: prendere atto di ciò non gli conferisce in ogni modo la facoltà di recuperare il diritto di dimostrare tale contestazione al quale è precluso data l'omessa presentazione della risposta.
La critica ricorsuale di arbitrario accertamento dei fatti va pertanto dichiarata inammissibile.
4. Da quanto precede discende che il ricorso in materia civile, nella misura in cui risulta ammissibile, si rivela infondato e come tale va respinto. Le spese giudiziarie seguono la soccombenza (art. 66 cpv. 1 LTF), mentre non si giustifica assegnare ripetibili agli opponenti, che non sono stati invitati a pronunciarsi sul ricorso.

Per questi motivi, il Tribunale federale pronuncia:
1. Il ricorso sussidiario in materia costituzionale è inammissibile.
2. Nella misura in cui è ammissibile, il ricorso in materia civile è respinto.
3. Le spese giudiziarie di fr. 5'000.-- sono poste a carico del ricorrente.
4. Comunicazione alle parti e alla I Camera civile del Tribunale d'appello del Cantone Ticino.