Fatti:
A. Il 12 dicembre 2011 la A._SA, Lugano, ha avviato un'azione civile davanti al Pretore di Lugano chiedendo d'un canto che D._ fosse condannato a pagarle almeno fr. 10'000'000.-- con responsabilità solidale di C._ e B._ per metà di tale importo, dall'altro che C._ e B._ in solido con D._ fossero a loro volta condannati al pagamento di fr. 5'000'000.--.
Nelle rispettive risposte C._ e B._ hanno eccepito la mancanza dell'esperimento di conciliazione nei loro confronti, per cui il 24 aprile 2012 l'attrice ha dichiarato di ritirare l'azione proposta contro di loro.
Con ordinanza del 27 aprile 2012 il Pretore ha dato ai convenuti la facoltà di esprimersi, dopo di che, il 6 giugno 2012, ha stralciato l'azione dai ruoli ponendo a carico dell'attrice le spese di fr. 500.-- e un'indennità per ripetibili di fr. 520.-- a favore di ciascun convenuto.
B. Contro la decisione del Pretore C._ e B._ hanno presentato reclami in data 21 giugno 2012 al Tribunale di appello ticinese, chiedendo che le rispettive indennità ripetibili fossero aumentate a fr. 35'000.--. I reclami sono stati accolti parzialmente dalla II Camera civile, la quale, con due sentenze separate del 24 settembre 2012, ha aumentato le indennità a favore di C._ e B._ a fr. 8'800.--.
C. La A._SA insorge davanti al Tribunale federale con due atti del 10 ottobre 2012 intitolati "Ricorso in materia civile e ricorso sussidiario in materia costituzionale"; chiede l'annullamento delle sentenze cantonali e la conferma di quella del Pretore.
C._ e B._ propongono di respingere i ricorsi. La ricorrente e B._ si sono pronunciati una seconda volta, mentre l'autorità cantonale non ha preso posizione.
Diritto:
1. I due ricorsi, identici e volti contro due sentenze cantonali identiche, possono essere congiunti e evasi con giudizio unico (art. 71 LTF in relazione con l'art. 24 cpv. 2 PC), come la ricorrente stessa propone.
2. l ricorsi sono presentati dalla parte soccombente nella sede cantonale (art. 76 cpv. 1 lett. a LTF), sono tempestivi (art. 100 cpv. 1 LTF) e sono volti contro sentenze finali (art. 90 LTF) emanate su reclami dall'autorità ticinese di ultima istanza (art. 75 LTF) in una causa civile (art. 72 cpv. 1 LTF). Contrariamente a quanto afferma l'opponente C._, il valore litigioso supera la soglia di fr. 30'000.-- (art. 74 cpv. 1 lett. b LTF). Esso è determinato dalle conclusioni rimaste controversie davanti all'autorità cantonale (art. 51 cpv. 1 lett. a LTF), in particolare dalle domande relative alle spese giudiziarie quando la causa verte solo su di esse (sentenza 5A_704/2012 del 28 novembre 2012, consid. 1.1). Nel caso in esame era litigiosa davanti al Tribunale di appello la differenza tra le indennità di fr. 520.-- stabilite dal Pretore e le richieste di fr. 35'000.-- formulate dagli opponenti nei loro reclami.
Sono pertanto ammissibili i ricorsi in materia civile, con la conseguente inammissibilità di quelli sussidiari in materia costituzionale (art. 113 LTF).
3. Il Tribunale federale esamina d'ufficio l'applicazione del diritto federale (art. 106 cpv. 1 LTF). Tuttavia, tenuto conto dell'onere di allegazione e motivazione posto dall'art. 42 cpv. 1 e 2 LTF, il cui mancato rispetto conduce all'inammissibilità del gravame (art. 108 cpv. 1 lett. b LTF), considera di regola solo gli argomenti proposti nell'atto di ricorso (DTF 134 III 102 consid. 1.1). Le esigenze sono più severe quando è fatta valere la violazione di diritti fondamentali: in questo caso l'art. 106 cpv. 2 LTF esige una motivazione puntuale e precisa, analoga a quella che l'art. 90 cpv. 1 lett. b OG prescriveva per il ricorso di diritto pubblico (DTF 134 III 244 consid. 22, 130 I 258 consid. 1.3). Il rinvio agli atti della procedura cantonale non è ammesso (DTF 133 II 396 consid. 3.2).
4. Per il Pretore, nell'ambito dello stralcio del processo per difetto di un presupposto processuale le ripetibili non vanno calcolate in funzione del valore della causa ma tenendo conto soltanto del tempo impiegato per definire il tema dello stralcio. Il primo giudice ha considerato che nel caso specifico il dispendio è stato assai limitato, vista l'evidenza dell'assenza della procedura conciliativa, a prescindere dal fatto che gli opponenti avessero per "loro scelta strategica" presentato risposte complete, non limitate all'eccezione.
La Corte cantonale non ha condiviso la tesi del Pretore. Ha premesso che il ritiro della causa per motivi processuali equivale a desistenza, che comporta per l'attrice l'onere di pagare delle ripetibili (art. 106 cpv. 1 CPC) da calcolarsi secondo la tariffa cantonale (art. 105 cpv. 2 e 96 CPC). Essa ha ricordato che in Ticino vige il regolamento sulla tariffa per i casi di patrocinio d'ufficio e di assistenza giudiziaria e per la fissazione delle ripetibili del 19 dicembre 2007 (RL/TI 3.1.1.7.1 - detto il regolamento), il cui art. 13 cpv. 2 stabilisce che, se la causa non termina con un giudizio di merito a seguito del ritiro del rimedio, di desistenza o d'irricevibilità, le ripetibili possono essere ridotte in misura adeguata, ciò che per giurisprudenza significa che occorre applicare la "nota formula" che media l'onorario ad valorem (OV) con quello ad horam (OH) nel modo seguente: 2 x OV x OH/(OV + OH).
I giudici ticinesi si sono in seguito chiesti se in tale formula andasse inserito l'onorario a tempo che tenesse conto "dello sforzo profuso per la formulazione della sola eccezione oppure di quello impiegato per l'allestimento dell'intero allegato responsivo". Hanno optato per la prima soluzione, perché l'allestimento da parte degli opponenti di atti responsivi esaurienti non era necessario, dal momento che la dottrina di commento agli art. 222 cpv. 3 e 125 lett. a CPC riconosce alla parte convenuta la facoltà di chiedere al giudice di limitare la risposta al tema dell'eccezione e, in caso di rifiuto, il diritto di beneficiare di un termine supplementare per presentare la risposta completa.
Poste queste regole, la Corte cantonale ha determinato in fr. 100'000.-- l'onorario ad valorem in applicazione dell'art. 11 della tariffa ticinese (2 % di fr. 5'000'000) e in fr. 4'000.-- quello ad horam, considerando che sarebbero occorse 10 ore di lavoro a fr. 400.-- l'una "ad un legale mediamente diligente per l'esame della lunga e complessa petizione (di 47 pagine, esclusa la lista delle prove) corredata di numerosi documenti, per l'allestimento del possibile allegato preliminare limitato all'eccezione e per le ulteriori incombenze di causa, tra cui l'allestimento delle osservazioni alla lettera di ritiro della causa". Inserendo questi dati nella predetta formula elaborata dalla prassi cantonale i giudici ticinesi hanno ottenuto l'importo di fr. 7'700.--, che hanno arrotondato a fr. 8'800.-- per tenere conto delle spese vive e dell'IVA.
5. La ricorrente fa valere la violazione del diritto federale (art. 95 lett. a LTF), in primo luogo dell'art. 63 CPC. Qualificando di desistenza il ritiro dell'azione l'autorità cantonale avrebbe "semplicemente omesso di riferirsi" a quella disposizione, contrariamente al Pretore, che l'avrebbe invece ritenuta applicabile nell'ordinanza del 27 aprile 2012. La ricorrente sostiene che, siccome la causa è stata stralciata per difetto di un presupposto processuale, senza che vi fosse stato riconoscimento di pretese nel merito, l'autorità cantonale l'avrebbe considerata a torto soccombente su tutta la linea, dimenticando che l'art. 63 CPC impedisce l'applicazione dell'art. 106 cpv. 2 (recte: cpv. 1) CPC alla fattispecie. A mente della ricorrente l'art. 63 CPC è "uno strumento di facilitazione a disposizione della parte postulante", per cui chi ne fa uso non può subire conseguenze negative quanto a spese e ripetibili; tanto più ch'essa ha "specificato in modo esplicito (...) che il ritiro della petizione nei confronti di B._ ed C._ non era un atto di acquiescenza bensì il ritiro della causa per incompetenza del Giudice adito a causa dell'eccezione di mancato esperimento del tentativo di conciliazione sollevata dai convenuti".
Questi ragionamenti portano la ricorrente a concludere che le spese giudiziarie non possono essere calcolate sul valore dell'intera causa ma solo sulla base del tempo molto limitato impiegato dagli opponenti per sollevare l'eccezione processuale.
5.1 Occorre anzitutto chiarire che l'art. 63 CPC non ha nessuna pertinenza con il tema del ricorso. Riprendendo il principio dell'art. 139 CO ora abrogato (cfr. anche l'art. 167 vCPC/TI), la disposizione permette di evitare la decadenza della litispendenza per "retrodatazione", così come la perdita dei termini per promuovere le azioni, qualora un atto sia respinto dal giudice o ritirato per difetto di competenza (cpv. 1) o per procedura errata (cpv. 2) e sia riproposto in modo corretto entro un mese (Messaggio del 28 giugno 2006 concernente il Codice di diritto processuale svizzero, in: FF 2006 6593, pag. 6648). La portata dell'art. 63 CPC si esaurisce con questo. In particolare la norma non è di aiuto né per qualificare in modo processualmente corretto il ritiro dell'azione da parte della ricorrente né, tanto meno, come obiettano con ragione gli opponenti, per tirarne le conseguenze quanto all'onere e al calcolo di spese e ripetibili, che rimangono dovute limitatamente alla procedura svoltasi (ISABELLE-BERGER STEINER, in Berner Kommentar, 2012, n. 38 ad art. 63 CPC; DOMINIK INFANGER, in Basler Kommentar, 2010, n. 8 ad art. 63 CPC; DENIS TAPPY, in: Code de procédure civile commenté, 2011, n. 27 ad art. 106 CPC).
Ne viene che la sentenza impugnata non può avere leso l'art. 63 CPC e che sono privi di fondamento tutti gli argomenti che la ricorrente fonda sulla relazione, inesistente, tra questa norma e l'art. 106 CPC ai fini della quantificazione delle ripetibili. Contrariamente a quanto essa afferma, nemmeno il Pretore aveva dedotto alcunché dall'art. 63 CPC; la sua ordinanza del 27 aprile 2012 accennava alla disposizione soltanto per ricordare alla ricorrente che avrebbe potuto beneficiarne se avesse riproposto l'azione entro un mese.
Vale inoltre la pena di precisare - sebbene la cosa non sia di rilievo in questa causa - che ai fini dell'applicazione dell'art. 63 CPC l'omissione del tentativo di conciliazione è un errore di procedura (cpv. 2), non un difetto di competenza (cpv. 1) come sembra ritenere la ricorrente.
5.2 L'art. 241 CPC menziona la desistenza tra gli atti che pongono fine al processo senza una decisione del giudice. La desistenza consiste nella dichiarazione unilaterale con la quale la parte attrice ritira l'azione (LAURENT KILLIAS, in Berner Kommentar, 2012, n. 5 ad art. 241 CPC; DENIS TAPPY, op. cit., n. 21 ad art. 241 CPC). Rientrano nel concetto di desistenza nel senso dell'art. 241 CPC sia il ritiro dell'azione che comporta una rinuncia al diritto materiale, sia la semplice rinuncia processuale al diritto di agire (DENIS TAPPY, op. cit., n. 22 ad art. 241 CPC; FRANCESCO TREZZINI, Commentario al codice di diritto processuale civile svizzero, 2010, pagg. 1067 - 1068; PAUL OBERHAMMER, in Basler Kommentar, 2010, n. 15 ad art. 241 CPC; COENDET/HURNI, ZBJV 2007, pag. 207 e segg.; cfr. anche la sentenza 5A_82/2009 del 27 aprile 2009, consid. 2.3 e rif.).
La Corte cantonale ha pertanto qualificato correttamente di desistenza il ritiro dell'azione dichiarato dalla ricorrente a seguito del mancato esperimento preliminare del tentativo di conciliazione, che costituisce presupposto processuale secondo l'art. 59 CPC (sentenza 4A_413/2012 del 14 gennaio 2013, consid. 7). La ricorrente ha ragione laddove afferma che occorre distinguere la rinuncia al diritto materiale da quella processuale, ma entrambe le tipologie di atti rientrano nel concetto di desistenza secondo il diritto federale.
5.3 L'art. 106 cpv. 1 CPC stabilisce che le spese giudiziarie sono poste a carico della parte soccombente ovvero, in caso di desistenza, della parte attrice. La desistenza considerata da questa disposizione è quella definita poc'anzi. L'attore deve perciò pagare le spese giudiziarie sia che rinunci con effetti di merito, sia che ritiri l'azione solo per motivi processuali. Infatti, che l'attore in seguito riproponga o no l'azione con il beneficio dell'art. 63 CPC, anche la desistenza processuale mette fine al processo (DENIS TAPPY, op. cit., n. 26 - 30 ad art. 106 CPC; FRANCESCO TREZZINI, op. cit., pagg. 432 - 433; VIKTOR RÜEGG, in Basler Kommentar, 2010, n. 3 ad art. 106 CPC).
La sentenza impugnata è perciò giusta anche nella misura in cui ha fondato sull'art. 106 cpv. 1 CPC l'obbligo della ricorrente di rifondere un'indennità ripetibile agli opponenti.
6. Con una seconda serie di censure la ricorrente adduce la violazione dell'art. 9 Cost. Ritiene in primo luogo arbitraria la sentenza cantonale, la quale, dopo avere stabilito che l'onorario ad horam va determinato soltanto in funzione del tempo occorso per formulare l'eccezione processuale, si contraddice reintroducendo il valore pieno di causa nel calcolo dell'onorario ad valorem, ciò che sarebbe invece lecito solo per le "acquiescenze integrali". In secondo luogo la ricorrente vede arbitrio nel calcolo dell'onorario ad horam. È dell'avviso che, per eccepire l'assenza della procedura conciliativa, bastava leggere la prima pagina della petizione, per cui sono esagerate sia le 10 ore d'impegno stimate dai giudici ticinesi, sia la tariffa oraria di fr. 400.-- ch'essi hanno "valutato a naso".
6.1 Gli art. 105 cpv. 2 e 96 CPC rinviano al diritto cantonale per la fissazione delle ripetibili. La Corte d'appello, come detto, ha applicato l'art. 13 cpv. 2 del regolamento ticinese, secondo cui "le ripetibili possono essere ridotte in misura adeguata" se la lite è tolta per desistenza. Essa ha in seguito applicato la "nota formula" che calcola una media ponderata tra gli onorari a tempo e per valore (sopra consid. 4).
Dal profilo del diritto federale basti osservare che la riduzione, rispetto ai parametri ordinari, delle spese giudiziarie in caso di desistenza è compatibile con la delega dell'art. 96 CPC (DENIS TAPPY, op. cit., n. 4 e 5 ad art. 106 CPC). Detto questo, l'arbitrio di fondo che la ricorrente ravvisa nel ragionamento della Corte cantonale non sussiste: non è affatto insostenibile ai fini del calcolo di una media ponderata, né contraddittorio, inserire nella suddetta formula l'onorario ad horam riferito al tempo impiegato per trattare la sola eccezione processuale e l'onorario ad valorem che considera l'intero valore di causa.
Non occorre esaminare maggiormente, sotto l'angolo dell'arbitrio, la legittimità del metodo di calcolo applicato nella sentenza impugnata, dal momento che nemmeno la ricorrente si addentra nei dettagli. La contestazione generica del "metodo di calcolo ad horam combinato con il valore di causa così come effettuato dalla II Camera civile del Tribunale di appello", espressa in replica, non adempie i requisiti richiesti per le censure d'arbitrio (cfr. consid. 3).
6.2 Non è neppure insostenibile ritenere che, per le prestazioni connesse con l'esame dell'eccezione processuale elencate nella sentenza, il tempo impiegato dai patrocinatori degli opponenti sia valutabile in 10 ore di lavoro. Come obietta l'opponente C._, poco ragionevole è piuttosto pretendere che le parti convenute in una causa milionaria avrebbero potuto limitarsi a leggere la prima pagina della petizione e formulare l'eccezione senza curarsi del seguito del lungo scritto introduttivo dell'azione e dei numerosi documenti prodotti. Inoltre, dal momento che la ricorrente medesima insiste sul fatto che l'obbligo di effettuare il tentativo di conciliazione preliminare era evidente, v'è da chiedersi come mai essa vi abbia in un primo tempo rinunciato, presentando subito la petizione anche contro i due opponenti.
Infine, la critica volta contro il prezzo unitario di fr. 400.-- l'ora è inammissibile, poiché la ricorrente afferma semplicemente l'arbitrio, senza spiegarlo.
7. Ne viene che il ricorso, nella misura in cui è ammissibile, è infondato. Gli oneri processuali seguono la soccombenza (art. 66 cpv. 1 e 68 cpv. 1 LTF). La congiunzione delle due procedure di ricorso giustifica una lieve riduzione della tassa di giustizia, non delle ripetibili.
Per questi motivi, il Tribunale federale pronuncia:
1. Le cause 4A_602/2012 e 4A_604/2012 sono congiunte.
2. I ricorsi sussidiari in materia costituzionale sono inammissibili.
3. I ricorsi in materia civile sono respinti nella misura in cui sono ammissibili.
4. Le spese giudiziarie complessive di fr. 1'500.-- sono poste a carico della ricorrente, la quale rifonderà fr. 1'500.-- ciascuno ai due opponenti quali ripetibili della sede federale.
5. Comunicazione alle parti e alla Seconda Camera civile del Tribunale d'appello del Cantone Ticino.