Fatti:
A. Con pubblicazione sul Foglio ufficiale del Cantone Ticino n. 99/2010 del 14 dicembre 2010, il Dipartimento dell'educazione, della cultura e dello sport e il Dipartimento delle finanze e dell'economia del Cantone Ticino hanno indetto un concorso di progettazione concernente l'elaborazione dei concetti d'intervento, sul piano architettonico, strutturale ed impiantistico, per il risanamento e l'adattamento degli spazi interni del Palazzo degli studi di Lugano.
Fra gli otto progetti ammessi alla seconda fase del concorso, quello di B._ e C._ è stato scelto quale miglior proposta dalla giuria riunitasi il 14 e 15 novembre 2011. Preso atto del verdetto della citata giuria, il 7 dicembre 2011 il Consiglio di Stato ha quindi risolto di affidare il mandato per la progettazione esecutiva al gruppo interdisciplinare guidato da B._ e C._.
B. B.a Preso atto di tale decisione, il 22 dicembre 2011 A._ ha scritto al Consiglio di Stato ponendogli diverse questioni volte a chiarire in sostanza le relazioni esistenti tra il mandato appena attribuito al gruppo guidato da B._ e C._ e l'incarico di procedere all'esecuzione del progetto di massima e definitivo per la sistemazione dello stesso stabile, che le era stato conferito in precedenza.
Nella sua lettera, A._ invitava il Governo a risponderle entro il 9 gennaio 2012, da lei considerato termine ultimo per l'inoltro di un eventuale ricorso contro la delibera del 7 dicembre 2011.
B.b Dato che la prima riunione del Governo si sarebbe tenuta il 10 gennaio 2012, il 3 gennaio 2012 la Sezione della logistica del Dipartimento delle finanze e dell'economia del Cantone Ticino ha fatto sapere ad A._ che le sue domande sarebbero state evase solo dopo il 13 gennaio 2012.
Il 9 gennaio 2012 A._ si è allora nuovamente indirizzata al Consiglio di Stato, inoltrandogli una memoria scritta definita questa volta come "complemento al gravame del 22 dicembre 2011", con la quale formulava numerose censure e richieste.
B.c Preso atto anche di tale scritto, il 18 gennaio 2012 il Consiglio di Stato ha trasmesso gli atti indirizzatigli al Tribunale cantonale amministrativo, unica istanza cantonale competente a dirimere controversie in materia di commesse pubbliche.
C. Con sentenza del 20 gennaio 2012, il Tribunale cantonale amministrativo ha da parte sua dichiarato inammissibile il gravame dopo aver constatato: (1) che la lettera del 22 dicembre 2011, da cui non era desumibile nessuna volontà di ricorso, non poteva per questo motivo affatto essere intesa quale impugnativa; (2) che la lettera del 9 gennaio successivo, perfettamente configurabile alla stregua di un valido atto ricorsuale, ancorché inoltrato ad autorità incompetente ratione materiae, risultava invece manifestamente tardiva.
D. Il 23 febbraio 2012, la sentenza del Tribunale cantonale amministrativo è stata impugnata davanti al Tribunale federale con un ricorso in materia di diritto pubblico e con un ricorso sussidiario in materia costituzionale.
In via principale, la ricorrente chiede l'annullamento della sentenza impugnata e l'accertamento della nullità della decisione di aggiudicazione del 7 dicembre 2011. In via subordinata, postula l'annullamento della sentenza impugnata e il rinvio degli atti al Tribunale cantonale amministrativo affinché, esperiti gli accertamenti imposti dalle circostanze, provveda a statuire nel merito della vertenza.
Nella sostanza, fa valere un accertamento manifestamente errato dei fatti, ritiene che il giudizio impugnato sia a vario titolo lesivo della Costituzione federale e solleva la questione della nullità della decisione di aggiudicazione del 7 dicembre 2011.
In corso di procedura, il Tribunale cantonale amministrativo si è riconfermato nelle motivazioni e nelle conclusioni della propria sentenza. Nella sua risposta, cui fa rinvio anche il Dipartimento dell'educazione, della cultura e dello sport, il Consiglio di Stato ha invece chiesto che il ricorso venga dichiarato inammissibile rispettivamente che lo stesso venga respinto. B._ e C._ si sono infine rimessi al giudizio di questa Corte.
Al 12 giugno 2012 risalgono ulteriori osservazioni della ricorrente, di cui verrà detto, per quanto necessario, nel seguito.

Diritto:
1. Il Tribunale federale esamina d'ufficio e con piena cognizione la sua competenza (<ref-law>) e l'ammissibilità dei gravami che gli vengono sottoposti (<ref-ruling> consid. 1 pag. 43; <ref-ruling> consid. 1 pag. 24; <ref-ruling> consid. 1.1 pag. 3).
1.1 La decisione querelata dichiara inammissibile, nella misura in cui sia configurabile come tale, un ricorso interposto in ambito di commesse pubbliche. In primo luogo, occorrerebbe pertanto verificare se l'impugnativa sia ricevibile come ricorso in materia di diritto pubblico oppure se - giusta l'art. 83 lett. f LTF, applicabile anche alla fattispecie (sentenze 2C_933/2011 del 7 giugno 2012 consid. 1 e 2D_37/2010 del 23 novembre 2010 consid. 1.2) - l'inoltro di tale rimedio sia escluso.
Il quesito posto può tuttavia essere lasciato aperto. In effetti, le censure formulate dalla ricorrente, con un'impugnativa interposta tempestivamente (art. 100 cpv. 1 e 117 LTF) e con un interesse di natura anche giuridica a ricorrere contro la decisione emessa dal Tribunale amministrativo, per fare in sostanza valere la lesione dei suoi diritti di parte (sentenza 2D_74/2010 del 31 maggio 2011 consid. 1.4), possono essere di principio sollevate sia con un ricorso ordinario che con un ricorso sussidiario in materia costituzionale (<ref-ruling> consid. 3.1 pag. 447 seg.; <ref-law>).
1.2 Ritenuto inoltre che, per quanto esaminabili nel merito, dette censure risultano comunque manifestamente infondate, aperta può nel contempo restare anche la questione sollevata dal Consiglio di Stato del Cantone Ticino nella sua risposta: ovvero se la ricorrente facesse effettivamente parte di un consorzio e dovesse quindi agire in causa insieme a tutti i suoi membri (sentenze 2C_197/2010 del 30 aprile 2010 consid. 4.1 e 2C_144/2009 del 15 giugno 2009 consid. 1.4, entrambe con un rinvio alla sentenza 2P.111/2003 del 21 gennaio 2004 consid. 1.1).
1.3 Nel seguito, tenuto conto delle riserve esposte e nella misura in cui la ricorrente abbia specificato quali diritti di carattere costituzionale ritiene lesi, esponendo le sue censure in modo chiaro, circostanziato ed esaustivo (<ref-law>; <ref-ruling> consid. 2.2 pag. 246; <ref-ruling> consid. 1.4.2 pag. 254), il ricorso può quindi essere esaminato anche nel merito.
1.4 Visto che davanti al Tribunale federale possono essere addotti nuovi fatti e nuovi mezzi di prova soltanto se ne dà motivo la decisione impugnata (art. 99 cpv. 1 e 117 LTF), aspetto che competeva all'insorgente sostanziare, i documenti prodotti per la prima volta in questa sede non potranno però essere considerati e dovranno quindi essere estromessi dall'incarto.
Per la stessa ragione, neppure potrà essere dato seguito alle richieste di assunzione di ulteriori prove - oltre all'incarto allestito dall'istanza precedente, fatto pervenire a questa Corte -, formulata anch'essa nel ricorso (sentenza 2C_244/2011 del 3 febbraio 2012 consid. 2.4).
2. Nella sua impugnativa, la ricorrente ritiene innanzitutto che il Giudice delegato del Tribunale cantonale amministrativo abbia valutato in maniera arbitraria i documenti agli atti, omettendo di prendere in considerazione alcune circostanze che considera decisive.
2.1 Con riferimento all'apprezzamento delle prove e all'accertamento dei fatti, il Tribunale federale ammette una violazione dell'<ref-law> unicamente qualora l'autorità giudiziaria cantonale non ha manifestamente compreso il senso e la portata di un mezzo di prova, ha omesso di considerare un mezzo di prova pertinente senza serio motivo, infine se, sulla base degli elementi fattuali raccolti, ha tratto delle deduzioni insostenibili (<ref-ruling> consid. 2.1 pag. 9; <ref-ruling> consid. 2a pag. 41). Il ricorrente che solleva una censura in tal senso deve dimostrare, con specifico riferimento al giudizio impugnato e per ogni accertamento di fatto censurato, in quale modo le prove assunte avrebbero dovuto essere valutate, per quale ragione l'apprezzamento da parte dell'autorità cantonale sia insostenibile e in che misura la violazione invocata sarebbe suscettibile d'avere un'influenza sull'esito della lite (<ref-ruling> consid. 1.4 pag. 287 seg.; <ref-ruling> consid. 7a pag. 312).
2.2 Simile motivazione manca però nella fattispecie. In luogo di confrontarsi con le conclusioni tratte dal Tribunale amministrativo sia in relazione allo scritto del 22 dicembre 2011, sia con riferimento al gravame del 9 gennaio 2012 (precedente consid. C), la ricorrente si limita in effetti a elencare alcuni aspetti che avrebbero a suo giudizio dovuto ricevere una diversa attenzione. Così argomentando, presenta quindi una sua personale lettura dei fatti che non permette né di contrastare la conclusione secondo cui dalla lettera del 22 dicembre 2011 non fosse desumibile nessuna volontà di ricorso, né di mettere realmente in discussione la tardività dell'atto di ricorso del 9 gennaio 2012.
2.3 Per quanto precede, la critica formulata nei confronti dell'apprezzamento dei fatti su cui si basano le conclusioni cui è giunta l'istanza cantonale dev'essere considerata inammissibile.
Nella misura in cui i fatti messi in evidenza dalla ricorrente sono volti a sostenere ulteriori censure da lei sollevate, degli stessi verrà comunque detto per quanto necessario più oltre.
3. Nel ricorso, l'insorgente fa quindi valere una violazione del divieto di formalismo eccessivo ancorato nell'<ref-law>
3.1 Il formalismo eccessivo si realizza quando la stretta applicazione delle norme di procedura non si giustifica da nessun interesse degno di protezione, diviene pertanto fine a se stessa, complica in maniera insostenibile la realizzazione del diritto materiale o l'accesso ai tribunali. L'eccesso di formalismo può risiedere sia nella regola di comportamento imposta dal diritto cantonale, sia nella sanzione che una violazione di tale regola implica (<ref-ruling> consid. 5 pag. 253; <ref-ruling> consid. 5.4.1 pag. 183; <ref-ruling> consid. 2a pag. 142). Confrontato con una critica di formalismo eccessivo, il Tribunale ne verifica liberamente la fondatezza; in questo contesto, esamina tuttavia l''interpretazione e l'applicazione del diritto cantonale determinante unicamente sotto l'angolo dell'arbitrio (DTF <ref-ruling> consid. 2a pag. 142; <ref-ruling> consid. 1 pag. 87; <ref-ruling> consid. 1 pag. 290).
3.2 Nella fattispecie, la critica formulata dalla ricorrente concerne appunto l'applicazione del diritto cantonale. Censurata è infatti la conclusione tratta dal Tribunale amministrativo secondo cui lo scritto del 22 dicembre 2011 era talmente carente per rapporto alle esigenze di forma prescritte dall'art. 46 cpv. 2 e 3 della legge ticinese di procedura per le cause amministrative del 19 aprile 1966 (LPamm; RL/TI 3.3.1.1) da non potere nemmeno essere emendato secondo quanto previsto dall'art. 9 LPamm.
In luogo di sostenere, con una motivazione conforme all'<ref-law>, l'applicazione manifestamente insostenibile di tali norme da parte del Giudice delegato la ricorrente si limita però anche in questo caso a formulare delle critiche di carattere generico e appellatorio, che non dimostrano affatto l'arbitrio.
3.3 Sempre in questo contesto, volto all'insuccesso è nel contempo il tentativo di mettere nuovamente in discussione i fatti su cui la menzionata conclusione del Tribunale amministrativo si basa, ovvero la constatazione che dalla lettera del 22 dicembre 2011 non emergeva nessuna volontà di ricorrere contro la delibera del 7 dicembre 2011.
Lungi dall'essere manifestamente insostenibile, tale constatazione trova infatti un chiaro riscontro nel testo di quella lettera stessa, da cui risulta tra l'altro che la qui insorgente si è a quel momento rivolta al Consiglio di Stato solo per formulare "qualche quesito chiarificatore anche per evitare incomprensioni, equivoci ed eventualmente anche procedure ricorsuali".
4. L'impugnativa considera poi che il querelato giudizio sia lesivo della buona fede e, segnatamente, del principio dell'affidamento.
4.1 In proposito, la ricorrente sostiene in sostanza che una volta letto lo scritto del 22 dicembre 2011, in cui lei stessa erroneamente indicava che il termine di dieci giorni per ricorrere contro la delibera scadeva il 9 gennaio 2012, e in base ai contatti in seguito intercorsi tra le parti, il Consiglio di Stato avrebbe dovuto renderla attenta del fatto che il termine per ricorrere scadeva prima, poiché non era in realtà sospeso dalle ferie.
Da tale omissione, deduce quindi che il Governo abbia fatto nascere in lei una legittima aspettativa in merito al fatto che la data di scadenza del termine di ricorso fosse effettivamente quella del 9 gennaio 2012, che avrebbe pure dovuto portare ad ammettere la tempestività del suo ricorso.
4.2 Anche in questo caso, la critica espressa, che basa su di un'argomentazione invero alquanto azzardata, non può essere affatto condivisa.
4.2.1 Intanto, sostenendo che il Consiglio di Stato si fosse accorto dell'errore in cui era incorsa, sottacendolo, la ricorrente formula una semplice ipotesi. A prescindere da ciò e da un eventuale obbligo d'informazione da parte del Governo cantonale, su cui la ricorrente nemmeno si esprime, un richiamo al principio della buona fede in relazione alla questione della tempestività del ricorso interposto sarebbe in casu comunque a priori escluso.
Detta questione era infatti di competenza esclusiva del Tribunale amministrativo, quindi di un'altra autorità di quella cui la ricorrente rimprovera un comportamento atto a creare una legittima aspettativa da parte sua in merito all'effettivo rispetto dei termini per ricorrere (sentenze 2C_108/2011 del 29 agosto 2011 consid. 4.1; 6B_481/2009 del 7 settembre 2009 consid. 2.2 e 1C_548/2008 del 27 agosto 2009 consid. 2.1; al riguardo cfr. inoltre TSCHANNEN/ZIMMERLI/MÜLLER, Allgemeines Verwaltungsrecht, 3a ed. 2009, § 22 con ulteriori rinvii alla giurisprudenza).
Per gli stessi motivi, la ricorrente non può dedurre nulla circa il carattere di impugnativa della lettera del 22 dicembre 2011 rispettivamente circa la tempestività del suo gravame del 9 gennaio 2012 nemmeno dalla decisione del Consiglio di Stato del 18 gennaio 2012, con cui veniva disposta la trasmissione degli atti al Tribunale cantonale amministrativo. Come visto, solo a quest'ultimo spettava infatti esprimersi riguardo all'ammissibilità quale ricorso di tali scritti.
4.2.2 Rappresentata da un avvocato, che ha pure redatto la lettera del 22 dicembre 2011 al Consiglio di Stato, la ricorrente non può inoltre richiamarsi al fatto che la decisione di delibera del 7 dicembre 2011 non indicasse che i termini di ricorso non erano sospesi dalle ferie.
Come emerge dal giudizio impugnato, all'inesattezza dell'indicazione fornita poteva infatti essere posto rimedio già attraverso la consultazione dei testi legali da parte del suo patrocinatore (<ref-ruling> consid. 1.3.1 pag. 202 seg.).
5. A miglior fortuna non è infine destinata la critica volta a denunciare il mancato esame da parte della Corte cantonale della domanda di constatazione della nullità della delibera del 7 dicembre 2011 del Consiglio di Stato.
5.1 Non esprimendosi sulla domanda di accertamento postagli, il Giudice delegato del Tribunale amministrativo ha evidentemente ritenuto che, nella misura in cui una simile richiesta venga formulata nell'ambito di una procedura di ricorso, i termini di ricorso previsti dal diritto cantonale debbano comunque essere rispettati. Limitandosi a rilevare che una domanda di accertamento della nullità possa essere formulata in ogni tempo la ricorrente non dimostra da parte sua l'insostenibilità di tale tesi.
5.2 Come detto, quand'anche ammissibile nell'ottica dell'<ref-law>, la critica mossa sarebbe però votata all'insuccesso.
Supportato nella fattispecie anche dagli art. 41 e 42 LPamm, il ragionamento alla base della decisione impugnata non può in effetti essere giudicato arbitrario (sentenza 2A.82/2004 del 6 maggio 2004 consid. 5.1 concernente un caso in cui si poneva una questione del tutto analoga; PIERRE MOOR/ETIENNE POLTIER, Droit administratif, vol. II, 2a ed. 2011, cifra 2.3.3.2).
5.3 Resta comunque da osservare che i motivi addotti dalla ricorrente nell'impugnativa non giustificavano affatto il riconoscimento della nullità della delibera.
5.3.1 Per prassi costante, la nullità di una decisione dev'essere ammessa soltanto se il vizio di cui è affetta risulta particolarmente grave, evidente o, perlomeno, facilmente riconoscibile e se, inoltre, l'accertamento della nullità non mette in pericolo in modo serio la sicurezza del diritto. Oltre che nei casi espressamente previsti dalla legge, la nullità può dunque essere ammessa solo in via eccezionale (<ref-ruling> consid. 3.2 pag. 367; <ref-ruling> consid. 2.1 pag. 346; <ref-ruling> consid. 3.3 pag. 434).
5.3.2 Nella fattispecie, la denuncia del fatto che la giuria che si è pronunciata preventivamente sui progetti avrebbe deliberato in assenza del membro della Commissione Beni culturali, così come quella secondo cui sarebbe stato infine premiato un progetto che prevedeva un intervento vietato dalla documentazione di gara sono senz'altro motivi che potevano essere fatti valere nell'ambito di una procedura di ricorso contro la delibera in questione. Dette critiche non sono però certo suscettibili di far apparire la medesima affetta da un vizio talmente grave da determinarne la nullità: ovvero da privarla ab initio di qualsiasi effetto giuridico (sentenza 2A.82/2004 del 6 maggio 2004 consid. 5.1 seg.).
Contrariamente a quanto sembra sostenere l'insorgente, gli asseriti vizi non mettono in particolare in discussione la competenza dell'autorità che ha emanato la decisione di delibera, cioè il Consiglio di Stato; nel contempo, non sono inoltre né evidenti, né facilmente riconoscibili: tant'è che la ricorrente stessa impiega pagine per sostanziarli.
6. Per quanto precede, nella misura in cui è ammissibile, il ricorso deve essere respinto sia riguardo alle conclusioni presentate in via principale che subordinata. Le spese giudiziarie seguono la soccombenza (<ref-law>). Non si assegnano ripetibili ad autorità vincenti (<ref-law>) e nemmeno si giustifica l'assegnazione di ripetibili a B._ e C._ (sentenza 2C_144/2009 del 15 giugno 2009 consid. 7).

Per questi motivi, il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso è respinto.
2. Le spese giudiziarie di fr. 2'000.-- sono poste a carico della ricorrente.
3. Comunicazione al patrocinatore della ricorrente, al Dipartimento dell'educazione, della cultura e dello sport, al Dipartimento delle finanze e dell'economia, al Consiglio di Stato e al Tribunale amministrativo del Cantone Ticino, nonché a B._ e C._.