Fatti:
A. Il 14 gennaio 2009 la Direzione dell'Ente Ospedaliero Cantonale (EOC) ha indetto una gara d'appalto con procedura ad invito per la fornitura di 67 coppie di monitor PACS ("picture archiving and communication system") destinati alla diagnosi radiologica nonché di un sistema di controllo della qualità dei medesimi. Il capitolato inviato alle tre ditte invitate indicava che il concorso era sottoposto alla legge sulle commesse pubbliche del 20 febbraio 2001 (LCPubb; RL/TI 7.1.4.1) e che l'appalto, considerati determinati criteri e fattori di ponderazione, sarebbe stato attribuito all'offerta più vantaggiosa. La documentazione trasmessa elencava con precisione le specifiche tecniche minime dei monitor e stabiliva i requisiti esatti dal sistema di controllo della qualità, sottoposto tra l'altro alle normative emesse dalla Divisione radioprotezione dell'Ufficio federale della sanità pubblica (Istruzione R-08-06 del 13 luglio 2004; DIN V 6868). In particolare doveva essere proposto un applicativo idoneo per il controllo centralizzato della qualità, adatto a verificare la calibratura del monitor, gestire i monitor diagnostici da remoto e fornire report di analisi. Venivano poi precisate le modalità di valutazione di ogni singolo criterio di aggiudicazione e, infine, indicato che gli atti di appalto erano impugnabili al Tribunale cantonale amministrativo entro 10 giorni dalla loro messa a disposizione.
B. Il 10 aprile 2009 il Consiglio di amministrazione dell'EOC ha risolto di aggiudicare la commessa alla ditta B._ AG, alla quale erano stati attribuiti 435 punti e la cui offerta ammontava a fr. 438'188.09. L'aggiudicazione è stata contestata il 20 aprile successivo dalla A._ AG, seconda in classifica con 358 punti e un'offerta di fr. 650'690.70. Censurato un difetto di motivazione, essa chiedeva l'estromissione dell'aggiudicataria il cui prodotto non era, a suo avviso, conforme alle esigenze del capitolato. Affermava poi che la formula applicata a posteriori dal committente per valutare il prezzo portava a un risultato arbitrario.
C. Con sentenza del 18 settembre 2009 il Tribunale cantonale amministrativo ha respinto il gravame. Giudicate prive d'oggetto le censure formali sollevate nella misura in cui la ricorrente aveva avuto accesso ad ogni atto concorsuale e le era stata data ampia facoltà di esprimersi, la Corte ticinese ha in primo luogo dichiarata infondata la censura incentrata sul metodo di valutazione del prezzo. Al riguardo ha rilevato che l'interessata non aveva sollevato obiezioni di sorta quando le era stata resa nota la formula, motivo per cui non poteva più ora ridiscutere le prescrizioni del concorso. Ha poi respinto la censura concernente la conformità alle esigenze del capitolato d'appalto del prodotto offerto, osservando che lo stesso rispettava i contenuti dell'Istruzione R-08-06 del 13 luglio 2004, come risultava dall'attestazione rilasciata il 2 luglio 2009 dall'Ufficio federale della sanità pubblica. Considerato poi che la citata istruzione rinviava sia alle norme DIN 6868-57 che agli standard DICOM non vi era motivo di ritenere, secondo il Tribunale cantonale amministrativo, che il certificato di conformità non si estendeva anche alle direttive tecniche. Infine per quanto riguarda il controllo della calibratura del monitor e la gestione dei monitor diagnostici da remoto, ha giudicato che la documentazione tecnica fornita dimostrava che il prodotto rispondeva anche da questo profilo alle esigenze del capitolato d'appalto. La richiesta di escludere l'aggiudicataria andava pertanto respinta.
D. Il 26 ottobre 2009 la A._ AG ha esperito dinanzi al Tribunale federale un ricorso in materia di diritto pubblico e un ricorso sussidiario in materia costituzionale con cui chiede che la sentenza 18 settembre 2009 e la risoluzione 10 aprile 2009 siano annullate e che l'appalto le venga aggiudicato. In via subordinata domanda il rinvio degli atti alla Corte cantonale affinché le aggiudichi la commessa litigiosa e, in via ancora più subordinata propone che sia accertata l'illiceità dell'aggiudicazione. Lamenta in sostanza un accertamento manifestamente inesatto dei fatti nonché una violazione del divieto dell'arbitrio.
Chiamati ad esprimersi sia il Tribunale cantonale amministrativo che l'Ufficio dei lavori sussidiati e degli appalti del Dipartimento del territorio si sono limitati a riconfermarsi, il primo nel proprio giudizio, e il secondo nelle allegazioni presentate in sede cantonale. Con osservazioni del 18 dicembre 2009, rispettivamente del 4 gennaio 2010 l'Ente Ospedaliero Cantonale e la B._ AG hanno postulato la reiezione in ordine e nel merito dei gravami.
Diritto:
1. 1.1 Il Tribunale federale esamina d'ufficio e con piena cognizione la sua competenza (art. 29 cpv. 1 LTF), rispettivamente l'ammissibilità dei gravami che gli vengono sottoposti (DTF 135 II 22 consid. 1 pag. 24; 135 III 1 consid. 1.2.1 pag. 4; 134 IV 36 consid. 1 pag. 37 con rispettivi rinvii).
1.2 La ricorrente ha esperito un ricorso in materia di diritto pubblico e, in subordine, un ricorso sussidiario in materia costituzionale. Giusta l'art. 113 LTF il Tribunale federale giudica i ricorsi in materia costituzionale interposti contro le decisioni cantonali di ultima istanza laddove non sia ammissibile il rimedio ordinario previsto dagli art. 72 a 89 LTF.
2. 2.1 Per quanto concerne le commesse pubbliche, il ricorso in materia di diritto pubblico è ammissibile solo se il valore stimato dell'appalto raggiunge i valori soglia previsti dall'art. 83 lett. f n. 1 LTF e, cumulativamente (DTF 134 II 192 consid. 1.2 pag. 194 seg.), se la fattispecie pone una questione di diritto d'importanza fondamentale, giusta l'art. 83 lett. f n. 2 LTF.
2.2 L'esistenza di una questione giuridica d'importanza fondamentale va valutata in maniera molto restrittiva (DTF 133 III 493 consid. 1.1 pag. 494). Per ritenere adempiuto il presupposto dell'art. 83 lett. f n. 2 LTF non è sufficiente che il Tribunale federale non abbia mai avuto modo di pronunciarsi sulla questione sottopostagli. Occorre piuttosto che il problema giuridico sollevato sia suscettibile di ripresentarsi nei medesimi termini in svariati casi analoghi, per cui la sua soluzione può fungere da riferimento per la prassi. Deve poi trattarsi di una questione aperta o controversa che per la sua portata richiede un chiarimento da parte della più alta istanza giudiziaria federale. Considerati il senso e lo scopo dell'art. 83 lett. f n. 2 LTF, detta questione deve inoltre riferirsi al contenuto della vertenza sottoposta al giudizio del Tribunale federale, ovvero deve riguardare un problema inerente al regime giuridico in materia di acquisti pubblici. Determinante è l'importanza generale dell'aspetto litigioso, non il suo significato o le sue ripercussioni per le parti coinvolte nel caso specifico (sentenza 2C_559/2008 del 17 dicembre 2008 riassunta in RtiD 2009 II pag. 133 seg., consid. 1.2 pag. 135 e numerosi rinvii giurisprudenziali e dottrinali).
2.3 Nella fattispecie è incontestato che l'appalto concerne forniture di un costo largamente superiore all'importo determinante per l'applicazione della legge sugli acquisti pubblici (cfr. l'art. 6 cpv. 1 lett. a della legge federale del 16 dicembre 1994 sugli acquisti pubblici [LAPub; RS 172.056.1] e l'art. 1 lett. b dell'ordinanza del DFE del 27 novembre 2008 sull'adeguamento dei valori soglia degli acquisti pubblici per l'anno 2009 [RU 2008 5955]). Quanto alla questione giuridica d'importanza fondamentale, la ricorrente la intravvede nel quesito di sapere se, quando l'idoneità tecnica di un prodotto viene stabilita da direttive, le stesse vanno applicate nella versione in vigore al momento dell'aggiudicazione oppure se, come da lei sostenuto, in quella successivamente entrata in vigore. Tale opinione non può essere condivisa. In effetti, la problematica della conformità dell'offerta alle direttive tecniche contenute nelle prescrizioni di gara, cioè sapere se le autorità dovessero tener conto della versione entrata ulteriormente in vigore, non costituisce una questione giuridica d'importanza fondamentale, ma concerne in realtà il quesito di sapere che cosa è oggetto della procedura di aggiudicazione. Ne deriva che gli argomenti avanzati dalla ricorrente sono inidonei per potere ammettere l'esistenza di un problema giuridico che, per la sua portata, richiede un chiarimento da parte della più alta istanza giudiziaria e la cui soluzione può fungere da riferimento per la prassi (sentenza 2C_116/2007 del 10 ottobre 2007 consid. 4.2, riassunta in: AJP 2008 pag. 238; cfr. pure DTF 127 I 289 consid. 3a pag. 292). Il ricorso in materia di diritto pubblico è di conseguenza inammissibile.
3. 3.1 Occorre pertanto appurare se il ricorso sussidiario in materia costituzionale degli art. 113 segg. LTF sia proponibile. Rivolto contro una decisione finale (art. 117 e 90 LTF), pronunciata dall'autorità cantonale di ultima istanza con natura di tribunale superiore (art. 114 e 86 cpv. 1 lett. d e cpv. 2 LTF) e presentato nei termini legali (art. 117 e 100 cpv. 1 LTF) dalla ricorrente legittimata ad agire (art. 115 LTF), il citato rimedio risulta, all'esclusione del documento prodotto per la prima volta in questa sede (art. 117 e 99 cpv. 1 LTF), ricevibile.
3.2 Con questo rimedio può essere censurata solo la violazione dei diritti costituzionali (art. 116 LTF). Inoltre dev'essere indicato quale sia la norma di diritto costituzionale che si pretende violata nonché dimostrato, mediante un'argomentazione circostanziata (art. 42 cpv. 2 LTF), in cosa consista la violazione (cfr. DTF 130 I 258 consid. 1.3 pag. 261 seg.). Altrimenti detto, il Tribunale federale esamina la violazione di diritti di rango costituzionale o censure costituzionali nell'applicazione del diritto cantonale o intercantonale soltanto se l'insorgente le abbia sollevate e sufficientemente motivate nell'atto di ricorso (art. 117 e 106 cpv. 2 LTF; DTF 133 II 396 consid. 3.2 pag. 400). Ciò significa che questa Corte non procede alla verifica della costituzionalità dell'atto impugnato sotto tutti gli aspetti possibili, bensì vaglia solo le censure che il ricorrente ha sollevato in modo chiaro e dettagliato nel suo allegato (DTF 133 III 393 consid. 6 pag. 397).
3.3 Nella fattispecie gli argomenti addotti dalla ricorrente non soddisfano queste esigenze. Nella sua impugnativa essa insiste sul fatto che la Corte cantonale doveva esaminare non solo la conformità dell'offerta litigiosa alle direttive in vigore quando è stato indetto il concorso, rispettivamente quando si è proceduto all'aggiudicazione, ma anche e soprattutto alla loro nuova versione pubblicata nell'agosto 2009, con effetto retroattivo al 1° luglio 2009, di cui essa è venuta casualmente a conoscenza nel mese di ottobre 2009. Ciò che non sarebbe manifestamente il caso, come comprovato dai referti tecnici da lei prodotti in sede cantonale e ampiamente riportati nell'allegato ricorsuale. Essa conclude affermando che il rifiuto della Corte cantonale di tener conto delle perizie da lei prodotte così come della nuova versione delle direttive tecniche avrebbe portato l'autorità ad emanare un giudizio fondato su di un accertamento manifestamente inesatto dei fatti ed inficiato d'arbitrio.
Sennonché, in realtà, la ricorrente si limita ad esporre il proprio punto di vista, senza confrontarsi minimamente con la motivazione posta a fondamento della sentenza querelata. In particolare essa non propone nessun argomento suscettibile di far ritenere che il Tribunale cantonale amministrativo, da un lato, sia caduto nell'arbitrio non tenendo conto del nuovo contenuto di direttive di cui, quando si è pronunciato, non era a conoscenza e, dall'altro, che sia incorso in un accertamento palesemente inesatto dei fatti o che abbia pronunciato un giudizio manifestamente insostenibile quando - richiamata la dichiarazione 2 luglio 2009 dell'Ufficio federale della sanità pubblica attestante che i prodotti dell'aggiudicataria rispettavano i contenuti dell'Istruzione R-08-06 riguardanti i controlli di qualità dei sistemi di radiologia digitale nonché osservato che tale documento rinviava in modo chiaro ed esplicito alle norme DIN 6868-57 e, tramite le stesse, agli standard DICOM - ha giudicato che non vi era ragione di ritenere che la citata attestazione di conformità non si estendeva anche al rispetto delle menzionate direttive tecniche. Allo stesso modo niente nell'impugnativa o negli atti di causa dimostra e neanche prova che solo il prodotto della ricorrente adempisse queste esigenze tecniche. Ora quando, come in concreto, viene invocata la violazione del divieto dell'arbitrio, non ci si può limitare a criticare la decisione impugnata come in una procedura d'appello, dove l'autorità di ricorso gode di cognizione libera, opponendo semplicemente la propria opinione a quella dell'autorità cantonale. Per giurisprudenza invalsa infatti, l'arbitrio non si realizza già qualora la soluzione proposta con il ricorso possa apparire sostenibile o addirittura migliore rispetto a quella contestata. Il Tribunale federale annulla la pronunzia criticata per violazione dell'art. 9 Cost. solo se il giudice del merito ha emanato un giudizio che appare - e ciò non solo nella sua motivazione bensì anche nell'esito - manifestamente insostenibile, in aperto contrasto con la situazione reale, gravemente lesivo di una norma o di un principio giuridico chiaro e indiscusso, oppure in contraddizione urtante con il sentimento della giustizia e dell'equità (cfr. sulla nozione di arbitrio, DTF 135 V 2 consid. 1.3 pag. 4; 134 I 263 consid. 3.1 pag. 265 seg.). Ciò che in concreto non è stato né provato né dimostrato: il ricorso sussidiario in materia costituzionale, di natura meramente appellatoria, sfugge pertanto ad un esame di merito.
In conclusione sia il ricorso in materia di diritto pubblico che il ricorso sussidiario in materia costituzionale devono essere dichiarati inammissibili.
4. Le spese seguono la soccombenza e sono quindi poste a carico della ricorrente (art. 66 cpv. 1 LTF), che rifonderà alla B._ AG, patrocinata da un avvocato, un'indennità per ripetibili della sede federale (art. 68 cpv. 1 e 2 LTF). Né le autorità vincenti (art. 68 cpv. 3 LTF) né l'Ente Ospedaliero Cantonale hanno invece diritto a ripetibili (cfr. sentenza 2P.221/2005 del 17 ottobre 2005 consid. 3.2).
Per questi motivi, il Tribunale federale pronuncia:
1. Il ricorso in materia di diritto pubblico e il ricorso sussidiario in materia costituzionale sono inammissibili.
2. Le spese giudiziarie di fr. 2'000.- sono poste a carico della ricorrente, la quale verserà alla B._ AG un'indennità di fr. 2'000.-- a titolo di ripetibili per la sede federale.
3. Comunicazione ai patrocinatori delle parti, al Dipartimento del territorio, Ufficio lavori sussidiati e appalti e al Tribunale amministrativo del Cantone Ticino.