Fatti:
A. Nell'ambito di una procedura in materia edilizia che oppone A._ Sagl e B._ SA al Municipio di Melano, concernente tra l'altro un richiesto cambiamento di destinazione di locali da affittacamere a postribolo, il Consiglio di Stato del Cantone Ticino ha respinto i ricorsi delle citate società. Queste intendono impugnare la decisione governativa dinanzi al Tribunale cantonale amministrativo.
Con istanze del 5 giugno e 7 settembre 2009, le insorgenti hanno chiesto la ricusa di tutti i giudici del Tribunale d'appello del Cantone Ticino. Adducevano che il patrocinatore del Municipio, quale membro del Gran Consiglio, aveva partecipato alla loro elezione, per cui essi, essendo la controparte rappresentata da chi li ha eletti, non sarebbero oggettivamente imparziali.
B. Con risoluzione del 24 novembre 2009, il Consiglio di Stato ha proceduto in seduta pubblica, scegliendo tra nove persone aventi i requisiti richiesti, al sorteggio di una Camera straordinaria del Tribunale d'appello composta di tre giudici, designando anche un giudice straordinario supplente. Ha inoltre trasmesso a detta Camera, per giudizio, le istanze di ricusa.
C. Avverso questa decisione A._ Sagl e B._ SA presentano un ricorso in materia di diritto pubblico e in subordine un ricorso sussidiario in materia costituzionale al Tribunale federale. Chiedono, in via principale, di annullare la decisione impugnata e di ordinare un nuovo sorteggio; in via subordinata, di accertare la carenza di indipendenza e imparzialità oggettiva del giudice straordinario avv. C._, che esercitava la professione d'avvocato anche quando era membro del Gran Consiglio.
C._ si rimette al giudizio del Tribunale federale, mentre il Consiglio di Stato propone di respingere, in quanto ammissibile, il ricorso.
Diritto:
1. 1.1 Il Tribunale federale esamina d'ufficio la sua competenza e se e in che misura un ricorso può essere esaminato nel merito (art. 29 cpv. 1 LTF; DTF 136 II 101 consid. 1).
1.2 La criticata decisione, che non pone fine alla vertenza in materia edilizia, costituisce una decisione incidentale sulla competenza e la ricusazione notificata separatamente. Contro siffatte decisioni, e per analogia contro il sorteggio litigioso, il ricorso in materia di diritto pubblico (art. 82 cpv. 1 lett. a LTF) è, di massima, ammissibile (art. 92 LTF). Tali decisioni non possono più essere impugnate ulteriormente (art. 92 cpv. 2 LTF).
1.3 La tempestività del gravame (art. 100 cpv. 1 LTF) e la legittimazione delle ricorrenti (art. 89 cpv. 1 LTF) sono pacifiche. Non essendo in presenza di una delle eccezioni dell'art. 83 LTF, il ricorso sussidiario in materia costituzionale è chiaramente inammissibile.
2. 2.1 L'art. 46 della legge sull'organizzazione giudiziaria ticinese del 10 maggio 2006 (LOG) ha il seguente tenore:
"1 Se è ricusato l'intero Tribunale, il presidente ne dà avviso al Consiglio di Stato perché costituisca un Tribunale d'appello straordinario oppure una Camera straordinaria, chiamati a statuire.
2 Il Consiglio di Stato procede alla costituzione mediante sorteggio, in seduta pubblica, fra un numero triplo di persone aventi i requisiti per essere giudici d'appello e ne designa il presidente."
2.2 Le ricorrenti sostengono che il Governo cantonale, autorità la cui decisione è oggetto d'impugnazione, avrebbe scelto unilateralmente, tra un migliaio di candidati aventi i requisiti per essere giudici d'appello, nove persone che gli converrebbero. Aggiungono inoltre che l'art. 46 cpv. 2 LOG non permetterebbe la nomina di un giudice supplente e contestano l'imparzialità di un magistrato sorteggiato.
2.3 Alla decisione impugnata, presa nel 2009, è applicabile l'art. 130 cpv. 3 LTF, secondo cui entro due anni dall'entrata in vigore della LTF i Cantoni emanano le norme di esecuzione concernenti la competenza, l'organizzazione e la procedura delle giurisdizioni inferiori nelle cause di diritto pubblico ai sensi degli art. 86 cpv. 2 e 3 e 88 cpv. 2 LTF, incluse le disposizioni necessarie alla garanzia della via giudiziaria di cui all'art. 29a Cost. (DTF 136 I 42 consid. 1.4; 133 I 286 consid. 1). Le ricorrenti non si esprimono del tutto su questo quesito, decisivo.
2.3.1 L'art. 86 cpv. 2 LTF impone ai Cantoni di istituire tribunali superiori che giudicano quali autorità di grado immediatamente inferiore al Tribunale federale, che non deve statuire quale prima istanza giudiziaria. La norma riprende la precedente disciplina dell'art. 98a cpv. 1 OG, introdotta per le materie nelle quali era ammissibile il ricorso di diritto amministrativo, estendendolo alle cause che in precedenza potevano essere oggetto soltanto di un ricorso di diritto pubblico (messaggio del 28 febbraio 2001 concernente la revisione totale dell'organizzazione giudiziaria federale, FF 2001 3882). Secondo la giurisprudenza, si intende quale tribunale superiore ai sensi dell'art. 86 cpv. 2 LTF un'autorità giudiziaria cantonale le cui decisioni non siano suscettibili di un ricorso ordinario a livello cantonale e che non dipenda sotto l'aspetto gerarchico da un'altra autorità giudiziaria cantonale (DTF 135 II 94 consid. 4.1; 134 I 125 consid. 3.5 con riferimenti alla dottrina; sentenza 1C_346/2009 del 6 novembre 2009 consid. 4.3). Quando il diritto cantonale prevede più istanze, l'autorità giudiziaria di ultima istanza è quella più alta. Se lo stesso diritto prevede un'unica istanza giudiziaria, questa potrà essere considerata come tribunale superiore, nella misura in cui assolva le esigenze di indipendenza richieste a un'autorità giudiziaria e abbia la competenza di esaminare liberamente i fatti e di applicare d'ufficio il diritto determinante conformemente all'art. 110 LTF (messaggio, 3883). È pacifico che il Consiglio di Stato non configura un tribunale ai sensi degli art. 86 cpv. 2 LTF, 30 cpv. 1 Cost. e 6 n. 1 CEDU (DTF 121 II 219 consid. 2b; sentenza 2C_271/2008 del 27 novembre 2008 consid. 3.2.2 e 4.3). A differenza di quanto vale in materia penale (art. 80 cpv. 2 LTF) e perlomeno parzialmente in quella civile (art. 75 cpv. 2 LTF), nelle cause in materia di diritto pubblico la LTF non impone un doppio grado di giurisdizione (cfr. DTF 135 II 94 consid. 4.1).
2.3.2 Allo scopo di adeguare il sistema giudiziario amministrativo ticinese agli art. 29a e 191b Cost. e 86 cpv. 2 LTF, il Gran Consiglio ha emanato il 2 dicembre 2008 la legge sulla revisione della giurisdizione amministrativa (pubblicata nel Bollettino ufficiale delle leggi e degli atti esecutivi n. 4/2009 del 27 gennaio 2009), con entrata in vigore immediata. Essa elenca, con il sistema enumerativo, i rimedi di diritto a livello cantonale previsti per le diverse leggi. Circa la LOG, per quanto qui interessa, la citata legge non istituisce alcuna autorità di ricorso.
Riguardo all'art. 86 cpv. 3 LTF, secondo cui per le decisioni di carattere prevalentemente politico i Cantoni possono istituire quale autorità di grado immediatamente inferiore al Tribunale federale un'autorità diversa da un tribunale (DTF 136 I 42 consid. 1.5; 135 II 94 consid. 3.4; WURZBURGER, in Commentaire de la LTF, 2009, n. 24 seg. all'art. 86), nel messaggio n. 5994 del 13 novembre 2007, relativo alla testé citata legge cantonale, si rileva che si possono sottrarre al giudizio di un'autorità giudiziaria cantonale quegli atti di governo, emanati dal Gran Consiglio o dal Consiglio di Stato, di natura essenzialmente politica, nei quali v'è un potere di apprezzamento estremamente ampio (in particolare decisioni in materia di piano direttore cantonale, di diritto di grazia, di concessione e rifiuto di sussidi facoltativi da parte del Parlamento e di aggregazioni comunali), ragione per cui suggeriva di non prevedere in questi campi alcuna facoltà di ricorso al Tribunale cantonale amministrativo. Il legislatore cantonale ha seguito la proposta.
2.4 La risoluzione impugnata, neppure designata come definitiva, non contiene alcuna indicazione dei rimedi giuridici, disattendendo in tal modo sia quanto imposto dall'art. 26 cpv. 2 della legge ticinese di procedura per le cause amministrative del 19 aprile 1966 sia dall'art. 112 cpv. 1 lett. d LTF.
2.4.1 La vertenza in esame concerne, in seguito a ricusa, le modalità di sorteggio di giudici supplenti straordinari e quindi una materia che di massima non riveste un carattere prevalentemente politico. Essa si differenzia peraltro in modo sostanziale dall'usuale elezione di magistrati ordinari da parte del Parlamento, in relazione alla quale, indipendentemente dal quesito della legittimazione a ricorrere, andrebbero esaminati gli aspetti relativi all'applicabilità dell'art. 88 cpv. 2 LTF, secondo cui l'obbligo dei Cantoni di prevedere un rimedio giuridico contro gli atti delle autorità che possono violare i diritti politici dei cittadini in materia cantonale non si estende agli atti del Parlamento e del Governo.
Non si è neppure manifestamente in presenza dell'eccezione prevista dall'art. 86 cpv. 3 LTF, da interpretare in maniera restrittiva (DTF 136 I 42 consid. 1.5.4), ritenuto che, in considerazione della scelta tramite sorteggio di giudici supplenti straordinari, viene meno l'ampio potere di apprezzamento riconosciuto al Consiglio di Stato, nel menzionato messaggio alla legge cantonale, per poter ravvisare una decisione di carattere prevalentemente politico secondo la citata norma.
2.4.2 Ora, l'art. 86 cpv. 2 LTF è direttamente applicabile e fonda la competenza dell'autorità cantonale superiore qualora, come nel caso di specie, difettino le norme che i cantoni devono emanare in virtù dell'art. 130 cpv. 3 LTF (sentenza 2C_258/2007 del 10 ottobre 2007 consid. 2.1; WURZBURGER, op. cit., n. 8 ad art. 86; FERRARI, ibidem, n. 13 e 14 ad art. 130).
2.4.3 Come si è visto, la risoluzione impugnata non costituisce una decisione di ultima istanza cantonale (art. 86 cpv. 1 lett. d LTF), impugnabile direttamente dinanzi al Tribunale federale.
Di massima, la causa dovrebbe quindi essere rinviata al Consiglio di Stato, affinché designi l'autorità competente a esaminare nel merito le asserite irregolarità del sorteggio. In effetti, in concreto, la competenza del Tribunale cantonale amministrativo o di una Camera costituita secondo le regole per la supplenza ordinaria del Tribunale di appello, del quale le ricorrenti hanno ricusato tutti i giudici, non appare d'acchito manifesta (cfr. DTF 135 II 94 consid. 6.2; 136 I 80 consid. 3). D'altra parte, il Consiglio di Stato procederebbe a tale designazione applicando nuovamente l'art. 46 LOG nella contestata maniera, per cui si giustifica eccezionalmente, viste le particolarità della fattispecie, di rinunciare all'esigenza di un'istanza giudiziaria precedente.
3. 3.1 La garanzia del diritto a un giudice imparziale vieta l'influsso sulla decisione di circostanze estranee al processo, che potrebbero privarlo della necessaria oggettività a favore o a pregiudizio di una parte (DTF 136 I 207 consid. 3.1 e rinvii). Essa è concretata in primo luogo dalle regole cantonali sulla ricusa e l'esclusione o astensione obbligatoria (DTF 116 Ia 14 consid. 4; 125 I 209 consid. 8a). Indipendentemente dai precetti del diritto cantonale, la Costituzione federale (art. 30 cpv. 1) e la CEDU (art. 6 n. 1) assicurano comunque a ciascuno il diritto di sottoporre la propria causa a giudici non prevenuti, ossia in grado di garantire un apprezzamento libero e imparziale. Sebbene la semplice affermazione della parzialità, basata su sentimenti soggettivi di una parte, non sia sufficiente per fondare un dubbio legittimo, non occorre che il giudice sia effettivamente prevenuto: per giustificare la sua ricusazione bastano circostanze concrete idonee a suscitare l'apparenza di una prevenzione e a far sorgere un rischio di parzialità (DTF 136 I 207 consid. 3.1).
3.2 La ricusa riveste un carattere eccezionale (DTF 131 I 24 consid. 1.1; 116 Ia 14 consid. 4). Sotto il profilo oggettivo occorre ricercare se il magistrato ricusato offra le necessarie garanzie per escludere ogni legittimo dubbio di parzialità; sono considerati, in tale ambito, anche aspetti di carattere funzionale e organizzativo e viene posto l'accento sull'importanza che possono rivestire le apparenze stesse. Decisivo è sapere se le apprensioni soggettive dell'interessato possano considerarsi oggettivamente giustificate (DTF 134 I 238 consid. 2.1, 20 consid. 4.2).
4. 4.1 Nell'impugnata decisione governativa non vi è alcuna indicazione, tranne l'accenno al sorteggio effettuato in seduta pubblica, sulla procedura seguita, in particolare riguardo alle modalità della scelta delle nove persone tra le quali sono stati poi sorteggiati i giudici straordinari. Nelle osservazioni, il Consiglio di Stato rileva che l'art. 46 LOG è stato ripreso in maniera quasi identica dall'art. 26 della previgente LOG del 1910, per cui si tratta di una procedura, seppure applicata assai raramente, consolidata. Adduce che il Tribunale federale ha già stabilito, in tre sentenze di cui ancora si dirà, che la lista prevista per il sorteggio dal capoverso 2 può legittimamente essere limitata a nove persone. Riguardo alla procedura seguita, rileva d'aver preso atto dell'elenco stilato dalla Divisione della giustizia e, senza modificarlo, d'aver effettuato il sorteggio sulla base dello stesso. Per la preparazione dell'elenco, i servizi cantonali incaricati avrebbero verificato la disponibilità degli interessati e, senza fornire loro particolari della vertenza, hanno accertato che non rappresentano enti pubblici o privati in contestazioni analoghe. Il Governo sottolinea che, di fatto, avrebbe evitato di interferire nella scelta dei nomi, designando poi anche il presidente della Camera straordinaria mediante sorteggio.
4.2 È vero che nelle citate sentenze il Tribunale federale ha ritenuto sufficiente designare un numero di giudici straordinari che permetta di sostituire la Camera del Tribunale di appello chiamata a statuire, quindi tre giudici, limitando in maniera non arbitraria la lista per il sorteggio a nove persone (tre per tre): ciò non è tuttavia contestato dalle ricorrenti.
4.2.1 Nella sentenza P 11/74 del 3 aprile 1974 (consid. 2b), il Tribunale federale non si è espresso sulle modalità di applicazione dell'art. 26 vLOG, poiché il Consiglio di Stato, invece di procedere alla costituzione di un Tribunale d'appello straordinario, si era pronunciato direttamente sulla domanda di ricusa. Nella sentenza 1P.256/1989 dell'8 settembre 1989 consid. 2b, in RDAT 1990 n. 23, è stato semplicemente accertato che la domanda di ricusa era stata trattata dal presidente del Tribunale d'appello e quindi da un organo incompetente.
4.2.2 Nella sentenza 1P.812/1990 del 10 aprile 1991 consid. 1b/cc, in RDAT 1991 II n. 12, il Tribunale federale, pronunciandosi sull'applicazione dell'art. 26 vLOG, ha ritenuto quanto segue: "Secondo la prassi del Tribunale federale gli art. 58 Cost. e 6 CEDU lasciano al diritto cantonale un ampio margine nella scelta del sistema di designazione dei supplenti (cfr. DTF 105 Ia 172 segg.). È infatti sufficiente che il sistema scelto eviti di sottoporre il cittadino all'arbitrio dell'autorità di nomina, garantendo una scelta fondata su criteri oggettivi. Gli stessi principi devono pure valere quando sono ricusati contemporaneamente tutti i giudici di un Tribunale superiore (...). In concreto, il sistema adottato dal legislatore ticinese si fonda su due criteri destinati a evitare l'arbitrio: da un lato, l'autorità di nomina è estranea al corpo giudiziario, dall'altro, la designazione avviene mediante sorteggio. Certo, il sorteggio è preceduto dalla compilazione di una lista, ma l'ampio ventaglio di quest'ultima riduce notevolmente ogni possibilità di manipolazione".
4.2.3 Detta sentenza concerneva una causa civile di risarcimento dei danni per atto illecito con richiesta di ricusa dei giudici del Tribunale di appello, che, come membri della Commissione d'esame per l'avvocatura, non avevano ammesso l'istante a sostenere gli esami orali. Certo, la lite riguardava anche lo Stato, ma, contrariamente al caso di specie, oggetto d'impugnazione non era una decisione governativa.
4.3 Il Tribunale federale si è recentemente occupato di una censura analoga a quella sollevata dalle ricorrenti. Visto ch'erano stati sorteggiati in maniera improbabile e anormale un elevato numero di funzionari, è stato sollevato il dubbio che il presidente avesse influenzato il risultato del sorteggio, scegliendo i membri di una giuria in funzione della loro maggiore disponibilità temporale, questione sulla quale l'istanza inferiore non si era pronunciata. Al proposito il Tribunale federale ha prospettato che il fatto di orientare il sorteggio, mantenendo nella lista dei giurati soltanto le persone disponibili per partecipare a un processo di lunga durata, potrebbe costituire una circostanza atta a creare una parvenza legittima di sospetto nei confronti del magistrato interessato. Questa conclusione dovrebbe valere anche nell'ipotesi in cui questo modo di procedere dovesse trarre origine unicamente dalla volontà di facilitare l'organizzazione dei dibattimenti e non necessariamente da una deliberata intenzione di pregiudicare le parti (sentenza 1B_305/2010 del 25 ottobre 2010 consid. 3.2).
4.4 In concreto, le ricorrenti rilevano che la presenza dell'avv. C._ tra i nove membri da sorteggiare non sarebbe casuale, perché è stata nominata più volte dal Consiglio di Stato per assumere diversi mandati. Affermano che il Consiglio di Stato avrebbe liberamente prescelto nove avvocati, invece di estrarli tra le circa mille persone aventi i requisiti per essere giudici d'appello. Al loro dire, esso avrebbe dovuto formalizzare in maniera ben diversa la scelta dei nove candidati, procedendo a una prima selezione generale, oppure coinvolgerle nella procedura di scelta.
4.5 L'art. 46 cpv. 2 LOG non precisa secondo quali modalità debba essere scelto il "numero triplo di persone aventi i requisiti per essere giudici d'appello": con tale decisiva precernita (tra circa un migliaio di potenziali candidati), un'eventuale manipolazione del susseguente sorteggio non può essere del tutto esclusa. Per di più, né nella decisione impugnata né nella risposta al ricorso, il Consiglio di Stato spiega sulla base di quali criteri è stata allestita la lista in questione e sono state scelte le nove persone che vi figurano, fatta eccezione per la verifica, dopo la designazione per opera dei servizi cantonali della loro disponibilità. In siffatte condizioni, una legittima parvenza di sospetto riguardo alla procedura di selezione delle nove persone, prescelte sulla base di criteri non verificabili e quindi non oggettivi, non può essere esclusa. Che fra queste persone vengano sorteggiati tre magistrati straordinari in un secondo tempo, non è decisivo, ritenuto che il dubbio di un'eventuale imparzialità si riferisce alla criticata prescelta e non al susseguente sorteggio. In effetti, determinante non è il sufficientemente ampio ventaglio della lista delle nove persone tra le quali vengono sorteggiati i magistrati straordinari, ma la maniera di compilare tale lista, non fondata su motivi plausibili, convincenti e comprensibili. Gli interessati, che ne ignorano le modalità di compilazione, possono pertanto, obiettivamente, avere dei dubbi legittimi circa un'apparenza di prevenzione e di rischio di parzialità (sulla garanzia del diritto a un giudice imparziale vedi DTF 136 I 207 consid. 3.1). La decisione impugnata dev'essere pertanto annullata. Di conseguenza l'asserita imparzialità di un magistrato sorteggiato non dev'essere esaminata.
4.6 Giova inoltre rilevare che il censurato sorteggio di un supplente, motivato secondo il Consiglio di Stato da ragioni di economia processuale allo scopo di evitare ripetute estrazioni, non è previsto dall'art. 46 LOG. Per questo motivo detta nomina non avrebbe comunque potuto essere avallata. In effetti, per impedire ogni manipolazione, l'istituzione di tribunali d'eccezione dev'essere prevista da un testo legale (DTF 131 I 31 consid. 2.1.2.1).
5. 5.1 A titolo abbondanziale si può ricordare che, con riserva delle garanzie procedurali minime prescritte dagli art. 29 e 30 Cost., nonché 6 CEDU (DTF 134 I 184 consid. 3.1), un tribunale, del quale è chiesta la ricusa di tutti i suoi membri, può dichiarare esso medesimo, anche qualora questa decisione secondo la legge di procedura applicabile incomba a un'altra autorità, irricevibile la domanda. Ciò quand'essa sia abusiva o manifestamente infondata, condizioni che tuttavia non devono essere ammesse troppo facilmente (DTF 114 Ia 278 consid.1; 105 Ib 301 consid. 1c; sentenze 2C_8/2007 del 27 settembre 2007 consid. 2.4 e 1P.553/2001 del 12 novembre 2001 consid. 2b; per l'applicazione dell'art. 37 cpv. 3 LTF cfr. AUBRY GIRARDIN, in Commentaire de la LTF, 2009, n. 9 e 13 ad art. 37).
5.2 In effetti, per evitare abusi o manipolazioni e garantire l'indipendenza necessaria, il diritto delle parti, non solo di quella ricorrente ma anche della controparte, a una composizione regolare di un tribunale, vieta di principio l'istituzione di tribunali d'eccezione e l'operare di giudici ad hoc o ad personam ed esige allo scopo di impedire ogni manipolazione e garantire l'indipendenza necessaria, un'organizzazione giudiziaria e una procedura stabilite in un testo di legge (DTF 134 I 184 consid. 3.1, 125 consid. 3.3; 131 I 31 consid. 2.1.2.1 pag. 34; sull'ammissibilità di tribunali speciali vedi DTF 136 I 207 consid. 3.5).
Richiamate queste garanzie, si giustifica pure rilevare che, prima di procedere all'istituzione di un tribunale straordinario, il Tribunale d'appello avrebbe dovuto vagliare compiutamente, in relazione al caso di specie, se per esempio a causa di nomine avvenute tacitamente o in assenza del parlamentare in questione, la ricusa di tutti i membri del Tribunale d'appello poteva essere ammessa d'acchito, senza procedere per lo meno a un esame preliminare dell'asserita fondatezza della domanda di ricusa.
6. 6.1 Ne segue che il ricorso dev'essere accolto e la decisione impugnata annullata.
6.2 Le ricorrenti non si sono espresse sulla questione dell'applicazione diretta dell'art. 86 cpv. 2 LTF, per cui vengono attribuite ripetibili ridotte della sede federale (art. 66 cpv. 1 LTF). Non si prelevano spese giudiziarie (art. 66 cpv. 4 LTF).
Per questi motivi, il Tribunale federale pronuncia:
1. Il ricorso è accolto e la decisione emanata dal Consiglio di Stato del Cantone Ticino il 24 novembre 2009 è annullata.
2. Lo Stato del Cantone Ticino rifonderà alle ricorrenti un'indennità ridotta di fr. 1'000.- per ripetibili della sede federale.
3. Comunicazione al patrocinatore delle ricorrenti, alla Presidente della Camera straordinaria del Tribunale di appello, a C._, al Consiglio di Stato e, per conoscenza, al Tribunale d'appello del Cantone Ticino.