Faits:
A. X._, domiciliée à Genève, est titulaire d'un permis d'établissement. Depuis 1999, elle est enregistrée en tant que prostituée auprès de la police genevoise.
En juillet 2010, X._ a annoncé au département genevois de la sécurité, de la police et de l'environnement (ci-après: le Département cantonal) qu'elle exploitait un salon de massage, dénommé A._, auprès duquel travaillaient trois personnes, dont elle-même, qui était en outre la seule titulaire du bail.
Il résulte des pièces fournies à l'appui de son annonce que X._ faisait l'objet de trente-quatre actes de défaut de biens totalisant 72'795 fr. 55 - montant actualisé de 64'805 fr. 25 conformément à l'arrêt attaqué (p. 8) -, de diverses poursuites en cours, ainsi que d'un jugement de faillite rendu en 2009, la faillite ayant été suspendue faute d'actifs; parmi les créanciers de l'intéressée figuraient B._, C._, D._ et E._, ainsi que des entreprises privées. L'intéressée a exposé à ce titre avoir été victime d'un abus de confiance de la part de la gérante de son précédent salon de massage et rembourser ses dettes.
B. En réponse à un courrier du Département cantonal envisageant d'ordonner la fermeture du salon pour cause d'insolvabilité, X._ a affirmé s'être désignée par erreur en tant que responsable d'un salon; en réalité, sa "colocataire" exerçait le métier de prostituée de façon indépendante et se contentait de participer au règlement du loyer mensuel de 2'000 fr. La situation financière précaire de X._ s'expliquait par les arriérés de pensions alimentaires qu'elle avait été condamnée à verser, à raison de 500 fr. par mois et par enfant, pour ses deux enfants.
Par décision du 12 janvier 2011, le Département cantonal a ordonné la fermeture définitive du salon de massage au motif qu'X._ ne répondait pas à la condition légale de solvabilité.
Lors d'un contrôle effectué à A._ le 17 mars 2011, la police cantonale a constaté la présence de trois femmes, déclarant se prostituer et payer 100 fr. de loyer par jour à X._. Le salon comportait cinq chambres aménagées; il ressortait d'une liste concernant l'établissement que six personnes s'y prostituaient, dont l'une n'était pas dûment enregistrée auprès de la police; d'après les indications de la recourante, elle s'était récemment séparée d'une autre des prostituées figurant dans la liste précitée.
Par arrêt du 10 janvier 2012, la Chambre administrative de la Cour de Justice de la République et canton de Genève (ci-après: la Cour de Justice) a rejeté le recours que X._ avait formé contre la décision du 12 janvier 2011.
C. Agissant par la voie du recours en matière de droit public, X._ conclut, avec suite de frais et dépens, principalement, à l'annulation de l'arrêt de la Cour de Justice et de la décision du Département cantonal, subsidiairement, à l'annulation des deux actes précités ainsi qu'au renvoi de la cause à la Cour de Justice ou au Département cantonal pour instruction complémentaire et/ou nouvelle décision. Elle demande par ailleurs l'octroi de l'effet suspensif, de même que l'assistance judiciaire.
La Cour de Justice persiste dans les considérants et le dispositif de son arrêt. Le Département cantonal conclut au rejet du recours, sous suite de frais. Dans ses observations du 16 avril 2012, la recourante maintient les conclusions de son recours.
Par ordonnance présidentielle du 12 mars 2012, le Tribunal fédéral a admis la demande d'effet suspensif formée par la recourante.

Considérant en droit:
1. Le Tribunal fédéral examine d'office sa compétence (<ref-law>) et contrôle librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 103).
1.1 L'arrêt attaqué est une décision finale (<ref-law>), rendue en dernière instance cantonale par un tribunal supérieur (art. 86 al. 1 let. d et al. 2 LTF) ne tombant pas sous le coup des exceptions de l'<ref-law>. La voie du recours en matière de droit public est donc en principe ouverte. Le mémoire de recours a été déposé en temps utile (<ref-law>) et dans les formes prescrites (<ref-law>) par la destinataire de l'acte attaqué qui a un intérêt digne de protection à son annulation ou à sa modification, de sorte qu'il faut lui reconnaître la qualité pour recourir (<ref-law>). Il convient donc d'entrer en matière.
1.2 Dans la mesure où la recourante s'en prend aussi à la décision de l'autorité ayant précédé la Cour de Justice, son recours est irrecevable en raison de l'effet dévolutif complet des actes déposés auprès de la Cour de Justice (<ref-ruling> consid. 1.2 p. 104). En tant que les pièces qui accompagnent la réponse de l'intimé du 21 mars 2012 ne ressortent pas déjà de la procédure cantonale, il s'agit de moyens nouveaux irrecevables (<ref-law>).
2. 2.1 Sauf exceptions non pertinentes en l'espèce (cf. art. 95 let. d LTF), l'on ne peut invoquer la violation du droit cantonal en tant que tel devant le Tribunal fédéral (art. 95 a contrario LTF). Il est néanmoins possible de faire valoir que son application consacre une violation du droit fédéral, comme la protection contre l'arbitraire au sens de l'art. 9 Cst. ou la garantie d'autres droits constitutionnels. Le Tribunal fédéral n'examine cependant de tels moyens que s'ils sont formulés conformément aux exigences de motivation qualifiée prévues à l'<ref-law>, qui valent en particulier pour le grief d'arbitraire (<ref-ruling> consid. 2.5 p. 314; <ref-ruling> consid. 1.2 p. 382 s.).
2.2 L'examen du Tribunal fédéral se fonde sur les faits constatés par l'autorité précédente (cf. <ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire (cf. <ref-ruling> consid. 4.2 p. 560; <ref-ruling> consid. 4.3 p. 62) - ou en violation du droit au sens de l'<ref-law> (cf. <ref-law>). Si le recourant entend s'écarter des constatations de fait de l'autorité précédente (cf. <ref-law>), il doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées. Sinon, il n'est pas possible de tenir compte d'un état de fait divergent de celui qui est contenu dans l'acte attaqué.
Seules les critiques liées aux faits répondant aux exigences précitées seront examinées. Pour le surplus, la Cour de céans se fondera sur les faits ressortant de l'arrêt entrepris (cf. <ref-ruling> consid. 5.2.2 p. 322).
3. Le présent litige porte sur la question de savoir si c'est à bon droit que le Département cantonal a ordonné la fermeture du salon de massage exploité par la recourante au motif que cette dernière n'offrirait pas toute garantie de solvabilité, au sens de la loi genevoise sur la prostitution du 17 décembre 2009 (LProst/GE; RS/GE I 2 49) et de son règlement d'exécution du 14 avril 2010 (RProst/GE; RS/GE I 2 49.01).
A teneur de l'art. 9 al. 1 LProst/GE, toute personne physique qui, en tant que locataire (...), exploite un salon et met à disposition de tiers des locaux affectés à l'exercice de la prostitution doit s'annoncer, préalablement et par écrit, aux autorités compétentes en indiquant le nombre et l'identité des personnes qui y exercent la prostitution. Selon l'art. 10 let. c LProst/GE, la personne responsable d'un salon doit notamment, en tant que condition personnelle, offrir, par ses antécédents et son comportement, toute garantie d'honorabilité et de solvabilité concernant la sphère d'activité envisagée. En vertu de l'art. 14 al. 1 let. b LProst/GE, fait l'objet de mesures et sanctions administratives la personne d'un salon qui ne remplit pas ou plus les conditions personnelles de l'art. 10; l'autorité compétente prononce, selon la gravité ou la réitération de l'infraction, notamment la fermeture définitive du salon (art. 14 al. 2 let. c in initio LProst/GE).
4. Dans un grief d'ordre formel, qu'il convient d'examiner en premier lieu (<ref-ruling> consid. 5.1 p. 390; arrêt 2C_116/2011 du 29 août 2011 consid. 5), la recourante reproche tout d'abord à la Cour de Justice d'avoir, "en violation de son droit à la preuve, et arbitrairement", refusé d'auditionner les prostituées travaillant dans son salon, de sorte à retenir un "état de fait manifestement incomplet". D'après elle, l'audition de ces témoins aurait permis de démontrer que ces dernières s'adonnaient librement à la prostitution, que la recourante n'avait aucune maîtrise sur leur comptabilité et que le loyer de sous-location dont elles s'acquittaient était indépendant du chiffre d'affaires réalisé ou du nombre de clients reçus.
4.1 Le droit d'être entendu garanti par l'art. 29 al. 2 Cst. comprend notamment le droit pour l'intéressé de s'exprimer sur les éléments pertinents avant qu'une décision ne soit prise touchant sa situation juridique, de produire des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat, lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 2.3 p. 282). Ce droit ne concerne toutefois que les éléments qui sont pertinents pour décider de l'issue du litige (cf. <ref-ruling> consid. 3.1 p. 277). Il ne s'oppose pas à ce que l'autorité mette un terme à l'instruction lorsque les preuves administrées lui ont permis de former sa conviction et que, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, elle a la certitude que ces dernières ne pourraient l'amener à modifier son opinion (<ref-ruling> consid. 5.2 p. 236 s.; <ref-ruling> consid. 5.3 p. 148).
Une décision est arbitraire (art. 9 Cst.) lorsqu'elle contredit clairement la situation de fait, qu'elle viole gravement une norme ou un principe juridique clair et indiscuté ou qu'elle heurte d'une manière choquante le sentiment de la justice et de l'équité. Il n'y a pas arbitraire du seul fait qu'une solution autre que celle de l'autorité cantonale semble concevable, voire préférable (<ref-ruling> consid. 2.1 p. 211). Pour qu'une décision soit annulée, il ne suffit pas que sa motivation soit insoutenable; il faut encore que cette décision soit arbitraire dans son résultat (<ref-ruling> consid. 4 p. 560).
4.2 Les juges cantonaux se sont, à juste titre, déclarés suffisamment renseignés pour trancher le litige sans devoir procéder aux actes d'instruction requis par la recourante. Tel qu'il ressort sans arbitraire de l'arrêt querellé, le point de savoir si les prostituées utilisant les locaux tenus par la recourante subissaient une forme de contrainte ou de contrôle de la part de cette dernière n'est pas pertinent s'agissant de déterminer si la recourante exploite un salon au sens de la LProst/GE. Il suffit en effet, comme l'ont retenu les juges cantonaux par rapport à l'intéressée, que, selon le droit cantonal, cette activité professionnelle s'exerce dans des lieux de rencontre soustraits à la vue du public (cf. art. 8 al. 1 et 2 LProst/GE) et qu'une personne physique, notamment en tant que locataire, exploite un salon et mette à disposition de tiers des locaux affectés à l'exercice de la prostitution (cf. art. 9 al. 1 LProst/GE; arrêt attaqué, p. 8 ch. 5).
Par ailleurs, on ne voit pas en quoi les allégués précités dont la recourante souhaitait faire administrer la preuve, auraient été pertinents au regard de l'examen de la proportionnalité de la décision de fermeture de l'établissement. En effet, la fermeture a été en première ligne ordonnée en raison de l'insolvabilité durable, au demeurant non contestée (recours, p. 2), de la recourante (cf. art. 10 let. c cum art. 14 al. 2 let. c LProst/GE) et non en raison d'une éventuelle entrave à la liberté d'action des prostituées exerçant dans les locaux loués par l'intéressée (cf. art. 12 let. d LProst/GE).
4.3 Les offres de preuves présentées par la recourante portant sur des éléments sans pertinence, la Cour de Justice n'a pas violé le droit d'être entendue de la recourante et n'a pas procédé à une appréciation anticipée des preuves arbitraire en refusant d'y donner suite. Ces griefs doivent être écartés.
5. D'après la recourante, l'arrêt attaqué, qui confirme la décision ordonnant la fermeture de son salon de massage pour défaut de garantie de solvabilité, constituerait une atteinte disproportionnée à sa liberté économique.
5.1 Comme le relève pertinemment la recourante, le Tribunal fédéral s'est prononcé sur la constitutionnalité de la LProst/GE dans le cadre d'un recours normatif abstrait, mais n'a pas examiné la conformité à la Constitution de l'exigence de solvabilité prévue à l'art. 10 let. c LProst/GE (arrêt 2C_230/2010 du 12 avril 2011 consid. 11, non publié aux <ref-ruling>). Cette question peut donc être examinée dans le cadre du présent recours concret.
5.2 Invocable tant par les personnes physiques que morales, la liberté économique (art. 27 Cst.) protège toute activité économique privée, exercée à titre professionnel et tendant à la production d'un gain ou d'un revenu (<ref-ruling> consid. 4.2 p. 135). Les personnes exerçant la prostitution ainsi que l'exploitation d'établissements permettant son exercice peuvent s'en prévaloir (<ref-ruling> consid. 3.1 p. 172). Une restriction à cette liberté est toutefois admissible aux conditions de l'art. 36 Cst. Sous l'angle de l'intérêt public, et en rapport avec l'exercice de la prostitution, sont autorisées les mesures de police ou de politique sociale, de même que les mesures dictées par la réalisation d'autres intérêts publics, à l'exclusion notamment des mesures de politique économique. Pour être conforme au principe de la proportionnalité (art. 36 al. 3 Cst.), une restriction d'un droit fondamental doit être apte à atteindre le but visé, lequel ne peut pas être obtenu par une mesure moins incisive; il faut en outre qu'il existe un rapport raisonnable entre les effets de la mesure sur la situation de la personne visée et le résultat escompté du point de vue de l'intérêt public (<ref-ruling> consid. 3.6 p. 175 s.).
5.3 L'ordre donné par l'autorité de fermer définitivement le salon de massage exploité par la recourante constitue une ingérence grave dans la liberté économique de celle-ci; dans la gradation des mesures et sanctions administratives prévues par l'art. 14 al. 2 LProst/GE, cette mesure représente d'ailleurs une ultima ratio; elle est cependant ancrée dans une loi cantonale au sens formel et dispose ainsi d'une base légale suffisante (cf. art. 36 al. 1, 2e phr. Cst.).
5.4 Contrairement à ce que semble suggérer la recourante, il ressort des travaux préparatoires relatifs à la LProst/GE qu'outre la prévention du risque d'exploitation des prostitué(e)s par une personne criblée de dettes, l'exigence de garantie de solvabilité selon l'art. 10 let. c LProst/GE poursuit également l'intérêt public d'éviter les conséquences d'une mauvaise gestion d'un salon de prostitution, notamment par rapport aux éventuels employés de celui-ci; un parallèle a de plus été tracé avec la législation applicable aux cafés et restaurants (cf. Rapport de la Commission judiciaire et de la police du Grand Conseil genevois chargée d'étudier le projet de loi du Conseil d'Etat sur la prostitution, du 17 novembre 2009 [PL 10447-A], p. 37 s.; ci-après: le Rapport de la Commission). En présence d'une activité soumise à la surveillance renforcée de l'Etat (cf. <ref-ruling> consid. 8.4.1 p. 189), il existe un intérêt public légitime à éviter l'insolvabilité de son exploitante de même que les répercussions potentiellement néfastes d'une telle situation sur ses méthodes de gestion ainsi que sur les personnes (clients, prostitué[e]s, usagers des locaux, etc.) concernées par cette activité.
5.5 Au regard du principe de la proportionnalité (cf. art. 5 al. 2 et 36 al. 3 Cst.), la recourante fait valoir plusieurs arguments.
5.5.1 Selon celle-ci, la décision lui interdisant d'exploiter un salon pour cause d'insolvabilité ne serait pas nécessaire pour atteindre les intérêts poursuivis; la répression de diverses formes d'exploitation et de contrainte par le Code pénal suisse, la possibilité pour la police d'effectuer des contrôles non annoncés dans les salons (cf. art. 13 LProst/GE et 11 al. 1 RProst/GE), de même que la tenue obligatoire d'un registre mentionnant les prestations fournies aux prostitué(e)s (cf. art. 12 let. a LProst/GE) seraient suffisantes pour décourager et sanctionner les cas d'exploitation et d'usure. En s'en prenant à la seule prostituée insolvable et non aux organisations criminelles à l'origine de la plupart des infractions que la LProst/GE vise à combattre, la mesure administrative prise à l'encontre de la recourante s'avérerait de plus inapte à atteindre le but recherché.
Ces griefs tombent à faux. Il résulte en effet du mémoire de réponse de l'intimé que les différentes mesures évoquées par la recourante sont certes nécessaires en tant que telles, mais qu'elles ne suffisent pas à elles seules à endiguer les risques d'exploitation sus-évoqués; ceci est d'autant plus vrai en tant que ces mesures peuvent en partie être déjouées notamment par l'impossibilité ou la crainte des prostitué(e)s, précarisé(e)s, de déposer plainte contre une pratique usurière, et par l'existence d'une double "comptabilité" au niveau des prestations facturées (cf. <ref-ruling> consid. 8.2 p. 188). En outre, il a déjà été vu que le but poursuivi par la LProst/GE ne se confine pas à la prévention d'infractions pénales; cette loi tend aussi à favoriser l'exercice conforme au droit de l'activité de prostitution dans son ensemble, ainsi qu'une gestion correcte et transparente des établissements publics actifs dans ce domaine à risque (cf. art. 1 LProst/GE; consid. 5.3 supra; cf. <ref-ruling> consid. 7.2.2 p. 182 s., consid. 7.5 p. 185, consid. 8.2 p. 188 et consid. 9.1.4 p. 192).
5.5.2 La recourante se plaint aussi du caractère disproportionné stricto sensu de la décision de fermeture pour cause d'insolvabilité. La clôture litigieuse du salon risquerait de pousser les usagères d'un salon géré par une exploitante insolvable à la rue, voire dans les bras d'un proxénète. Par ailleurs, les autorités cantonales auraient également pu, par des moyens moins rigoureux (contrôles policiers plus réguliers, vérification des registres, diligentement de poursuites pénales contre les contrevenants), atteindre les buts poursuivis par la loi.
5.5.3 Il convient d'écarter ce grief. Tout d'abord, il sied de rappeler que les arguments développés par la recourante se limitent à placer dans la balance des intérêts le seul but de prévention d'infractions pénales (cf. consid. 5.5.1 supra), alors que ce dernier ne représente que l'un parmi plusieurs intérêts poursuivis par la LProst/GE et, singulièrement, par l'exigence de solvabilité. Ensuite, les juges cantonaux soulignent à juste titre que l'ordre de fermeture de l'établissement litigieux ne prive ni la recourante ni les autres prostituées qui utilisent les locaux du salon, de l'exercice de toute activité économique dans le domaine de la prostitution; quand bien même l'arrêt attaqué représente une atteinte importante à la liberté économique de la recourante, celle-ci conserve la faculté de se prostituer dans ses locaux à titre individuel, de sorte que son entreprise ne serait plus perçue comme un salon (art. 8 al. 3 LProst/GE); quant aux prostituées partageant actuellement les chambres du salon exploité par la recourante, elles sont libres de s'adonner à leur activité dans les salons exploités par des concurrents solvables, tel que l'évoque à raison le Département cantonal, ou à ouvrir leur propre salon dans le respect des conditions légales. Cela ne signifie donc nullement que de facto, les prostituées concernées par la fermeture du salon de la recourante vont se retrouver dans la rue.
5.5.4 Dans le cadre de la pesée globale des intérêts qui doit être effectuée afin de déterminer le caractère proportionné de la mesure administrative querellée, il y a également lieu de tenir compte, notamment, des éléments suivants: à teneur de l'intitulé de l'art. 10 LProst/GE, le critère de la solvabilité constitue l'une des conditions personnelles cumulatives que doit obligatoirement remplir le responsable en vue de pouvoir exploiter un salon à Genève; il s'agit donc d'un prérequis indispensable à l'exercice de cette activité. Cela étant, et tel que le relève l'arrêt attaqué (p. 7), le législateur cantonal a d'emblée souhaité introduire des considérations liées à la proportionnalité dans la condition de "garantie de solvabilité". Tandis qu'un commissaire parlementaire proposait en effet de conditionner l'exploitation d'un salon à la preuve que le futur responsable ne fasse pas l'objet d'un acte de défaut de biens, le Grand Conseil genevois a opté pour la notion de "garantie de solvabilité", de manière à "laisser une marge de man?uvre au département pour dire qu'un acte de défaut de biens de peu d'importance n'empêche pas de donner l'autorisation mais qu'un même acte pour plusieurs dizaines de milliers de francs empêcherait de délivrer cette autorisation" (Rapport de la Commission, p. 37 s.). Or, compte tenu de l'importance des dettes supportées par la recourante (plus de 64'000 fr. à la date de l'arrêt attaqué), ainsi que du nombre des actes de défaut de biens (trente-quatre) et des poursuites encourues, sans compter la faillite clôturée après suspension pour défaut d'actifs en 2009, la Cour de Justice pouvait sans arbitraire considérer que le seuil minimum pour retenir l'absence de garantie de solvabilité avait été atteint dans le cas d'espèce. S'ajoute à cela, dans le cadre de la pesée des intérêts à effectuer, le comportement général dont a fait preuve la recourante durant la procédure administrative litigieuse, en particulier le fait d'avoir mis à disposition ses chambres à une prostituée non dûment enregistrée ou encore d'avoir présenté des versions des faits fluctuantes par rapport à l'exploitation d'un salon; ces éléments pouvaient renforcer le doute des juges cantonaux au sujet des capacités et de la volonté de la recourante à assumer la responsabilité d'un salon conformément à la LProst/GE.
5.5.5 En pondérant l'ensemble des éléments qui précèdent avec l'intérêt de la recourante à pouvoir gérer un salon de prostitution et mettre ses locaux à la disposition de tiers, la Cour de Justice était en droit de faire primer l'intérêt public au respect des conditions gouvernant l'exploitation d'un tel établissement sur l'intérêt privé de la recourante à jouir sans entrave de sa liberté économique dans le domaine de la prostitution. Le résultat inverse aurait conduit à accepter que la recourante déroge durablement à l'une des prémisses légitimes auxquelles est soumise l'exploitation d'un salon de prostitution à Genève, de sorte que l'on ne voit pas de mesure moins incisive parmi celles figurant à l'art. 14 LProst/GE qui eût été apte à rétablir une situation conforme au droit. Par conséquent, le grief tiré de la liberté économique de la recourante doit être écarté.
6. La recourante soutient encore que la Cour de Justice aurait commis un abus ou un excès de son pouvoir d'appréciation, ainsi que procédé à une application arbitraire de l'art. 10 let. c LProst/GE. Elle l'accuse en substance de s'être bornée à examiner la seule absence de solvabilité, sans interpréter cette notion à l'aune des termes de "sphère d'activité envisagée", qui sont également contenus dans cette disposition. Selon elle, le rapprochement entre ces termes aurait conféré à l'autorité une plus grande marge d'appréciation; grâce à cette marge accrue, l'autorité aurait pu relativiser l'importance de la condition de solvabilité et aurait disposé de plus de souplesse en vue de choisir la sanction pour non-respect de la condition légale de solvabilité.
6.1 En l'occurrence, on ne discerne, contrairement à ce que soutient la recourante, aucun abus ni excès du pouvoir d'appréciation de la Cour de Justice (pour cette notion, cf. <ref-ruling> consid. 5.1 p. 73).
6.1.1 Comme il a déjà été évoqué (consid. 5.5.3 ss supra), les juges cantonaux pouvaient, sans tomber dans l'arbitraire, considérer que la mesure de fermeture contestée était nécessaire, apte et proportionnée compte tenu de la situation financière obérée de la recourante et des risques qui y étaient attachés. En outre, la dernière instance cantonale était en droit de retenir que le seuil de tolérance incorporé à la notion de "garantie de solvabilité" au sens de l'art. 10 let. c LProst/GE (cf. ibidem supra) ne pouvait valoir compte tenu du nombre d'actes de défaut de biens (trente-quatre) et de poursuites constaté, de l'importance considérable (plus de 64'000 fr.) des dettes inscrites au nom de la recourante, ainsi qu'au vu du caractère durable de celles-ci eu égard à certaines charges périodiques élevées assumées par l'intéressée, notamment les contributions d'entretien vis-à-vis de ses deux enfants. En considérant que la fermeture du salon se justifiait en pareilles circonstances, l'arrêt attaqué ne révèle ainsi aucun abus ni excès du pouvoir d'appréciation que la LProst/GE concède aux autorités en relation avec la condition de solvabilité. A ce titre, il faut rappeler que la notion juridique d'insolvabilité suppose que le débiteur se trouve dans une incapacité durable de faire face à ses engagements (<ref-ruling> consid. 5.2.1 p. 357), ce qui est le cas de la recourante, qui ne le remet du reste pas en cause.
6.1.2 C'est en vain que la recourante reproche en outre à l'arrêt entrepris de consacrer une interprétation arbitraire de l'art. 10 let c LProst/GE en relation avec le passage "concernant la sphère d'activité envisagée". Pour rappel, la disposition précitée prévoit:
"La personne responsable d'un salon doit remplir les conditions suivantes (...): offrir par ses antécédents et son comportement, toute garantie d'honorabilité et de solvabilité concernant la sphère d'activité envisagée".
Premièrement, la recourante ne démontre nullement en quoi le renvoi à la "sphère d'activité envisagée" relativiserait davantage l'exigence de la garantie de solvabilité et encore moins le choix de la sanction à prononcer en cas de non-respect; comme il a été en effet vu, la condition de solvabilité prévue à l'art. 10 let. c LProst/GE laisse d'ores et déjà, en elle-même, une certaine marge de man?uvre, en ce qu'elle permet aux autorités d'accorder l'autorisation de gérer un salon à la personne qui présenterait des dettes, voire des actes de défaut de biens pour des montants de peu d'importance. Deuxièmement, l'exigence légale de garantie de solvabilité serait vidée de son sens si elle aboutissait à tolérer des situations d'insolvabilité durable et caractérisée, comme cela est le cas en l'espèce. Troisièmement, il n'est pas arbitraire, comme l'affirme le Département cantonal sur la base des travaux préparatoires relatifs à la LProst/GE, de considérer que la notion de "sphère d'activité envisagée", qui préexistait à l'insertion de l'exigence de solvabilité par le Grand Conseil (cf. art. 11 let. c du projet de loi du Conseil d'Etat sur la prostitution, du 9 mars 2009; Rapport de la Commission, p. 38), n'était censée se rapporter qu'à la notion d'honorabilité et non à celle de solvabilité; compte tenu du domaine d'activité concerné, qui fait souvent l'objet d'une perception sociale négative (<ref-ruling> consid. 8.4.1 p. 189), la condition d'honorabilité doit bel et bien être appréciée de façon nuancée, ce qui ne vaut pas nécessairement en matière de solvabilité.
6.2 Par conséquent, l'arrêt attaqué ne consacre aucune application arbitraire du droit cantonal, ni un quelconque abus ou excès arbitraire du pouvoir d'appréciation des juges cantonaux.
7. 7.1 Il résulte de ce qui précède que c'est à bon droit que la Cour de Justice a confirmé la décision du Département cantonal du 12 janvier 2011. Partant, le recours doit être rejeté dans la mesure de sa recevabilité.
7.2 La recourante a sollicité sa mise au bénéfice de l'assistance judiciaire. Sa cause paraissant dépourvue de chances de succès dès le dépôt du recours (cf. <ref-ruling> consid. 7.1 p. 2), la demande d'assistance judiciaire doit être rejetée (art. 64 al. 1 et 2 LTF). Les frais seront mis à la charge de la recourante, mais fixés en tenant compte de sa situation financière obérée (art. 65 al. 2 et 3 et 66 al. 1 LTF). Il ne sera pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours en matière de droit public est rejeté dans la mesure où il est recevable.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de la recourante.
4. Le présent arrêt est communiqué au mandataire de la recourante, au Département de la sécurité, de la police et de l'environnement du canton de Genève, et à la Cour de Justice de la République et canton de Genève, Chambre administrative, 2ème Section.
Lausanne, le 10 mai 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Chatton