Sachverhalt:
A. A.a Am 1. Juli 2004 wurde die damals 22-jährige A._ von ihrem Ex-Freund B._ ermordet.
Das Strafgericht des Kantons Schwyz sprach den Täter mit Urteil vom 6. Juli 2006 des Mordes schuldig und verurteilte ihn zu einer lebenslänglichen Zuchthausstrafe. Der Schwester der Ermordeten, X._, sprach es eine Genugtuung in der Höhe von CHF 25'000.-- nebst 5 % Zins seit dem schädigenden Ereignis zu, wobei die Genugtuung für den Verlust der Schwester mit CHF 20'000.-- bemessen wurde und aufgrund des Umstandes, dass der Täter mit verschiedenen Machenschaften versucht hatte, den Tatverdacht auf X._ zu lenken, und sie deswegen circa 3 Wochen in Untersuchungshaft verbringen musste, wurden zusätzlich CHF 5'000.-- als Genugtuung zugesprochen.
Eine vom Verurteilten gegen diesen Entscheid geführte Berufung wies das Kantonsgericht Schwyz mit Urteil vom 29. November 2006 ab und bestätigte das angefochtene Urteil des Strafgerichts auch im Zivilpunkt.
Das Bundesgericht wies die gegen das Urteil des Kantonsgerichts geführte staatsrechtliche Beschwerde sowie die Nichtigkeitsbeschwerde von B._ mit Urteil vom 29. Juni 2007 (6P.47/2007 und 6S.106/2007) ab, soweit es darauf eintrat.
A.b Am 1. Februar 2006 reichte X._ ein Gesuch um eine opferhilferechtliche Genugtuung im Betrag von CHF 20'000.-- ein.
Der Regierungsrat des Kantons Schwyz sprach X._ am 22. August 2006 gestützt auf kantonales Recht für die unschuldig erlittene Untersuchungshaft eine Genugtuung von CHF 6'500.-- zu.
Mit Beschluss vom 8. Januar 2008 sprach der Regierungsrat X._ eine opferhilferechtliche Genugtuung von CHF 5'000.-- zuzüglich 5 % Zins seit dem 1. Juli 2004 zu.
Gegen diesen Beschluss beschwerte sich X._ beim Verwaltungsgericht des Kantons Schwyz und beantragte nebst der Aufhebung des Beschlusses die Zusprechung einer Genugtuung von CHF 25'000.-- zuzüglich 5 % Zins seit dem 1. Juli 2004 (entsprechend der durch das Kantonale Strafgericht Schwyz mit Entscheid vom 6. Juli 2006 festgelegten Entschädigung [recte: Genugtuung]).
Mit Entscheid vom 24. April 2008 wies die Kammer III des Verwaltungsgerichts die Beschwerde ab. In der Urteilsbegründung führte das Verwaltungsgericht aus, unter Berücksichtigung der besonderen Verhältnisse sei der Genugtuungsanspruch der Schwester des Opfers grundsätzlich zu bejahen. Die Opferhilfebehörden seien an die rechtlichen Erwägungen im Strafurteil jedoch nicht gebunden, sondern dürften die Opferhilfe-Genugtuung nach opferhilferechtlichen Kriterien tiefer ansetzen. Der Regierungsrat habe der Beschwerdeführerin für die unschuldig erlittene Untersuchungshaft bereits eine Genugtuung von CHF 6'500.-- ausgerichtet, weshalb es nicht gerechtfertigt sei, die Untersuchungshaft bei der Festlegung der Höhe der Opferhilfe-Genugtuung nochmals zu berücksichtigen. Der vom Regierungsrat zugesprochene Betrag von CHF 5'000.-- sei unter den gegebenen Umständen nicht zu beanstanden.
B. X._ hat gegen den Entscheid des Verwaltungsgerichts beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten erhoben. Sie beantragt, der angefochtene Entscheid sei aufzuheben und ihr sei eine Genugtuung von CHF 25'000.-- nebst 5 % Zins seit dem 1. Juli 2004, eventuell CHF 20'000.-- nebst gleicher Zinsfolge, zuzusprechen (entsprechend der durch das Kantonale Strafgericht Schwyz mit Entscheid vom 6. Juli 2006 festgelegten Entschädigung [recte: Genugtuung]). Eventuell sei der angefochtene Entscheid aufzuheben und die Sache zu neuem Entscheid an die Vorinstanz zurückzuweisen (Zusprechung einer Genugtuung von CHF 25'000.-- nebst 5 % Zins seit dem 1. Juli 2004, eventuell CHF 20'000.-- nebst gleicher Zinsfolge). Ferner ersucht die Beschwerdeführerin um unentgeltliche Rechtspflege im bundesgerichtlichen Verfahren.
C. Das Verwaltungsgericht verzichtet auf Vernehmlassung. Der Regierungsrat beantragt die Abweisung der Beschwerde, soweit darauf einzutreten sei. Das Bundesamt für Justiz als beschwerdeberechtigte Bundesverwaltungsbehörde schliesst ebenfalls auf Beschwerdeabweisung. Die Beschwerdeführerin nahm unter Aufrechterhaltung ihrer Anträge nochmals Stellung.
Erwägungen:
1. Der angefochtene, kantonal letztinstanzliche Entscheid betrifft die Abweisung eines Gesuchs um eine finanzielle Leistung aufgrund des Opferhilfegesetzes des Bundes, d.h. eine öffentlich-rechtliche Angelegenheit im Sinne von Art. 82 lit. a BGG. Ein Ausschlussgrund nach Art. 83 BGG ist nicht gegeben. Das Opferhilfegesetz entspringt dem Gedanken der Hilfeleistung, nicht der Staatshaftung (BGE 132 II 117 E. 2.2.4 S. 121 mit Hinweisen). Nicht zum Tragen kommt demzufolge Art. 85 BGG, wonach eine Beschwerde auf dem Gebiet der Staatshaftung nur zulässig ist, wenn der Streitwert nicht weniger als 30'000 Franken beträgt (Abs. 1 lit. a) oder sich eine Rechtsfrage von grundsätzlicher Bedeutung stellt (Abs. 2). Die Sachurteilsvoraussetzungen sind insgesamt erfüllt. Auf die Beschwerde ist damit einzutreten.
2. Am 1. Januar 2009 ist das neue Bundesgesetz vom 23. März 2007 über die Hilfe an Opfer von Straftaten (Opferhilfegesetz, OHG; SR 312.5) in Kraft getreten. Nach dessen Übergangsbestimmung gilt das bisherige Recht für Ansprüche auf Entschädigung oder Genugtuung für Straftaten, die vor Inkrafttreten dieses Gesetzes verübt worden sind, wobei für Ansprüche aus Straftaten, die weniger als zwei Jahre vor dem Inkrafttreten dieses Gesetzes verübt worden sind, die Fristen nach Art. 25 gelten (Art. 48 lit. a OHG).
Im vorliegenden Fall erfolgte die Straftat am 1. Juli 2004 und damit vor Inkrafttreten des neuen OHG am 1. Januar 2009. Zur Beurteilung des von der Beschwerdeführerin geltend gemachten opferhilferechtlichen Genugtuungsanspruchs ist demzufolge das alte Opferhilfegesetz vom 4. Oktober 1991 in der bis zum 31. Dezember 2008 geltenden Fassung (aOHG) massgebend.
3. Strittig ist vorliegend die Bemessung der Genugtuung. Die Beschwerdeführerin ist der Auffassung, es habe keinen Grund dafür gegeben, bei der Festlegung der Höhe des opferhilferechtlichen Genugtuungsanspruchs vom Strafurteil abzuweichen. Das Urteil des Strafgerichts beruhe auf einer umfassenden Sachverhaltsermittlung, Beweiswürdigung und rechtlichen Würdigung, weshalb die Opferhilfe-Behörden daran gebunden seien. Die vom Kantonalen Strafgericht zugesprochene Genugtuung von CHF 25'000.-- entspreche der Gerichtspraxis und könne deshalb nicht als übermässig bezeichnet werden. Zu diskutieren sei lediglich, ob die für die erlittene Untersuchungshaft zugesprochene Genugtuung von CHF 5'000.-- abgezogen werden dürfe, da der Regierungsrat nach Fällung des Strafurteils eine Haftentschädigung zugesprochen habe. Die Beschwerdeführerin rügt eine Verletzung von Art. 9 und Art. 12 Abs. 2 OHG sowie Art. 8 und Art. 9 BV, da die Genugtuung in Abweichung vom Strafurteil auf CHF 5'000.-- festgesetzt worden sei.
4. Das Bundesgericht hat im Zusammenhang mit dem administrativen Führerausweisentzug Grundsätze dazu entwickelt, inwieweit die Verwaltungs- und Strafbehörden gegenseitig an ihre Erkenntnisse gebunden sind. Danach ist die Verwaltungsbehörde in reinen Rechtsfragen nicht an die Beurteilung durch das Strafgericht gebunden, da sie sonst in ihrer freien Rechtsanwendung beschränkt würde (Urteil des Bundesgerichts 1C_45/2007 vom 30. November 2007 E. 4.3, nicht publ. in: BGE 134 II 33). Die Unabhängigkeit vom Erkenntnis der Strafbehörde folgt hier auch aus der unterschiedlichen Zwecksetzung der von der Verwaltungsbehörde anzuwendenden Normen (BGE 103 Ib 101 E. 2c S. 106, mit Hinweisen).
Diese Rechtsprechung gilt sinngemäss auch für die Frage der Bindung der Opferhilfeinstanzen an das in der Sache ergangene Strafurteil (Bundesgerichtsurteil 1C_45/2007, a.a.O., E. 4.3). Bei der Prüfung der Angemessenheit einer Genugtuung handelt es sich um eine Rechtsfrage, weshalb die Opferhilfe-Behörde an das Erkenntnis des Strafgerichts nicht gebunden ist.
Die Beschwerdeführerin hebt zu Recht hervor, dass es das Bundesgericht als sinnvoll erachtet, wenn sich die Bemessung der Genugtuung nach Opferhilfegesetz nicht zu weit von den zivilrechtlichen Grundsätzen, wie sie die Strafgerichte im Adhäsionsverfahren (vgl. Art. 9 aOHG) anwenden, entfernt. Ansonsten könnte sich ein Opfer, das ein rechtskräftiges Urteil auf Genugtuung gegen den Täter bereits erwirkt hat, im Falle der Zahlungsunfähigkeit des Täters vor den Opferhilfebehörden nicht auf dieses Urteil berufen (BGE 124 II 8 E. 3d/bb S. 14). Nach konstanter Gerichtspraxis braucht die Opferhilfe-Genugtuung aber dennoch nicht gleich hoch wie die zivilrechtliche zu sein, sondern darf tiefer angesetzt werden, da sie nicht vom Täter, sondern - im Sinne eines Akts der Solidarität zugunsten einer von Unrecht betroffenen Person - von der Allgemeinheit bezahlt wird (BGE 132 II 117 E. 2.2.4 S. 121 mit Hinweisen).
Im vorliegenden Fall hat das Verwaltungsgericht daher kein Bundesrecht verletzt, wenn es vom Strafurteil in dem Sinne abwich, dass es die Opferhilfe-Genugtuung aus opferhilferechtlichen Überlegungen tiefer ansetzte als die zivilrechtliche.
5. 5.1 Nach Art. 12 Abs. 2 aOHG kann dem Opfer unabhängig von seinem Einkommen eine Genugtuung ausgerichtet werden, wenn es schwer betroffen ist und besondere Umstände es rechtfertigen. Der Ehegatte, die eingetragene Partnerin oder der eingetragene Partner des Opfers, dessen Kinder und Eltern sowie andere Personen, die ihm in ähnlicher Weise nahe stehen, werden dem Opfer bei der Geltendmachung von Entschädigung und Genugtuung gleichgestellt, soweit ihnen Zivilansprüche gegenüber dem Täter zustehen (Art. 2 Abs. 2 lit. c aOHG). Nach Art. 47 OR kann der Richter bei Tötung eines Menschen unter Würdigung der besonderen Umstände den Angehörigen des Getöteten eine angemessene Geldsumme als Genugtuung zusprechen.
5.2 Für die Frage, ob und in welcher Höhe im Falle einer Tötung gestützt auf Art. 47 OR eine Genugtuung zugesprochen wird, ist nicht allein der Verwandtschaftsgrad, sondern vor allem die Intensität der Beziehung zwischen der getöteten Person und deren Angehörigen massgeblich (Roland Brehm, Berner Kommentar, 3. Aufl. 2006, N. 133 f. zu Art. 47 OR; Hardy Landolt, Zürcher Kommentar, 3. Aufl. 2007, N. 408 zu Art. 47 OR; Klaus Hütte, Anleitung zur Ermittlung angemessener Genugtuungsleistungen im Zivil- und im Opferhilferecht, in: Personen - Schaden - Forum 2005, S. 139 ff., S. 158 und S. 165). Die Höhe der zuzusprechenden Summe hängt massgeblich vom Ausmass der Beeinträchtigung des tatsächlichen Nähegefühls zwischen dem Getöteten und dem Anspruchsteller im Zeitpunkt der Tötung ab (Bundesgerichtsurteil 1C_106/2008 vom 24. September 2008 E. 3.2.2, in: ZBl 109/2008 S. 614).
Der Tatsache, ob der Ansprecher mit dem Opfer zusammen gewohnt hat, kommt regelmässig eine grosse Bedeutung zu, weil darin ein wichtiger Anhaltspunkt für die Intensität einer Beziehung liegt (Bundesgerichtsurteile 1C_106/2008, a.a.O., E. 3.2.2; 1A.196/2000 vom 7. Dezember 2000, E. 3c, in: ZBl 102/2001 S. 492, je mit Hinweisen).
Bei Geschwister sind Lehre und Rechtsprechung bezüglich der Anerkennung eines Genugtuungsanspruchs eher zurückhaltend. In der Regel wird der Anspruch auf Genugtuung nur dann geschützt, wenn das Geschwister mit dem Getöteten noch im gleichen Haushalt lebte. Wurde der gemeinsame Haushalt schon vor dem Schadenereignis aufgegeben, besteht ein Genugtuungsanspruch nur unter der Bedingung, dass sehr enge Kontakte zueinander bestanden und der Verlust des Geschwisterteils einen aussergewöhnlichen seelischen Schmerz verursacht (Urteil des Bundesgerichts 6S.700/2001 vom 7. November 2002 E. 4.3, in: Pra 2003 Nr. 122 S. 652; BGE 89 II 396 E. 3 S. 400 f.; Brehm, a.a.O., N. 153 ff. zu Art. 47 OR; Hütte, a.a.O., S. 158).
5.3 Nach der Rechtsprechung des Bundesgerichts zur Bemessung der opferhilferechtlichen Genugtuung sind die von den Zivilgerichten entwickelten Bemessungsgrundsätze zu Art. 47 OR (und Art. 49 OR) sinngemäss heranzuziehen (BGE 132 II 117 E. 2.2.1 S. 119 mit Hinweisen). Da die Opferhilfe-Genugtuung vom Staat im Sinne einer Hilfeleistung erbracht wird, dürfen aber - anders als im Zivilrecht - subjektive, täterbezogene Merkmale (z.B. besonders skrupellose Art der Begehung der Straftat) nicht berücksichtigt werden (BGE 132 II 117 E. 2.2.4 S. 121 mit Hinweisen).
5.4 Klaus Hütte/Petra Ducksch/Kayum Guerrero (Die Genugtuung, 3. Aufl., V/1, Zeitraum 2002-2005) gehen für im gleichen Haushalt lebende Geschwister von einer Basis-Genugtuung von CHF 6'000.-- bis CHF 7'000.-- aus, wobei diese opferhilferechtlich CHF 5'000.-- nicht übersteigen sollte.
5.5 Den kantonalen Behörden steht bei der Festsetzung der Höhe der Genugtuung ein weiter Ermessensspielraum zu, in den das Bundesgericht nur eingreift, wenn grundlos von den in Lehre und Rechtsprechung entwickelten Grundsätzen abgewichen wird, wenn Tatsachen berücksichtigt werden, die für den Entscheid im Einzelfall keine Rolle spielen dürfen oder wenn umgekehrt Umstände ausser Betracht geblieben sind, die hätten beachtet werden müssen, oder wenn sich der Entscheid als offensichtlich ungerecht erweist (BGE 132 II 117 E. 2.2.5 S. 121 mit Hinweisen).
5.6 Das Kantonsgericht schützte das erstinstanzliche Strafurteil im Zivilpunkt, wonach der Straftäter der Beschwerdeführerin eine Genugtuung von CHF 25'000.-- zu leisten hat. Die Genugtuung setzt sich zusammen aus dem Betrag von CHF 20'000.-- für den Verlust der Schwester und CHF 5'000.-- für die erlittene Untersuchungshaft.
Bei der Bemessung der opferhilferechtlichen Genugtuung ist der Betrag für die erlittene Untersuchungshaft ausser acht zu lassen, da die Beschwerdeführerin vom Regierungsrat gestützt auf kantonales Strafprozessrecht dafür bereits entschädigt worden ist (vgl. Art. 14 Abs. 1 Satz 3 aOHG). Die Vorinstanz geht ebenfalls von diesem Standpunkt aus.
Das Verwaltungsgericht ist der Auffassung, dass der plötzliche Tod der Schwester unter Berücksichtigung der besonderen Verhältnisse, in welchen die Geschwister gelebt hätten, besonders tragisch sei. Deshalb erscheine die Ausrichtung einer Genugtuung an die Beschwerdeführerin, obwohl kein gemeinsamer Haushalt mehr bestand, als gerechtfertigt. Im Frühjahr 1993 hätten sich die Eltern getrennt. Die Geschwister hätten fortan bei der alkohol- und später krebskranken Mutter gewohnt. Diese sei im Frühjahr 2000 verstorben. Die verstorbene Schwester habe im letzten Jahr vor dem Tod der Mutter gegenüber der Beschwerdeführerin die Mutterrolle übernommen. Beide Schwestern hätten keine Berufslehre absolviert und seien nie einer regelmässigen Erwerbsarbeit nachgegangen. Die Beschwerdeführerin habe die Kinder der verstorbenen Schwester regelmässig gesehen und diese auch gehütet. Die Geschwister hätten sich über ihre sehr erheblichen Probleme jeweils informiert und seien teilweise darin involviert gewesen. Es sei anzunehmen, dass die besonders schwierige soziale und familiäre Situation bewirkt habe, dass die Schwestern aufeinander angewiesen gewesen seien und eine entsprechend intensive Beziehung zueinander gepflegt hätten, auch wenn sie in den letzten Jahren nicht mehr zusammen gewohnt hätten. Hingegen dürfe das grosse Verschulden, das die Strafrichter genugtuungserhöhend berücksichtigt hätten, bei der Bemessung der Opferhilfe-Genugtuung keine Rolle spielen. Die zugesprochene Opferhilfe-Genugtuung von CHF 5'000.-- sei insgesamt nicht zu beanstanden.
Diese Erwägungen sind bundesrechtlich nicht zu beanstanden. Das Verwaltungsgericht berücksichtigte dabei, dass die Geschwister aufgrund der schwierigen Lebensumstände aufeinander angewiesen waren, deshalb enge Kontakte zueinander pflegten und die Zusprechung einer Genugtuung grundsätzlich zu bejahen ist. Genugtuungsreduzierend wirkt hingegen zum einen, dass die Schwestern nicht mehr im gleichen Haushalt lebten, und zum andern, dass das Täterverschulden, welches bei der Festsetzung der zivilrechtlichen Genugtuung stark gewichtet wurde (vgl. das Strafurteil des Kantonsgerichts vom 29. November 2006 E. III.1.b S. 42 f. und E. IV S. 46), bei der Bemessung der Opferhilfe-Genugtuung ausser Betracht fiel (vgl. E. 5.4 hiervor). Damit hat das Verwaltungsgericht seinen Entscheid auf bundesrechtskonforme Bemessungsfaktoren gestützt und diese richtig angewendet. Die Höhe der zugesprochenen Genugtuung von CHF 5'000.-- ist im Vergleich zur Gerichtspraxis in ähnlichen Fällen (vgl. die Entscheide bei HÜTTE/DUKSCH/GUERRERO, a.a.O.) ebenfalls nicht zu beanstanden. Das Bundesgericht hat daher keinen Anlass, in den Ermessensspielraum der Vorinstanz einzugreifen.
6. Nach dem Gesagten erweist sich die Beschwerde als unbegründet und ist abzuweisen.
Im Bereich des Verfahrensrechts gilt der Grundsatz, dass das Rechtsmittelverfahren nach dem bisherigen Recht weitergeführt wird (Urteil des Bundesgerichts vom 30. September 1997 E. 3c, in: Pra 1998 Nr. 20 S. 145; ALFRED KÖLZ/ISABELLE HÄNER, Verwaltungsverfahren und Verwaltungsrechtspflege des Bundes, 2. Aufl. 1998, Rz. 79; ALFRED KÖLZ, Intertemporales Verwaltungsrecht, in: ZSR 102/1983 II S. 222 f.). Vorliegende Beschwerde in öffentlich-rechtlichen Angelegenheiten wurde mit Eingabe vom 26. Juni 2008 (Datum Poststempel), somit vor dem Inkrafttreten des neuen OHG am 1. Januar 2009 beim Bundesgericht hängig gemacht. Demnach kommen die Verfahrensbestimmungen des alten OHG, d.h. Art. 16 aOHG auf das Verfahren zur Anwendung. Nach der Rechtsprechung zu Art. 16 Abs. 1 aOHG ist das Verfahren vor Bundesgericht kostenlos (BGE 122 II 211 E. 4b S. 218 f.).
Die Beschwerdeführerin ersucht um unentgeltliche Rechtspflege im bundesgerichtlichen Verfahren. Diesem Antrag kann entsprochen werden (vgl. Art. 64 Abs. 1 und 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Es werden keine Gerichtskosten erhoben.
3. Der Beschwerdeführerin wird die unentgeltliche Rechtsverbeiständung bewilligt, Rechtsanwalt Hans W. Stössel als unentgeltlicher Rechtsbeistand ernannt und für das bundesgerichtliche Verfahren aus der Bundesgerichtskasse mit einem Honorar von CHF 1'500.-- entschädigt.
4. Dieses Urteil wird der Beschwerdeführerin, dem Regierungsrat und dem Verwaltungsgericht des Kantons Schwyz, Kammer III, sowie dem Bundesamt für Justiz, Direktionsbereich Öffentliches Recht, schriftlich mitgeteilt.
Lausanne, 1. April 2009
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Féraud Schoder