Sachverhalt:
A. W._, geboren 1953, war als Geschäftsführerin im Gasthaus Z._ angestellt, als sie am 24. Oktober 1999 am Arbeitsplatz stürzte und sich dabei eine Fraktur an der rechten Hand zuzog (mehrfragmentäre Grundphalanx-Basisfraktur Dig. IV). In der Folge machte sie anhaltende Beschwerden und eine Arbeitsunfähigkeit in ihrer angestammten Tätigkeit als Köchin geltend. Die Schweizerische Mobiliar Versicherungsgesellschaft (nachfolgend: Mobiliar), bei der sie obligatorisch gegen die Folgen von Unfällen versichert war, holte ein Gutachten beim Institut B._ vom 20. Mai 2008 ein, welches der Versicherten als Köchin eine 100%ige Arbeitsunfähigkeit und in der aktuell ausgeübten Tätigkeit als Gouvernante in einer Pension und Ernährungsberaterin eine um 50% eingeschränkte Arbeitsfähigkeit attestierte. Indessen hatten sich bei der Untersuchung Diskrepanzen gezeigt und die geklagte Störung liess sich pathologisch nicht objektivieren. Mit Verfügung vom 26. Februar 2009 lehnte die Mobiliar den Anspruch auf eine Invalidenrente und auf eine Integritätsentschädigung ab und forderte vom 1. Dezember 1999 bis 31. Mai 2000 unrechtmässig bezogene Taggelder in der Höhe von Fr. 23'460.60 zurück. Daran hielt sie auch auf Einsprache hin fest, nachdem sie die Versicherte an verschiedenen Tagen und Orten hatte observieren lassen (Einspracheentscheid vom 6. Juni 2011).
B. Die dagegen erhobene Beschwerde hiess das Obergericht des Kantons Schaffhausen mit Entscheid vom 29. Dezember 2011 teilweise gut und sprach W._ eine Invalidenrente bei einem Invaliditätsgrad von 30% zu. Im Übrigen wurde die Beschwerde abgewiesen.
C. W._ und die Mobiliar führen je Beschwerde in öffentlich-rechtlichen Angelegenheiten. Die Beschwerde der Mobiliar richtet sich gegen die Zusprechung einer Invalidenrente, diejenige der W._ gegen den vorinstanzlich bestätigten Rückerstattungsanspruch sowie gegen die Gewährung einer lediglich reduzierten Parteientschädigung von Fr. 850.-; sie macht einen Aufwand von Fr. 4'800.- geltend.
Die Mobiliar schliesst auf Abweisung der Beschwerde der W._, welche ihrerseits, wie auch das Bundesamt für Gesundheit, auf eine Vernehmlassung verzichtet.
D. Mit Verfügung vom 14. Mai 2012 hat der Instruktionsrichter den Beschwerden auf Antrag beider Parteien die aufschiebende Wirkung zuerkannt.
Erwägungen:
1. Die beiden Beschwerden betreffen einen kantonalen Gerichtsentscheid vom 29. Dezember 2011, es liegt ihnen derselbe Sachverhalt zugrunde und es stellen sich die gleichen Rechtsfragen, weshalb die beiden Verfahren zu vereinigen und in einem einzigen Urteil zu erledigen sind.
2. 2.1 Die Beschwerde kann wegen Rechtsverletzung gemäss Art. 95 und Art. 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist somit weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (vgl. BGE 130 III 136 E. 1.4 S. 140). Gemäss Art. 42 Abs. 1 BGG ist die Beschwerde hinreichend zu begründen, andernfalls wird darauf nicht eingetreten (Art. 108 Abs. 1 lit. b BGG). Das Bundesgericht prüft grundsätzlich nur die geltend gemachten Rügen; es ist nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu prüfen, wenn diese vor Bundesgericht nicht mehr vorgetragen wurden. Es kann die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht nur insofern prüfen, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG).
2.2 Im Beschwerdeverfahren um die Zusprechung oder Verweigerung von Geldleistungen der Militär- oder Unfallversicherung ist das Bundesgericht nicht an die vorinstanzliche Feststellung des rechtserheblichen Sachverhalts gebunden (Art. 97 Abs. 2 und Art. 105 Abs. 3 BGG).
3. Das kantonale Gericht hat die Bestimmungen und Grundsätze zum Anspruch auf eine Invalidenrente der Unfallversicherung (Art. 18 Abs. 1 UVG; Art. 8 ATSG), zur Ermittlung des Invaliditätsgrades bei erwerbstätigen Versicherten nach der Einkommensvergleichsmethode (Art. 16 ATSG) sowie zur Aufgabe des Arztes im Rahmen der Invaliditätsbemessung (BGE 132 V 93 E. 4 S. 99; 125 V 256 E. 4 S. 261 f.; vgl. auch AHI 2002 S. 62, I 82/01 E. 4b/cc) zutreffend dargelegt. Darauf wird verwiesen.
4. Streitig ist zunächst der Anspruch der Versicherten auf eine Invalidenrente. Für die Beurteilung entscheidwesentlich ist diesbezüglich vorab die Arbeitsfähigkeit.
4.1 Nach den vorinstanzlichen Erwägungen ist gestützt auf das Gutachten des Instituts B._ davon auszugehen, dass die Versicherte ihren angestammten Beruf als Köchin und Wirtin wegen fehlender Kraft in der rechten Hand und der dadurch eingebüssten Geschicklichkeit nicht mehr ausüben könne. Gemäss eigenen Angaben setze sie ihre rechte Hand nur noch als Hilfshand ein. Auch die von der Mobiliar veranlassten Observationen vermöchten diese Einschätzung der Gutachter nicht in einem anderen Licht erscheinen zu lassen.
4.2 Gemäss den Schilderungen der Versicherten anlässlich der Begutachtung sei ihr mit der rechten Hand nur noch der Griff zwischen Daumen und Zeigfinger möglich. Sie könne die Hand weder zur Faust schliessen noch vollständig öffnen und wegen der fehlenden Kraft kaum Gegenstände in der Hand halten. Indessen zeigten sich erhebliche und unerklärliche Diskrepanzen bei der Kraftmessung durch den neurologischen und den orthopädischen Gutachter. Diese war bei der orthopädischen Untersuchung deutlich eingeschränkt, ohne dass sich jedoch bei der neurologischen Abklärung fassbare Paresen gezeigt hätten. Eine Einschränkung war nach Auffassung der Gutachter nicht auf eine Krankheit des zentralen Nervensystems zurückzuführen, wofür sich klinisch (bei anamnestisch diagnostizierter Multipler Sklerose) bei der Begutachtung ohnehin keine diesbezüglichen Hinweise zeigten. Von Seiten des peripheren Nervensystems liesse sich eine Einschränkung gemäss den Ausführungen der Gutachter einzig durch eine Nervenläsion mit nachfolgender Muskellähmung erklären. Aufgrund der klinischen Anamnese und der durchgeführten Neurographien fanden sich dafür jedoch ebenfalls keine Anhaltspunkte, und die von ihnen veranlasste Magnetresonanzuntersuchung ergab keine entsprechende Veränderung der Muskulatur. Die von der Versicherten gezeigte Krafteinschränkung beim Faustschluss liess sich somit pathologisch nicht objektivieren.
4.3 Den Berichten über die Observationen lässt sich entnehmen, dass die Versicherte zwischenzeitlich ein Taxi-Boot geführt hatte, Gesundheitsseminare anbot und später als Inhaberin eines Restaurants tätig war. Sie wurde namentlich beim Servieren beobachtet, wobei sie mit der rechten Hand insbesondere Getränke einschenken, aber auch das gefüllte Glas halten und die bestellten Gerichte an den Tisch bringen konnte, des Weiteren beim Autofahren, beim Einkaufen und Einladen der vollen Einkaufstaschen ins Auto, beim Essen, wobei beim Hantieren mit Messer und Gabel keine Auffälligkeiten zu entdecken waren, oder wie sie beispielsweise, ebenfalls mit der rechten Hand, Eis vom Autofenster kratzte oder sich mit einem Feuerzeug eine Zigarette anzündete.
4.4 Entgegen der Auffassung des kantonalen Gerichts bestehen damit erhebliche Zweifel an der gutachtlichen Einschätzung, wonach die Versicherte zufolge der fehlenden Kraft an der rechten Hand und der dadurch bedingten mangelnden Geschicklichkeit den angestammten Beruf als Köchin nicht mehr ausüben könne und auch in einer leidensangepassten Tätigkeit in der Arbeitsfähigkeit erheblich eingeschränkt sei. Vielmehr scheint sich aufgrund der Observation die ärztliche Vermutung zu bestätigen, dass die gezeigten Diskrepanzen bei der Untersuchung patientenbedingt seien, wozu die Gutachter indessen zumindest hätten Stellung nehmen müssen. Ohne weitere diesbezügliche Abklärungen lässt sich die Arbeitsfähigkeit unter diesen Umständen nicht zuverlässig beurteilen. Insbesondere kann aus den Observationsberichten mangels entsprechender Beobachtungen auch nicht auf eine vollständige Arbeitsfähigkeit als Köchin geschlossen werden. Die Sache ist daher an die Vorinstanz zurückzuweisen.
4.5 Da sich bei diesem Ergebnis auch die erwerblichen Auswirkungen nicht beurteilen lassen, ist auf den vorinstanzlichen Einkommensvergleich und die dagegen von der Mobiliar vorgebrachten Einwände nicht weiter einzugehen.
5. Zu prüfen ist weiter die Rückerstattungsforderung der Mobiliar.
5.1 Es ergibt sich aus den Akten und ist insoweit unbestritten, dass die Versicherte vom 1. Dezember 1999 bis zum 31. Mai 2000 Taggelder der Unfallversicherung entsprechend einer 100%igen Arbeitsunfähigkeit in der Höhe von Fr. 23'460.- bezog, gleichzeitig aber im Hotel A._ angestellt war und ihr der vereinbarte Lohn von Fr. 27'989.- ausgerichtet wurde. Anlässlich der Besprechung mit der Schadensachbarbeiterin am 31. Mai 2000 hatte sie jedoch versichert, dort nur gewohnt und nicht gearbeitet zu haben.
5.2 Die Vorinstanz hat die Rückerstattungsforderung bestätigt und erwogen, dass der Leistungsbezug als betrügerisch im Sinne von Art. 146 StGB zu qualifizieren und zufolge Berücksichtigung einer 15jährigen strafrechtlichen Verjährungsfrist (gemäss Art. 97 Abs. 1 lit. b StGB, in Kraft seit dem 1. Januar 2007) noch durchsetzbar sei.
5.3 Nach Art. 52 aUVG beziehungsweise Art. 25 ATSG sind unrechtmässig bezogene Leistungen zurückzuerstatten. Ob mit Blick auf den unrechtmässigen Leistungsbezug und den Zeitpunkt der verfügten Rückforderung die bis zum 31. Dezember 2002 gültig gewesene oder die ab dem 1. Januar 2003 in Kraft stehende Bestimmung heranzuziehen ist, kann letztlich offen gelassen werden, zumal sich inhaltlich hinsichtlich der hier entscheidwesentlichen Regelung (dazu sogleich E. 5.5) der dabei einzuhaltenden Fristen nichts geändert hat (vgl. BGE 130 V 318; SVR 2007 AlV Nr. 2 S. 3, C 88/04 E. 3). Demnach ist der Rückforderungsanspruch innerhalb eines Jahres, nachdem die Versicherungseinrichtung davon Kenntnis erhalten hat, spätestens aber fünf Jahre nach der Entrichtung der einzelnen Leistung geltend zu machen. Es handelt sich dabei um Verwirkungsfristen, die von Amtes wegen zu berücksichtigen sind (Urteile U 88/03 vom 12. Mai 2004 E. 5.4.1; 8C_777/2011 vom 1. Mai 2012 E. 5.2; BGE 133 V 579 E. 4.1 S. 582). Wird der Rückerstattungsanspruch aus einer strafbaren Handlung hergeleitet, für welche das Strafrecht eine längere Verjährungsfrist vorsieht, so ist diese Frist massgebend.
5.4 Zur genannten einjährigen Frist zur Geltendmachung der Unrechtmässigkeit seit Kenntnisnahme äussert sich das kantonale Gericht nicht. Mit Blick auf die nachfolgenden Erwägungen ist darauf nicht weiter einzugehen.
5.5 Entscheidwesentlich ist hier die Frage, ob sich die Versicherte mit dem Leistungsbezug im Zeitraum von Dezember 1999 bis Mai 2000 strafbar gemacht hat und die Mobiliar deshalb die Taggelder auch nach Ablauf der fünfjährigen Verwirkungsfrist noch zurückfordern konnte.
Unbestrittenerweise ist keine Strafanzeige erhoben worden und fehlt ein entsprechendes Strafurteil. Für die Anwendung der strafrechtlichen Verjährungsfrist ist indessen nicht erforderlich, dass ein Strafverfahren bereits eröffnet wurde. Es ist in diesem Fall jedoch rechtsprechungsgemäss vorfrageweise darüber zu befinden, ob sich der Rückforderungsanspruch aus einer strafbaren Handlung herleite (BGE 113 V 256 E. 4a S. 258 f.). Auch bei selbstständiger vorfrageweiser Beurteilung des Straftatbestandes durch die sozialversicherungsrechtlichen Behörden muss die strafbare Handlung bewiesen sein, wobei der strafrechtliche Beweismassstab anzuwenden ist (BGE 113 V 256 E. 4a S. 259; 138 V 74 E. 6.1 S. 80).
Die Versicherte wurde zu dem erstmals durch die Vorinstanz erhobenen Vorwurf des Betruges im Sinne von Art. 146 StGB unter Verletzung des rechtlichen Gehörs (Art. 29 Abs. 2 BV) niemals befragt. Insbesondere konnte sie sich damit auch nicht konfrontiert sehen, als ihr von der Mobiliar am 15. Juni 2010 die Gelegenheit zur Stellungnahme zu den Observationsberichten eingeräumt wurde. Schon aus diesem Grund ist der vorinstanzliche Entscheid in diesem Punkt aufzuheben. Unterbleibt wie hier eine Strafanzeige, so bestehen im Übrigen rechtsprechungsgemäss erhebliche Zweifel am Vorliegen einer strafbaren Handlung (BGE 113 V 256 E. 4a S. 259). Auf jeden Fall hat die Behörde, die sich auf die strafrechtliche Verjährungsfrist beruft, Aktenmaterial vorzulegen, welches das strafbare Verhalten hinreichend ausweist. Erforderlich ist, dass eine objektiv strafbare Handlung vorliegt und dass die auf Rückerstattung belangte Person die strafbare Handlung begangen hat und die subjektiven Strafbarkeitsvoraussetzungen erfüllt (BGE 138 V 74 E. 6.1 S. 80).
Die Beschwerdegegnerin hat nicht konkret dargelegt, inwiefern die Handlungsweise der Beschwerdeführerin den Tatbestand von Art. 146 StGB erfüllt. Sie wird dies im Rahmen des vorinstanzlichen Verfahrens nachzuholen haben, da die Frage der Verwirkung nach Art. 25 Abs. 2 Satz 2 von Amtes wegen zu klären ist. Hernach ist der Beschwerdeführerin das rechtliche Gehör zu gewähren.
6. Die Versicherte rügt schliesslich die Höhe der ihr im vorinstanzlichen Verfahren zugesprochenen Parteientschädigung. Das kantonale Gericht hat sie, nachdem mit der Beschwerde keine Kostennote eingereicht worden war, ermessensweise auf Fr. 850.- festgesetzt. Es erübrigt sich eine Beurteilung des Antrags auf Zusprechung einer Parteientschädigung von mindestens Fr. 4'800.- für das vorinstanzliche Verfahren, weil die Sache zur Neubeurteilung an das kantonale Gericht zurückgewiesen wird.
7. Das Verfahren ist kostenpflichtig (Art. 65 BGG). Entsprechend seinem Ausgang werden die Gerichtskosten den Parteien je hälftig auferlegt (Art. 65 Abs. 4 lit. a in Verbindung mit Art. 66 Abs. 1 BGG). Die Mobiliar hat der Versicherten für das bundesgerichtliche Verfahren eine Parteientschädigung zu bezahlen (Art. 68 Abs. 1 und 2 BGG); sie selber ist gemäss Art. 68 Abs. 3 BGG nicht entschädigungsberechtigt.
Demnach erkennt das Bundesgericht:
1. Die Verfahren 8C_118/2012 und 8C_147/2012 werden vereinigt.
2. Die Beschwerden der Schweizerischen Mobiliar Versicherungsgesellschaft (8C_118/2012) und der W._ (8C_147/2012) werden je in dem Sinne gutgeheissen, dass der Entscheid des Obergerichts des Kantons Schaffhausen vom 29. Dezember 2011 aufgehoben und die Sache an die Vorinstanz zurückgewiesen wird, damit sie, nach erfolgter Abklärung beziehungsweise nach Gewährung des rechtlichen Gehörs im Sinne der Erwägungen, über den Anspruch der Versicherten auf eine Invalidenrente und die Rückerstattungsforderung des Unfallversicherers neu entscheide.
3. Die Gerichtskosten von Fr. 1'500.- werden den Parteien je hälftig auferlegt.
4. Die Schweizerische Mobiliar Versicherungsgesellschaft hat W._ für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
5. Dieses Urteil wird den Parteien, dem Obergericht des Kantons Schaffhausen und dem Bundesamt für Gesundheit schriftlich mitgeteilt.
Luzern, 11. September 2012
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Die Gerichtsschreiberin: Durizzo