Sachverhalt:
A. E.X._ starb am 18. November 1984 und hinterliess die Witwe F.X._ sowie sechs Kinder, darunter A.X._ und B.X._.
Am 29. Januar 1986 schloss A.X._ mit der Erbengemeinschaft E.X._ einen partiellen Erbteilungsvertrag, womit ihr die rund 2'027 m2 grosse Liegenschaft G._ in Altendorf unter Anrechnung auf ihren Erbteil zu Eigentum übertragen wurde. Der Eigentumsübergang wurde am 17. März 1986 beim Grundbuchamt Altendorf angemeldet.
Mit öffentlich beurkundetem Vertrag vom 5. Mai 1986 verkaufte A.X._ die Liegenschaft G._ für 1,035 Mio. Franken der H._ AG. Einziger Verwaltungsrat der Gesellschaft war C._.
Mit öffentlich beurkundeter Vereinbarung vom 20. März 1987 trat A.X._ gegen eine Abfindung von einer Million Franken ihren Erbteil an ihre Mutter und ihre Geschwister ab und verzichtete auf ihre Erbenstellung gegenüber ihrer Mutter. Ausserdem wurde festgehalten, die Vereinbarung vom 29. Januar 1986 bleibe bestehen und werde bekräftigt.
B. Am 10. Juni 2010 reichte A.X._ Strafanzeige gegen B.X._, C._ und D._ ein und beantragte, die eingangs unter A. angeführten "Notariatsakten" seien zu annullieren, da sie "unter starkem Druck, unverhältnismässig, ungerecht und unter Vortäuschungen realisiert worden" seien. Sie machte u.a. geltend, B.X._ versuche immer wieder, seine Miterben zu betrügen, etwa indem er behauptet habe, ein als Erbvorbezug erhaltenes Grundstück von seinem Vater gekauft zu haben. C._ habe sich in die Erbengemeinschaft eingeschlichen und sofort Unfrieden gestiftet; er habe es durch verschiedene Betrügereien geschafft, sich sowohl die 2'027 m2 grosse "Post-Parzelle" als auch die 900 m2 grosse "Bank-Parzelle" anzueignen, ohne dafür zu bezahlen; den im Vertrag vom 5. Mai 1986 vereinbarten Kaufpreis von 1.035 Mio. Franken habe er ihr nie bezahlt. Die Grundbuchanmeldung vom 17. März 1986 sei in ihrem Namen durch Rechtsanwältin I._ vorgenommen worden: Weder sie noch ihr Ehemann würden diese Person kennen, und sie hätten ihr auch keine Vollmacht erteilt. C._ habe in der Folge die Verwaltung der Erbengemeinschaft an D._ übergeben. Dieser habe die Einzelunterschrift für die Bankkonti der Erbengemeinschaft. Er sei der mutmassliche Komplize von B.X._; gemeinsam hätten sie grosse Parzellen des direkt am Zürichsee gelegenen Landes sowie Land oberhalb der Bahnlinie verkauft. Sie würden den Miterben keine Rechenschaft ablegen und ihnen wahrheitswidrig weismachen, die Erbengemeinschaft stünde vor dem Ruin; die übrigen Miterben würden sich nicht getrauen, von den beiden Auskunft zu verlangen. Sie verlange zudem Schadenersatz von ihren Geschwistern, weil ihr der Tod der Mutter erst mit grosser Verspätung mitgeteilt und ihr befohlen worden sei, der Trauerzeremonie fernzubleiben.
In einer Ergänzung vom 21. Juli 2010 zu ihrer Strafanzeige teilt A.X._ u.a. mit, sie und ihr Ehemann seien nach reiflicher Überlegung zum Schluss gekommen, Opfer des folgenden, von C._ und den Miterben ausgeheckten machiavellistischen Plans geworden zu sein: C._ habe, anstatt ihr den geschuldeten Kaufpreis von Fr. 1,035 Mio. für die Liegenschaft G._ zu bezahlen, der Erbengemeinschaft 1 Mio. Franken übergeben, womit diese in der Lage gewesen sei, sie mit 750'000 Franken abzufinden und sie zu zwingen, aus der Erbengemeinschaft auszutreten und auf das Erbe ihrer Mutter zu verzichten.
Das Verhöramt des Kantons Schwyz eröffnete am 27. September 2010 keine Strafuntersuchungen gegen B.X._, C._ und D._. Es erwog, in Bezug auf B.X._ und C._ sei die Verfolgungsverjährung am 18. März bzw. am 6. Mai 1996, 10 Jahre nach den von ihnen angeblich in strafbarer Weise manipulierten Vertragsschlüssen, eingetreten, womit ein Prozesshindernis vorliege. In Bezug auf D._ fehle ein Anfangsverdacht auf eine strafbare Handlung: Die Anzeigeerstatter, die selber der Erbengemeinschaft X._ nicht (mehr) angehörten, würden pauschal behaupten, D._ vertrete und verwalte die Erbengemeinschaft in strafbarer Weise und schädige diese am Vermögen. Dafür bestünden keine Anhaltspunkte.
Die Oberstaatsanwaltschaft des Kantons Schwyz wies am 20. Januar 2011 die Beschwerden von A.X._ gegen die Verfügungen des Verhöramts ab.
Das Kantonsgericht Schwyz wies am 30. November 2011 die Beschwerden von A.X._ gegen die Verfügungen der Oberstaatsanwaltschaft ab.
C. Mit "Recours" vom 28. Dezember 2011 beantragt A.X._ sinngemäss, diesen Beschluss des Kantonsgerichts mitsamt den vorinstanzlichen Entscheiden aufzuheben, die Staatsanwaltschaft anzuweisen, Strafverfahren gegen die drei genannten Beschuldigten sowie gegen J._ zu eröffnen, verschiedene von ihr genannte Beweise abzunehmen sowie C._ zu verpflichten, seine Schulden zu begleichen.
D. Am 14. Juni 2012 hiess der Präsident der I. öffentlich-rechtlichen Abteilung das Gesuch von B.X._ um Sicherstellung der Parteikosten im Betrag von Fr. 2'500.-- gut.
E. Die Oberstaatsanwaltschaft des Kantons Schwyz verzichtet auf Vernehmlassung. B.X._ beantragt, die Beschwerde abzuweisen, soweit darauf einzutreten sei. Denselben Antrag stellt D._.
A.X._ hält an der Beschwerde fest und teilt dem Bundesgericht mit, ihr Ehemann vermisse seine Pistole, die sich in einem Tresor in der Liegenschaft "G._" befunden habe; sie ersucht das Bundesgericht, die Waffe vorläufig in Aufbewahrung zu nehmen.
Erwägungen:
1. 1.1 Der angefochtene Entscheid bestätigt, dass die von der Beschwerdeführerin angestrebten Strafverfahren nicht eröffnet (bzw. in der Terminologie der neuen Strafprozessordnung nicht an die Hand genommen) werden. Er schliesst damit die Verfahren ab. Es handelt sich um den Endentscheid einer letzten kantonalen Instanz in einer Strafsache, gegen den die Beschwerde in Strafsachen zulässig ist (Art. 78 Abs. 1, Art. 80 Abs. 1, Art. 90 BGG).
1.2 Die Beschwerdeführerin bevollmächtigt ihren Ehemann, das Verfahren für sie zu führen. Dieser ist indessen nicht Rechtsanwalt und damit nach Art. 40 Abs. 1 BGG nicht befugt, sie in einer Strafsache vor Bundesgericht zu vertreten. Das schadet ihr indessen insofern nicht, als sie die Beschwerde auch selber unterschrieben hat und damit (auch) in eigenem Namen prozessiert.
1.3 Die Beschwerdeführerin ist zur Beschwerde befugt, wenn sie als Privatklägerin am kantonalen Verfahren beteiligt gewesen oder zu Unrecht davon ausgeschlossen worden war und sich der angefochtene Entscheid zudem auf die Beurteilung allfälliger Zivilansprüche auswirken könnte (Art. 81 Abs. 1 lit. a und lit. b Ziff. 5 BGG). Um der gesetzlichen Begründungspflicht von Art. 42 Abs. 2 BGG zu genügen, muss die Beschwerdeführerin in der Beschwerdeschrift darlegen, dass die Legitimationsvoraussetzungen gegeben sind, falls dies nicht offensichtlich ist (BGE 133 II 249 E. 1.1; Urteil 2C_306/2009 vom 25. Januar 2010 E. 1).
Die Beschwerdeschrift enthält keine Ausführungen zu den Legitimationsvoraussetzungen, und es steht auch keineswegs von vornherein fest, dass diese erfüllt sind. Die Beschwerdeführerin hat zwar im kantonalen Verfahren Parteirechte ausgeübt, doch erscheint es fraglich, ob sich eine Verurteilung der Beschuldigten auf allfällige Zivilansprüche auswirken könnte, da diese möglicherweise längst verjährt sind. Es kann indessen offenbleiben, ob die Beschwerdeführerin zur Beschwerde befugt ist und dies auch in einer den gesetzlichen Anforderungen genügenden Weise dargetan hat, da die Beschwerde in der Sache offensichtlich unbegründet ist:
1.4 Soweit die Vorwürfe die Vorgänge in den Jahren 1986 und 1987 betreffen, sind sie verjährt. Das Kantonsgericht hat im angefochtenen Entscheid zu Recht ausgeführt, dass es sich bei den Nötigungs-, Erpressungs- und Betrugsvorwürfen an die Adresse der Beschwerdegegner 1 und 3 nicht um Dauerdelikte handelt, die noch nicht verjährt wären. Es kann auf die Ausführungen des Kantonsgerichts verwiesen werden (E. 3b S. 4 f.).
In Bezug auf die Vorwürfe gegen den Beschwerdegegner 2 ist der Vorinstanz ebenfalls beizupflichten, dass nicht ansatzweise dargelegt wird, durch welche Handlungen er sich konkret der ungetreuen Geschäftsbesorgung schuldig gemacht haben könnte.
Damit ist das Verhöramt zu Recht davon ausgegangen, dass sich aus den Strafanzeigen kein Anfangsverdacht auf strafbare Handlungen ergab bzw. dass allfällige strafbare Handlungen sicher verjährt wären. Unter diesen Umständen ist sowohl nach Massgabe der damals noch in Kraft stehenden Schwyzer Strafprozessordnung als auch nach Art. 310 der am 1. Januar 2011 in Kraft getretenen Schweizerischen Strafprozessordnung (SR 312.0) nicht zu beanstanden, dass das Verhöramt keine Strafuntersuchung eröffnete bzw. kein Verfahren an die Hand nahm.
2. Die Beschwerde ist somit abzuweisen, soweit darauf einzutreten ist. Sie geht im Übrigen weitgehend an der Sache vorbei. Gegenstand des Verfahrens ist einzig, ob das Verhöramt Bundesrecht verletzte, indem es die von der Beschwerdeführerin angestrengten Strafverfahren nicht eröffnete. Das ist nach dem Gesagten klarerweise nicht der Fall. Nicht zuständig ist das Bundesgericht dagegen für alle anderen Anliegen der Beschwerdeführerin, etwa das Eintreiben ihrer angeblich noch bestehenden Kaufpreisforderung aus dem Vertrag vom 5. Mai 1986 bei der H._ AG bzw. dem Beschwerdegegner 1, für die Entgegennahme einer Strafanzeige gegen J._ und Nachforschungen nach der vermissten Pistole ihres Ehemannes und deren Sicherstellung.
Bei diesem Ausgang des Verfahrens wird die Beschwerdeführerin kostenpflichtig (Art. 66 Abs. 1 BGG). Sie hat ausserdem den obsiegenden Beschwerdegegnern 2 und 3, die sich am Verfahren beteiligt haben, eine angemessene Parteientschädigung zu bezahlen (Art. 68 Abs. 1 und 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat den Beschwerdegegnern 2 und 3 für das bundesgerichtliche Verfahren eine Parteientschädigung von je Fr. 1'000.-- zu bezahlen. Die Parteientschädigung an den Beschwerdegegner 3 wird von der Bundesgerichtskasse aus der in Höhe von Fr. 2'500.-- geleisteten Parteikostensicherheit bezahlt; die restlichen Fr. 1'500.-- werden der Beschwerdeführerin zurückerstattet.
4. Dieses Urteil wird den Parteien sowie der Oberstaatsanwaltschaft des Kantons Schwyz und dem Kantonsgericht Schwyz, Beschwerdekammer, schriftlich mitgeteilt.
Lausanne, 11. Oktober 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Störi