Sachverhalt:
A. Das Kantonsgericht Schaffhausen stellte im Eheschutzverfahren der Eheleute B.X._ und A.X._ am 1. April 2004 den gemeinsamen Sohn C.X._, geb. xx. April 2004, unter die Obhut von B.X._. Im Scheidungsverfahren beschloss es am 23. Oktober 2007 im Rahmen vorsorglicher Massnahmen, A.X._ sei u.a. berechtigt, C.X._ in ungeraden Jahren an Ostern und in geraden Jahren an Pfingsten zu sich zu nehmen.
Ostern 2008 verbrachte C.X._ im Einverständnis der Mutter beim Vater. Am 8. Mai 2008 verfügte die Einzelrichterin am Kantonsgericht, B.X._ habe C.X._ am 9. Mai 2008, um 18 Uhr, an ihrer Wohnadresse seinem Vater zur Ausübung des Besuchsrechts bis Pfingstmontag zu übergeben. Für den Säumnisfall wies sie B.X._ auf die Strafdrohung von Art. 292 StGB hin.
B.X._ verreiste über Pfingsten 2008 mit C.X._ nach München.
B. Am 19. Mai 2008 erstattete A.X._ Strafanzeige gegen seine Ehefrau wegen Ungehorsams gegen eine amtliche Verfügung und Entziehens von Unmündigen mit der Begründung, sie habe ihm C.X._ über Pfingsten nicht herausgegeben, sodass er sein Besuchsrecht nicht habe ausüben können.
Das Untersuchungsrichteramt erliess am 18. Dezember 2008 und am 5. Mai 2009 Einstellungsverfügungen, welche beide im Rechtsmittelverfahren aufgehoben wurden.
Am 12. August 2011 stellte die nunmehr zuständige Staatsanwaltschaft des Kantons Schaffhausen das Strafverfahren gegen B.X._ erneut ein.
Das Obergericht des Kantons Schaffhausen wies die Beschwerde von A.X._ gegen diese Einstellungsverfügung am 10. August 2012 ab.
C. Mit Beschwerde in Strafsachen beantragt A.X._, diesen Entscheid des Obergerichts aufzuheben, B.X._ der Entziehung von Unmündigen schuldig zu sprechen und angemessen zu bestrafen, sie zu verpflichten, ihm Fr. 887.-- zu bezahlen oder eventuell das Verfahren ans Obergericht zurückzuweisen.
D. Das Obergericht teilt in seiner Vernehmlassung mit, dass es an seinem Entscheid festhalte. B.X._ beantragt sinngemäss, die Beschwerde abzuweisen.
A.X._ hält in seiner Replik an der Beschwerde fest.
Erwägungen:
1. Der angefochtene Entscheid bestätigt, dass das vom Beschwerdeführer angestrebte Strafverfahren eingestellt bleibt. Er schliesst damit das Verfahren ab. Es handelt sich um den Endentscheid einer letzten kantonalen Instanz in einer Strafsache, gegen den die Beschwerde in Strafsachen zulässig ist (Art. 78 Abs. 1, Art. 80 Abs. 1, Art. 90 BGG). Der Beschwerdeführer war als Strafantragsteller Privatkläger (Art. 118 Abs. 2 StPO) und als solcher am kantonalen Verfahren beteiligt. Er hat dabei Schadenersatzansprüche erhoben, die er aus dem angeblich strafbaren Verhalten der Beschwerdegegnerin ableitet. Der angefochtene Entscheid kann sich daher auf die Beurteilung der Zivilansprüche auswirken, womit der Beschwerdeführer zur Beschwerde befugt ist (Art. 81 Abs. 1 lit. a und lit. b Ziff. 5 BGG). Die übrigen Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass, sodass auf die Beschwerde einzutreten ist.
2. Ein Strafverfahren ist u.a. dann einzustellen, wenn kein Tatverdacht mehr besteht, der eine Anklage rechtfertigen könnte, kein Straftatbestand erfüllt ist oder ein Prozesshindernis besteht (Art. 319 Abs. 1 lit. a, b und d StPO).
Der bereits altrechtlich unter der Herrschaft der kantonalen Prozessordnungen in Kraft stehende Grundsatz "in dubio pro duriore" (z.B. Urteil 6B_879/2010 vom 24. März 2011) fliesst aus dem Legalitätsprinzip (Art. 5 Abs. 1 BV und Art. 2 Abs. 1 StPO i.V.m. Art. 319 Abs. 1 und Art. 324 Abs. 1 StPO; BGE 138 IV 86 E. 4.2). Er bedeutet, dass eine Einstellung durch die Staatsanwaltschaft grundsätzlich nur bei klarer Straflosigkeit bzw. offensichtlich fehlenden Prozessvoraussetzungen angeordnet werden darf. Bei der Beurteilung dieser Frage verfügen die Staatsanwaltschaft und die Vorinstanz über einen gewissen Spielraum, den das Bundesgericht mit Zurückhaltung überprüft. Hingegen ist (sofern die Erledigung mit einem Strafbefehl nicht in Frage kommt) Anklage zu erheben, wenn eine Verurteilung wahrscheinlicher erscheint als ein Freispruch (vorerwähntes Urteil 1B_687/2011 vom 27. März 2012 E. 4.1.1; BGE 137 IV 219 E. 7.1-7.2 S. 226 f.). Falls sich die Wahrscheinlichkeiten eines Freispruches oder einer Verurteilung in etwa die Waage halten, drängt sich in der Regel, insbesondere bei schweren Delikten, ebenfalls eine Anklageerhebung auf (BGE 138 IV 86 E. 4.1.2).
3. 3.1 Unbestritten ist, dass das Verfahren in Bezug auf Ungehorsam gegen amtliche Verfügungen im Sinn von Art. 292 StGB zu Recht eingestellt wurde. Diese Übertretung, die an Pfingsten 2008 verübt worden sein soll, ist drei Jahre später verjährt (Art. 109 StGB), womit seit Pfingsten 2011 ein dauerhaftes Prozesshindernis besteht.
3.2 Des Entziehens von Unmündigen nach Art. 220 StGB macht sich strafbar, wer eine unmündige Person dem Inhaber der elterlichen oder vormundschaftlichen Gewalt entzieht oder sich weigert, sie ihm zurückzugeben.
3.2.1 Nach der Rechtsprechung des Bundesgerichts kann ein Elternteil den objektiven Tatbestand von Art. 220 StGB erfüllen, der die gerichtlich festgesetzte Besuchsrechtsregelung verletzt (BGE 136 III 353 E. 3.4; 128 IV 154 E. 3.2). Das Obergericht ist zu Recht davon ausgegangen, dass die Beschwerdegegnerin den Tatbestand in objektiver Hinsicht erfüllt haben könnte, indem sie ihren Sohn am 9. Mai 2008, um 18 Uhr, dem zur Ausübung des Besuchsrechts berechtigten Vater nicht übergab.
Diese Rechtsauffassung des Bundesgerichts wird zwar in der Literatur kontrovers diskutiert (Zusammenstellung in BGE 136 III 353 E. 3.4 S. 360), und die Staatsanwaltschaft beruft sich für ihre abweichende Auffassung auf den Entscheid eines kantonalen Obergerichts. Selbst wenn aber beachtliche Argumente dafür sprechen sollten, dass die Vereitelung des Besuchsrechts durch den obhutsberechtigten Elternteil den objektiven Tatbestand von Art. 220 StGB nicht erfüllt, so ist die Frage jedenfalls umstritten. Die Staatsanwaltschaft war damit, wie das Obergericht zu Recht erkannt hat (angefochtener Entscheid E. 2 b S. 5 ff.), nicht befugt, das Verfahren mit der Begründung einzustellen, das umstrittene Verhalten der Beschwerdegegnerin erfülle den objektiven Tatbestand von vornherein nicht.
4. Die Beschwerde ist somit abzuweisen. Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Kosten (Art. 66 Abs. 1 BGG).
4.1.1 In subjektiver Hinsicht ist Vorsatz erforderlich. Für das Obergericht (angefochtener Entscheid E. 2 c S. 7 f.) ist er offensichtlich nicht erfüllt. Es sei unklar, ob die Eltern nicht stillschweigend oder ausdrücklich übereingekommen seien, dass der Vater 2008 seinen Sohn über Ostern anstatt über Pfingsten zu sich nehmen könne. Es erscheine zudem ausgeschlossen, dass der Beschwerdegegnerin nachgewiesen werden könne, dass sie vom richterlichen Befehl, ihren Sohn am 9. Mai 2008, um 18 Uhr, ihrem Mann zu übergeben, vor ihrer Rückkehr aus den Pfingstferien Kenntnis erhalten habe.
Der Beschwerdeführer und die Beschwerdegegnerin sind zerstritten und führen eine Kampfscheidung, mit der sich das Bundesgericht schon wiederholt beschäftigen musste (Urteile 5A_357/2011, 5D_169/2009, 5A_469/2008, 5A_718/2007). Unter diesen Umständen liegt es nahe, dass die Beschwerdegegnerin ihren Sohn dem Beschwerdeführer 2008 nicht für ein zusätzliches verlängertes Wochenende überlassen wollte, sondern dass sich die Parteien auf einen Abtausch von Ostern und Pfingsten verständigten. Dass der Beschwerdeführer nach den Osterferien gegenüber der Beschwerdegegnerin den Standpunkt vertrat, er sei berechtigt, seinen Sohn auch über Pfingsten zu sich zu nehmen, beweist keineswegs, dass sich die Parteien nicht zuvor auf einen Abtausch verständigt haben. Da abgesehen von den entgegengesetzten Aussagen der beiden Elternteile keine weiteren Beweismittel bekannt sind, kann mit dem Obergericht ausgeschlossen werden, dass die Frage abschliessend geklärt werden kann. Ist der Beschwerdegegnerin aber nicht nachzuweisen, dass sie wusste, dass sie C.X._ auch über Pfingsten seinem Vater übergeben musste, scheitert eine Verurteilung wegen Entzugs von Unmündigen an der Erfüllung des subjektiven Tatbestands.
Geklärt wurde die Rechtslage allerdings mit dem richterlichen Befehl vom 8. Mai 2008 an die Beschwerdegegnerin, C.X._ am 9. Mai 2008, um 18 Uhr, ihrem Vater zu übergeben. Sie behauptet indessen, von diesem richterlichen Befehl erst nach ihrer Rückkehr aus den Pfingstferien Kenntnis erhalten zu haben. Der Beschwerdeführer hält dem zwar entgegen, er habe die Beschwerdegegnerin am 9. Mai 2008, kurz nach 17 Uhr, telefonisch vom richterlichen Befehl in Kenntnis gesetzt, zu einem Zeitpunkt, indem sie ihre Fahrt nach München noch hätte abbrechen und den Sohn zurückbringen können (polizeiliche Einvernahme des Beschwerdeführers vom 15. Juli 2011, S. 4 oben). Es steht damit Aussage gegen Aussage, und es kann ausgeschlossen werden, dass heute - rund 4 1⁄2 Jahre nach dem Telefonat - die Aussage des Beschwerdeführers soweit verifiziert werden kann, dass darauf zu Lasten der Beschwerdegegnerin abgestellt werden könnte. Es wäre zudem mehr als fraglich, ob die Beschwerdegegnerin auf die blosse Behauptung der Gegenpartei am Telefon, es sei ein entsprechender richterlicher Befehl an sie ergangen, sofort hätte umkehren müssen. Dem Beschwerdeführer war nach eigenen Angaben bereits längere Zeit vor dem 6. Mai 2008, als er sein Vollstreckungsbegehren stellte, bekannt, dass seine Frau der Auffassung war, sie könne C.X._ über Pfingsten bei sich behalten. Er hat es daher selber zu vertreten, dass der richterliche Befehl zu spät erging bzw. zugestellt wurde, um eine reguläre Übergabe des Kindes an ihn sicherzustellen. Aus dem Umstand, dass sich die Beschwerdegegnerin vor ihrer Abreise nicht aktiv nach dem Stand des Vollstreckungsverfahrens erkundigte, kann entgegen der Auffassung des Beschwerdeführers nicht geschlossen werden, sie habe sich eventualvorsätzlich über den ihr (noch) nicht eröffneten Vollstreckungsbefehl hinweggesetzt. Unbestritten ist, dass dieser dem Vertreter der Beschwerdegegnerin am 9. Mai 2008, um 16:10 Uhr, zugestellt wurde. Wann Rechtsanwalt Tanner seiner Klientin den Befehl zur Kenntnis brachte, ist unbekannt und auch nicht weiterer Abklärung zugänglich, da er dazu unter Berufung auf das Anwaltsgeheimnis keine Angaben macht.
Insgesamt erweist sich die Beurteilung des Obergerichts, eine vorsätzliche Verletzung des Besuchsrechts sei der Beschwerdegegnerin nicht nachzuweisen, und daran könne auch eine Fortführung des Strafverfahrens nichts ändern, als vertretbar. Es hat daher kein Bundesrecht verletzt, indem es die Verfahrenseinstellung schützte, zumal die zur Diskussion stehende (angebliche) Straftat der Beschwerdegegnerin zwar nicht gerade Bagatellcharakter hat, aber doch eher leicht wiegt.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien sowie der Staatsanwaltschaft und dem Obergericht des Kantons Schaffhausen schriftlich mitgeteilt.
Lausanne, 22. November 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Merkli
Der Gerichtsschreiber: Störi