Sachverhalt:
A. Die Staatsanwaltschaft des Kantons St. Gallen, Untersuchungsamt St. Gallen, führt gegen X._ eine Strafuntersuchung wegen gewerbsmässigen Betrugs. Am 4. Februar 2011 liess die zuständige Staatsanwältin X._ festnehmen und beantragte der regionalen Zwangsmassnahmenrichterin des Kreisgerichts Rheintal gleichentags, diesen in Untersuchungshaft zu versetzen.
Am 5. Februar 2011 entliess die Zwangsmassnahmenrichterin X._ aus der Untersuchungshaft unter Anordnung von Ersatzmassnahmen.
Am 11. Februar 2011 erhob der Leitende Staatsanwalt Beschwerde gegen diesen Entscheid bei der Anklagekammer mit dem Antrag, es sei festzustellen, dass die Entlassung von X._ aus der Untersuchungshaft auf einer Verletzung von Art. 221 und Art. 237 StPO beruhe.
Am 16. März 2011 trat die Anklagekammer auf die Beschwerde nicht ein.
B. Mit Beschwerde in Strafsachen beantragt der Erste Staatsanwalt, diesen Entscheid aufzuheben und die Anklagekammer anzuweisen, in der Sache zu entscheiden.
Die regionale Zwangsmassnahmenrichterin, der Präsident der Anklagekammer und X._ verzichten auf Vernehmlassung.
Erwägungen:
1. Angefochten ist ein kantonal letztinstanzlicher Rechtsmittelentscheid über eine Haftentlassung. Dagegen ist die Beschwerde in Strafsachen nach den Art. 78 ff. BGG gegeben.
Nach Art. 81 Abs. 1 BGG ist zur Beschwerde berechtigt, wer am Verfahren vor der Vorinstanz teilgenommen und ein rechtlich geschütztes Interesse an der Aufhebung oder Änderung des angefochtenen Entscheids hat. Da das Bundesgericht nur konkrete und keine bloss theoretischen Fragen entscheidet, tritt es aus Gründen der Prozessökonomie auf Beschwerden nur ein, wenn die Beschwerdeführer ein aktuelles praktisches Interesse an ihrer Behandlung haben (BGE 133 II 81 E. 3 S. 84; 125 I 394 E. 4a S. 397; je mit Hinweisen).
Vorliegend wurde der Beschwerdegegner von der Zwangsmassnahmenrichterin gegen den Willen der Staatsanwaltschaft aus der Untersuchungshaft entlassen und befindet sich offenbar seither in Freiheit. Der Staatsanwalt hat der Anklagekammer zwar nicht die Anordnung von Untersuchungshaft gegen den Beschwerdegegner beantragt, sondern nur die Feststellung, dass die von der Zwangsmassnahmenrichterin verfügte Haftentlassung bundesrechtswidrig sei. Würde er mit diesem Antrag durchdringen, könnte er den Beschwerdegegner umgehend wieder festnehmen lassen und dem Zwangsmassnahmengericht die Anordnung von Untersuchungshaft beantragen. Das Feststellungsbegehren ist damit ein taugliches Mittel, die angestrebte Festsetzung des Beschwerdegegners zu erreichen, und es erscheint fraglich, ob der Staatsanwalt mit einem ebenfalls zulässigen Antrag auf Anordnung von Untersuchungshaft rascher zum Ziel kommen könnte. Insofern sind in dieser speziellen Konstellation das Feststellungs- und das "Leistungsbegehren" (auf Anordnung von Untersuchungshaft) gleichwertig, womit es im pflichtgemässen Ermessen der Staatsanwaltschaft liegt, das Vorgehen zu wählen. Der allgemeine prozessuale Grundsatz, dass derjenige, welcher ein Leistungsbegehren stellen kann, kein rechtlich geschütztes Interesse an einem Feststellungsbegehren hat, kommt ausnahmsweise nicht zur Anwendung. Hatte aber somit die Staatsanwaltschaft ein rechtlich geschütztes Interesse an der Beurteilung ihres Feststellungsbegehrens durch die Anklagekammer, so hat sie ein solches auch an der gegen deren Nichteintretensentscheid gerichteten Beschwerde ans Bundesgericht. Auf die Beschwerde ist einzutreten.
2. Die Anklagekammer begründet ihr Nichteintreten in doppelter Weise. Einmal geht sie in bewusster Abweichung von der Rechtsprechung des Bundesgerichts (unten E. 3.1) davon aus, dass die Staatsanwaltschaft nicht befugt ist, den Haftentscheid der Zwangsmassnahmenrichterin innerkantonal anzufechten.
Zum andern erwägt sie, auf die Beschwerde wäre mangels aktuellen Rechtsschutzinteresses selbst dann nicht einzutreten, wenn die Staatsanwaltschaft befugt wäre, sie zu erheben. Das trifft nicht zu, wie sich bereits aus der bundesgerichtlichen Eintretenserwägung (E. 1 letzter Absatz) ergibt.
3. 3.1 Die kantonale Beschwerdeinstanz beurteilt Beschwerden gegen Entscheide des Zwangsmassnahmengerichts in den vom Gesetz vorgesehenen Fällen (Art. 20 Abs. 1 lit. c, Art. 393 Abs. 1 lit. c StPO). Nach Art. 222 StPO kann die verhaftete Person Entscheide über die Anordnung, die Verlängerung und die Aufhebung der Untersuchungs- oder Sicherheitshaft bei der Beschwerdeinstanz anfechten. Von einem Beschwerderecht der Staatsanwaltschaft ist in dieser Bestimmung nicht die Rede. Das Bundesgericht hat dazu im zur Publikation bestimmten Entscheid 1B_64/2011 E. 1 vom 17. Februar 2011 (bestätigt in 1B_65/2011 vom 22. Februar 2011) zusammenfassend erwogen, dass die Gesetzesmaterialien hinsichtlich des Beschwerderechts der Staatsanwaltschaft nicht auf ein qualifiziertes Schweigen des Gesetzgebers schliessen lassen. Nach der in Art. 111 BGG statuierten Einheit des Verfahrens, die im Lichte des Grundsatzes des doppelten Instanzenzuges auszulegen ist, muss derjenige, der zur Beschwerde ans Bundesgericht berechtigt ist, sich am Verfahren vor allen kantonalen Instanzen als Partei beteiligen können. Dazu erheischt das öffentliche Interesse an einer funktionierenden Strafjustiz, dass die Staatsanwaltschaft ein Beschwerderecht an die kantonale Beschwerdekammer gegen einen die Haft aufhebenden Entscheid des Zwangsmassnahmengerichts besitzt. Ansonsten käme es in bestimmten Fällen zu einer unerwünschten, nach Möglichkeit zu vermeidenden Gabelung des Rechtsmittelzuges, etwa wenn das Zwangsmassnahmengericht die Untersuchungshaft unter Anordnung von Ersatzmassnahmen aufhebt: Dagegen müsste sich der Betroffene mit Beschwerde an die kantonale Beschwerdekammer und die Staatsanwaltschaft direkt mit Beschwerde ans Bundesgericht zur Wehr setzen.
3.2 Die Anklagekammer erwägt im angefochtenen Entscheid (E. 2.2 S. 3 ff.), das Bundesgericht habe die Frage der Beschwerdelegitimation in verkürzter Sicht - ausschliesslich unter dem Gesichtspunkt von Art. 222 i.V.m. Art. 381 StPO bzw. Art. 81 Abs. 1 lit. b BGG - geprüft. Hingegen habe es sich mit den verschiedenen Funktionen der Staatsanwaltschaft als Verfahrensleitung im Vorverfahren (Art. 16 Abs. 2 StPO) und als Partei im gerichtlichen Hauptverfahren (Art. 104 Abs. 1 lit. c StPO) nicht auseinandergesetzt. Mit der Einreichung der Anklage verliere die Staatsanwaltschaft ihre Befugnisse zur Verfahrensleitung und werde zur reinen Partei, die als Vertreterin des staatlichen Strafanspruchs befugt sein müsse, Parteirechte auszuüben. Im Vorverfahren sei sie indessen die Verfahrensleitung und könne in diesem Verfahrensabschnitt nicht zugleich Partei sein, auch in einem allfälligen Beschwerdeverfahren nicht. Dass ihre Befugnisse in verschiedener Hinsicht beschränkt seien, etwa indem für die Anordnung von Zwangsmassnahmen das Zwangsmassnahmengericht zuständig sei, beeinträchtige weder die Rechtsstellung der Staatsanwaltschaft als Verfahrensleitung, noch werde sie dadurch zur Partei in den jeweiligen Zwischenabschnitten des Vorverfahrens. Das Zwangsmassnahmengericht entscheide zwar auf Antrag der Staatsanwaltschaft, letztlich aber an deren Stelle. Mit dieser partiellen Verlagerung einzelner verfahrensleitender Befugnisse an das Zwangsmassnahmengericht werde ein erhöhter Rechtsschutz bei besonders schwerwiegenden Eingriffen in die Persönlichkeitsrechte des Betroffenen sichergestellt. Trotz dieser speziell geregelten Zuständigkeiten bleibe indessen die Verfahrensleitung während des Vorverfahrens bei der Staatsanwaltschaft. So sei sie weiterhin befugt, die vom Zwangsmassnahmengericht verfügten oder genehmigten Anordnungen jederzeit wieder aufzuheben, und es stehe ihr auch frei, auf die von diesem nicht angeordneten oder nicht genehmigten Verfügungen unter geänderten Verhältnissen oder mit anderer Begründung zurückzukommen; die Entscheide des Zwangsmassnahmengerichts während des Vorverfahrens seien in diesem Sinne nur einseitig - für die betroffene Privatperson, nicht aber für die Staatsanwaltschaft - verbindlich. Von einer Parteistellung der Staatsanwaltschaft im klassischen Sinn könne daher im strafprozessualen Vorverfahren keine Rede sein. Angesichts ihrer beherrschenden Stellung im Vorverfahren bestehe kein Bedarf, ihr in diesem Verfahrensabschnitt eine Rechtsmittellegitimation zuzuerkennen.
3.3 Die Anklagekammer folgert aus dem Umstand, dass die Staatsanwaltschaft im Vorverfahren die Verfahrensleitung innehat, dass sie in diesem Stadium nicht zugleich Partei sein könne. Diese Argumentation überzeugt nicht.
3.3.1 Einmal beschränken sich die Überlegungen der Anklagekammer auf die Auslegung ihres Verfahrensrechts - der StPO - und blenden massgebliche Gesichtspunkte aus, die sich aus dem Verfahrensrecht der übergeordneten Instanz - dem BGG - und den einschlägigen verfassungs- und konventionsrechtlichen Rahmenbedingungen ergeben. Mit der dargelegten Rechtsprechung des Bundesgerichts (oben E. 3.1), welche die gesamte Rechtsordnung miteinbezieht, setzt sich die Anklagekammer denn auch mit keinem Wort kritisch auseinander und widerlegt sie nicht.
3.3.2 Zum andern trifft es zwar durchaus zu, dass die Staatsanwaltschaft im Vorverfahren grundsätzlich die Verfahrensleitung innehat, aber eben nur insoweit, als ihr die entsprechenden Leitungsbefugnisse auch zustehen und ihr diese nicht - wie zum Beispiel der Entscheid über die Anordnung von Zwangsmassnahmen - entzogen sind. In diesen Fällen hat sie indessen das Recht, dem Zwangsmassnahmengericht z.B. die Anordnung von Untersuchungshaft zu beantragen und diesen Antrag zu vertreten, und das Zwangsmassnahmengericht ist verpflichtet, ihn zu beurteilen. Damit hat sie in diesem Verfahren materiell Parteistellung, unabhängig davon, ob sie im Gesetz ausdrücklich als Partei des Vorverfahrens aufgeführt wird oder nicht. Dazu kommt, dass nach den einschlägigen verfassungs- und konventionsrechtlichen Verfahrensgarantien (insbesondere Art. 31 Abs. 2 und 3 BV, Art. 5 EMRK) Haftanordnungs- und -prüfungsverfahren kontradiktorisch auszugestalten sind (vgl. BGE 126 I 172 E. 3c; Entscheid 1P.541/2002 vom 8. November 2002 in: Pra 2003 Nr. 64 S. 317 E. 2.1; je mit Hinweisen), was begriffsnotwendig die Beteiligung mindestens zweier Verfahrensparteien - hier der Staatsanwaltschaft und des Beschuldigten - voraussetzt. Zutreffend ist zwar, dass das Zwangsmassnahmengericht bei geänderten Verhältnissen auf Antrag der Staatsanwaltschaft oder des Beschuldigten jederzeit auf seinen Entscheid zurückkommen und ihn abändern kann. Inwiefern die Entscheide des Zwangsmassnahmengerichts deswegen für die Staatsanwaltschaft nicht verbindlich sein sollten, wie die Anklagekammer ausführt und daraus ableitet, dass die Staatsanwaltschaft deswegen nicht Partei des Beschwerdeverfahrens sein könne, ist unerfindlich. Dass eine Behörde innerhalb eines Verfahrens verschiedene Funktionen - als Verfahrensleitung und als Partei - ausüben kann, ist im öffentlichen Recht zudem keineswegs aussergewöhnlich. So kann beispielweise eine Gemeinde im Rechtsmittelverfahren gegen einen von ihr erlassenen Bauentscheid ebenso Parteirechte ausüben wie ein kantonales Strassenverkehrsamt, dessen Entscheid über einen Führerausweisentzug vom kantonalen Verwaltungsgericht aufgehoben wurde und das berechtigt ist, diesen Gerichtsentscheid vor Bundesgericht (als Partei) anzufechten (Art. 89 Abs. 2 lit. d BGG i.V.m. Art. 24 Abs. 2 lit. a SVG).
3.3.3 Der angefochtene Entscheid ist somit nicht geeignet, die Rechtsprechung des Bundesgerichts, wonach die Staatsanwaltschaft befugt ist, die Entscheide des Zwangsmassnahmengerichts bei der Beschwerdekammer anzufechten, in Frage zu stellen. Daran ist festzuhalten.
4. Damit ist die Beschwerde gutzuheissen, der angefochtene Entscheid aufzuheben und die Sache der Anklagekammer zu neuer Entscheidung unter Bejahung der Beschwerdebefugnis der Staatsanwaltschaft zurückzuweisen. Bei diesem Ausgang des Verfahrens sind keine Kosten zu erheben (Art. 66 Abs. 4 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, der angefochtene Entscheid der Anklagekammer des Kantons St. Gallen vom 16. März 2011 aufgehoben und die Sache zu neuer Entscheidung an die Vorinstanz zurückgewiesen.
2. Es werden keine Kosten erhoben.
3. Dieses Urteil wird den Parteien, dem Regionalen Zwangsmassnahmengericht und der Anklagekammer des Kantons St. Gallen schriftlich mitgeteilt.
Lausanne, 17. Mai 2011
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Fonjallaz Störi