Erwägungen:
1. Das Ehepaar A. und B.X._ erstattete mit Eingabe vom 30. Mai 2011 bei der Staatsanwaltschaft des Kantons St. Gallen eine Strafanzeige u.a. gegen Mitarbeitende des Baudepartements des Kantons St. Gallen sowie gegen verschiedene Behördenmitglieder der Gemeinde Rüthi. Die Anzeige steht im Zusammenhang mit dem Neubau des Mehrfamilienhauses. Nach Ansicht der Strafanzeiger ist "aufgrund der vielen rechts- und gesetzeswidrigen Verstösse von Gemeinde- und Kantonalen Stellen" im Zusammenhang mit dem fraglichen Neubau "das Verfahren zu prüfen und eine strafrechtliche Untersuchung einzuleiten".
Das Untersuchungsamt Altstätten übermittelte die Strafanzeige der Anklagekammer des Kantons St. Gallen zwecks Durchführung des Ermächtigungsverfahrens.
Mit Schreiben vom 19. Juni 2011 ergänzten die Eheleute A. und B.X._ die Strafanzeige.
Am 5. Juli 2011 hat die Anklagekammer des Kantons St. Gallen entschieden, kein Strafverfahren zu eröffnen. Soweit sich die Strafanzeige auch gegen den Vorsteher des kantonalen Baudepartements richtete, hat sie die Sache zuständigkeitshalber der Rechtspflegekommission des Kantonsrats St. Gallen zum Entscheid über die Frage überwiesen, ob gegen ihn allenfalls ein Strafverfahren zu eröffnen sei. Und soweit sich die Anzeige auch auf Privatpersonen erstreckte, hat sie die Sache zur weiteren Prüfung der insoweit zuständigen Staatsanwaltschaft übermittelt.
2. Gegen den Entscheid vom 5. Juli 2011 führen die Eheleute A. und B.X._ der Sache nach Beschwerde in Strafsachen ans Bundesgericht.
Das Bundesgericht hat davon abgesehen, Vernehmlassungen einzuholen.
3. Nach <ref-law> ist in der Beschwerdebegründung - unab-hängig von der Art des nach BGG offen stehenden Rechtsmittels - in gedrängter Form darzulegen, inwiefern der angefochtene Entscheid Recht verletzt (s. auch <ref-law>; s. zudem <ref-ruling> E. 1.4.1 S. 53, 65 E. 1.3.1 S. 68 mit Hinweisen; s. auch <ref-ruling> E. 1.4.2 S. 254 mit Hinweisen). Die Bestimmungen von <ref-law> nennen die vor Bundesgericht zulässigen Beschwerdegründe.
Dies setzt voraus, dass sich ein Beschwerdeführer wenigstens kurz mit den Erwägungen des angefochtenen Entscheids auseinandersetzt. Strengere Anforderungen gelten, wenn die Verletzung von Grundrechten geltend gemacht wird, einschliesslich der willkürlichen Anwendung von kantonalem Recht und - wie der Sache nach im vorliegenden Fall - Willkür bei der Sachverhaltsfeststellung. Das Bundesgericht prüft Solches nicht von Amtes wegen, sondern nur insoweit, als eine derartige Rüge in der Beschwerde vorgebracht und begründet worden ist (<ref-law>).
Die Beschwerdeführer tragen ihre Sicht der Dinge vor, üben appellatorische Kritik am angefochtenen Entscheid und machen ganz pauschal geltend, entgegen der Auffassung der Anklagekammer sei ein hinreichender Tatverdacht gegeben und die Ermächtigung zur Einleitung der von ihnen verlangten Strafuntersuchung zu erteilen. Dabei legen sie jedoch nicht rechtsgenüglich im Sinn der aufgezeigten gesetzlichen Erfordernisse dar, inwiefern die dem Entscheid der Anklagekammer zugrunde liegenden Erwägungen bzw. der Entscheid selber im Ergebnis Recht im Sinn von <ref-law> verletzen soll. Auf derart appellatorische Kritik tritt das Bundesgericht indes gemäss ständiger Rechtsprechung nicht ein (s. die vorstehend bereits zitierten Urteile).
Da die von den Beschwerdeführern vorgebrachten Ausführungen somit keine den massgebenden Bestimmungen entsprechende Auseinandersetzung mit den Erwägungen des angefochtenen Entscheides darstellen, ist bereits mangels einer genügenden Begründung im Sinne von <ref-law> auf die vorliegende Beschwerde nicht einzutreten. Entsprechend brauchen die weiteren Eintretensvoraussetzungen nicht weiter erörtert zu werden und kann daher insbesondere auch die Frage, ob die Beschwerdeführer nach Art. 81 Abs. 1 lit. b Ziff. 5 überhaupt beschwerdebefugt sind, offen bleiben.
Der Begründungsmangel ist offensichtlich, weshalb über die Beschwerde im vereinfachten Verfahren nach <ref-law> entschieden werden kann.
4. Dem Ausgang des Verfahrens entsprechend sind die Gerichtskosten den Beschwerdeführern aufzuerlegen (<ref-law>).

Demnach wird erkannt:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 500.-- werden den Beschwerdeführern auferlegt.
3. Dieses Urteil wird den Beschwerdeführern, der Gemeindeverwaltung Rüthi, dem Baudepartement des Kantons St. Gallen und der Anklagekammer des Kantons St. Gallen schriftlich mitgeteilt.
Lausanne, 15. September 2011
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Bopp