Sachverhalt:
A. Am 6. Juni 2008, um ca. 13.00 Uhr, ereignete sich in O._ ein Arbeitsunfall auf einer Baustelle. Aa._ stürzte in einen Lift- bzw. Treppenschacht und zog sich dabei tödliche Verletzungen zu.
Mit Aufhebungsverfügung der Staatsanwaltschaft des Kantons St. Gallen, Untersuchungsamt St. Gallen, vom 13. März 2009 wurde das gegen den Polier Y._ und den Bauleiter X._ eingeleitete Strafverfahren wegen Verdachts auf fahrlässige Tötung aufgehoben. Die von der Ehefrau des Verstorbenen, Ab._, vom Sohn Ac._ und von der Tochter Ad._ eingereichte Beschwerde wies die Anklagekammer des Kantons St. Gallen am 23. Juni 2009 ab.
B. Ab._, Ac._ und Ad._ führen Beschwerde in Strafsachen. Sie beantragen, der Entscheid der Anklagekammer sei aufzuheben, und die Staatsanwaltschaft des Kantons St. Gallen sei anzuweisen, das Strafverfahren wegen fahrlässiger Tötung zum Nachteil von Aa._ gegen X._, Y._ und gegen Unbekannt fortzuführen. Eventualiter sei die Angelegenheit zur erneuten Entscheidfindung an die Vorinstanz zurückzuweisen. Unter Kosten- und Entschädigungsfolge.
C. Die Vorinstanz und die Staatsanwaltschaft verzichten auf Vernehmlassungen. X._ und Y._ beantragen mit Eingaben vom 18. Januar 2010 die Abweisung der Beschwerde.

Erwägungen:
1. Die Vorinstanz stellt fest, der Nachweis für ein mit dem tragischen Unfall zusammenhängendes, strafrechtlich relevantes und adäquat kausales Verschulden aller oder einzelner Beschwerdegegner lasse sich nicht erbringen. Aufgrund des rechtsmedizinischen Gutachtens vom 20. Juni 2008 und der Aussagen des Arbeiters B._ kommt die Vorinstanz zum Schluss, Aa._ sei mutmasslich vom dritten Obergeschoss rund 4,5 Meter in einen Treppenschacht gestürzt und habe sich dabei tödliche Verletzungen zugezogen. Die Vorinstanz geht gestützt auf die Akten davon aus, dass der fragliche Treppenschacht während der Ausschalungsarbeiten nicht abgedeckt war. Der Grund dafür liege gemäss Angaben eines Sicherheitsspezialisten der SUVA darin, dass es sich dabei um "Routinearbeiten" gehandelt habe, die sowohl Facharbeitern als auch angelernten Hilfsarbeitern zugemutet werden könnten. Für den Unfall sei nach den Aussagen des Sicherheitsspezialisten "nicht relevant", ob der Polier die Arbeiten kontrolliert habe. Der Sicherheitsspezialist beurteile den Umstand, dass ein einteiliger Seitenschutz anstelle des erforderlichen dreiteiligen Schutzes angebracht gewesen sei, als "nicht so gravierend". Nach dessen Meinung habe die Arbeitgeberin des Verstorbenen ein sehr gutes Sicherheitssystem. Er arbeite schon jahrelang mit diesem Unternehmen zusammen. Der Sicherheitsspezialist sei der Ansicht, ein erfahrener Mitarbeiter wie der Verunfallte wisse sicherlich ganz genau, was er dürfe und was nicht. Die Vorinstanz weist darauf hin, dass niemand den Unfallhergang beobachtet habe, und somit die Gründe für den Unfall nicht bekannt seien. Der Nachweis einer im strafrechtlichen Sinne relevanten ununterbrochenen adäquaten Kausalkette sei nicht zu erbringen. Daran würden auch weitere Abklärungen nichts ändern. Auch damit liesse sich nicht zweifelsfrei ein adäquat kausales Verschulden der Beschwerdegegner am Tod von Aa._ nachweisen. Der Umstand, dass die mutmassliche Absturzstelle nicht ordnungsgemäss gesichert gewesen sei, werde mitberücksichtigt. Es sei gemäss dem Sicherheitsspezialisten der SUVA üblich, dass gewisse Stellen für kurze Zeiträume ungesichert oder zu wenig gesichert seien. Dies erscheine als nachvollziehbar, weil je nach dem Stand der Arbeiten die Sicherheitsvorkehren für die einzelnen Arbeitsvorgänge zuerst erstellt bzw. wieder entfernt werden müssten. Es seien keine Anhaltspunkte für eine strafrechtlich relevante Aufsichtspflichtverletzung durch den verantwortlichen Polier ersichtlich, der dem Unfallort am fraglichen Tag möglicherweise fern geblieben sei. Der baustellenerfahrene Verstorbene habe damals Arbeiten verrichtet, die gemäss Angaben des Sicherheitsspezialisten täglich ausgeführt würden. Die Vorinstanz kommt gestützt auf diese Ausführungen zum Ergebnis, die Staatsanwaltschaft habe das Strafverfahren zu Recht aufgehoben und von weiteren Beweismassnahmen abgesehen.
2. 2.1 Die Beschwerdeführer rügen eine willkürliche Sachverhaltsfeststellung. Die Vorinstanz stelle zumindest implizit fest, dass ein einteiliger Seitenschutz angebracht gewesen sei, und gehe folglich von der falschen Vorstellung aus, die Absturzstelle sei wenigstens behelfsmässig gesichert gewesen. Nicht ersichtlich sei, was die Vorinstanz aus den Angaben des Sicherheitsexperten der SUVA schliesse, die nicht entscheidrelevant seien.
2.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>, vgl. auch <ref-law>).
Eine Sachverhaltsfeststellung ist willkürlich im Sinne von <ref-law>, wenn sie offensichtlich unhaltbar ist, zur tatsächlichen Situation in klarem Widerspruch steht, auf einem offenkundigen Versehen beruht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Das Bundesgericht hebt einen Entscheid jedoch nur auf, wenn nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist. Dass eine andere Lösung oder Würdigung ebenfalls vertretbar erscheint oder gar vorzuziehen wäre, genügt für die Annahme von Willkür nicht (<ref-ruling> E. 5.4 S. 148 mit Hinweisen).
2.3 Gemäss dem Polizeirapport vom 9. Juli 2008 (vorinstanzliche Akten Dossier S, act. S1) wurde die Öffnung des Liftschachts nach dem Unfall unfachmännisch mit Schaltafeln abgedeckt und eine Abschrankung vor der Öffnung platziert. Der Arbeiter B._ gab anlässlich seiner polizeilichen Befragung vom 9. Juni 2008 an, die Schaltafeln und das Geländer seien noch nicht dort gewesen, als er den Verunfallten vom 3. Stock aus gesehen habe. Es seien lediglich die Dielen an der Seite und ein H20-Träger vorhanden gewesen (vorinstanzliche Akten, Dossier D act. D4 S. 3). Der Sicherheitsexperte bezeichnete die Abdeckung über der Unfallstelle als sehr auffallend und absolut anormal (vorinstanzliche Akten, Dossier D act. D8 S. 3).
Die Beschwerdeführer rügen die Ausführungen der Vorinstanz hinsichtlich der Sicherungsvorkehren beim Liftschacht zu Recht. Aus dem angefochtenen Entscheid ist nicht ersichtlich, ob nach den Feststellungen der Vorinstanz zum Zeitpunkt des Sturzes ein gemäss Art. 15 f. der Verordnung über die Sicherheit und den Gesundheitsschutz der Arbeitnehmerinnen und Arbeitnehmer bei Bauarbeiten (Bauarbeitenverordnung, BauAV; SR 832.311.141) erforderlicher Seitenschutz vorhanden war oder nicht. Falls die Vorinstanz davon ausgeht, es habe ein Seitenschutz bestanden, stünde diese Feststellung im Widerspruch zu den bisher erhobenen Fakten. Die Frage, ob und wie die Absturzstelle gesichert war, kann für den Ausgang des Verfahrens von Bedeutung sein. Nur nach Abklärung der Gegebenheiten und entsprechender Würdigung der Beweise kann die Grundlage für die Entscheidung geschaffen werden, ob und durch wen eine fahrlässige Tötung begangen wurde. Die Sachverhaltsfeststellung der Vorinstanz hinsichtlich der Sicherung des Liftschachts vor dem Sturz des Verunglückten muss als willkürlich bezeichnet werden.
Unklar ist auch, welche Schlüsse die Vorinstanz aus den verschiedenen im angefochtenen Entscheid wiedergegebenen Äusserungen des Sicherheitsexperten der SUVA zieht. Soweit sie aus dessen Angaben folgern sollte, dass keine (weiteren) Sicherheitsvorkehren hätten getroffen werden müssen und niemand für eine diesbezügliche Überwachung verantwortlich gewesen sei bzw. kein Verantwortlicher eruiert werden könne, kann ihr nicht gefolgt werden. Denn dabei handelt es sich überwiegend um Rechtsfragen, zu deren Beantwortung die Vorinstanz nicht kurzerhand auf die - im Übrigen ohnehin teilweise spekulativen - Aussagen des Sicherheitsspezialisten abstellen durfte. Vielmehr hätte die Vorinstanz diese Fragen aufgrund der bereits erhobenen und noch zu ermittelnden Tatsachen selbst entscheiden müssen. Nach den zutreffenden Einwänden der Beschwerdeführer ist es für die Frage der Sicherung nicht massgeblich, ob es sich bei den vom Verstorbenen ausgeführten Arbeiten um "Routinearbeiten" handelte. Es ist aber relevant, ob der Polier die Befolgung der Sicherheitsvorschriften kontrollierte. Unerheblich ist, dass die Arbeitgeberin des Verstorbenen im Allgemeinen über ein sehr gutes Sicherheitssystem verfügte und der Sicherheitsexperte schon jahrelang mit diesem Unternehmen zusammenarbeitete. Die verschiedenen Aussagen der am fraglichen Tag anwesenden Personen hätten gewürdigt und die geltenden gesetzlichen Vorgaben sowie die auf der konkreten Baustelle geltenden Verantwortlichkeiten und Kontrollpflichten betreffend Sicherheitsfragen abgeklärt werden müssen.
3. 3.1 Die Beschwerdeführer machen geltend, die Vorinstanz habe gegen das Prinzip "in dubio pro duriore" verstossen. Es beständen erhebliche Indizien dafür, dass der tragische Unfall auf eine strafbare fahrlässige Handlungsweise zurückzuführen sei. Die Zweifel an der Erfüllung des Tatbestands seien nicht so stark, dass eine Aufhebung des Verfahrens gerechtfertigt sei. Die Beschwerdegegner hätten für die Einhaltung der Sicherheitsstandards sorgen müssen und somit in adäquat kausaler Weise zum Unglück beigetragen.
3.2 Unter welchen Voraussetzungen ein Strafverfahren eingestellt werden darf und wann Anklage zu erheben ist, ergibt sich primär aus dem kantonalen Prozessrecht (Urteil des Bundesgerichts 6B_56/2008 vom 14. April 2008 E. 3.1.1 mit Hinweis). Nach Art. 182 des Strafprozessgesetzes des Kantons St. Gallen vom 1. Juli 1999 (sGS 962.1; nachfolgend: StP/SG) wird das Verfahren aufgehoben, wenn das Gericht den Angeschuldigten mangels Tatbestands, mangels Beweises, wegen Verjährung oder aus einem anderen Grund freisprechen würde (Abs. 1). Bestehen Zweifel oder kommt die Anordnung einer freiheitsentziehenden Massnahme in Betracht, wird Anklage beim Gericht erhoben (Abs. 2). Die Aufhebung des Verfahrens hat die Bedeutung eines gerichtlichen Freispruchs (Abs. 3). Nach der kantonalen Rechtsprechung zu Art. 182 StP/SG hat eine Aufhebung zu erfolgen, wenn aufgrund objektiver Kriterien von vornherein feststeht, dass jedes andere Ergebnis als ein Freispruch ausgeschlossen erscheint (Entscheid der Anklagekammer des Kantons St. Gallen vom 15. Oktober 2001, in: GVP 2001 Nr. 76).
Nach der Rechtsprechung des Bundesgerichts gilt beim Entscheid über die Anklageerhebung beziehungsweise Verfahrensaufhebung der auf die gerichtliche Beweiswürdigung zugeschnittene Grundsatz "in dubio pro reo" nicht. Vielmehr ist nach der Maxime "in dubio pro duriore" im Zweifelsfall (wegen des schwereren Delikts) Anklage zu erheben. Bei nicht eindeutiger Beweislage sollen nicht die Untersuchungs- oder Anklagebehörden, sondern die für die materielle Beurteilung zuständigen Gerichte über einen Vorwurf entscheiden. Aus dem Umstand, dass eingestellt werden muss, wenn eine Verurteilung mit an Sicherheit grenzender Wahrscheinlichkeit ausgeschlossen ist, folgt nicht, dass erst bei derart hoher Wahrscheinlichkeit eingestellt werden darf. Ein solcher Massstab wäre zu streng und würde dazu führen, dass selbst bei geringer Wahrscheinlichkeit einer Verurteilung ein Anklagezwang bestünde. Verlangt wird lediglich, im Zweifel Anklage zu erheben resp. zu überweisen. Als praktische Leitlinie kann daher gelten, dass Anklage erhoben werden muss, wenn eine Verurteilung wahrscheinlicher erscheint als ein Freispruch (Urteil 6B_588/2007 vom 11. April 2008 E. 3.2 mit Hinweisen). Bei Fahrlässigkeitsdelikten mit schwerwiegenden Folgen ist nach der kantonalen Rechtsprechung besondere Zurückhaltung geboten. Es ist Anklage zu erheben, falls eine vorläufige Beurteilung zum Ergebnis führt, dass sowohl ein Freispruch als auch eine Verurteilung als mögliche Varianten eines sachrichterlichen Entscheids in Betracht kommen. Eine Aufhebungsverfügung ist auch aufzuheben und die Strafsache in die Untersuchung zurückzuweisen, wenn die Untersuchung wesentliche Lücken aufweist und damit Fragen offen bleiben, deren Beantwortung wesentlich sein kann für einen Freispruch oder Schuldspruch (Entscheide der Anklagekammer des Kantons St. Gallen vom 20. August 2002, in: GVP 2002 Nr. 97, und vom 15. Oktober 2001, in: GVP 2001 Nr. 76; NIKLAUS OBERHOLZER, Grundzüge des Strafprozessrechts, 2. Aufl. 2005, S. 585).
3.3 Die Vorinstanz nimmt an, dass sich auch mit weiteren Abklärungen nicht zweifelsfrei ein adäquat kausales Verschulden der Beschwerdegegner am Tod von Aa._ nachweisen lasse. Damit wendet sie fälschlicherweise anstatt des Grundsatzes "in dubio pro duriore" die Maxime "in dubio pro reo" an. Obwohl sie in ihren allgemeinen Erwägungen zutreffend davon ausgeht, in Zweifelsfällen sei Anklage zu erheben, setzt sie sich bei der Beurteilung des konkreten Falls zu dieser Maxime in willkürlicher Weise in Widerspruch. Entgegen den Ausführungen im vorinstanzlichen Urteil muss hinsichtlich einer Anklageerhebung ein für den Erfolg adäquat kausales Verschulden nicht zweifelsfrei nachgewiesen sein. Im Gegenteil ist im Zweifelsfall Anklage zu erheben, was insbesondere im vorliegenden Fall eines möglichen Fahrlässigkeitsdelikts mit Todesfolge gilt. Die Vorinstanz darf nicht mit der Begründung, auch mit weiteren Abklärungen lasse sich nicht zweifelsfrei ein adäquat kausales Verschulden der Beschwerdegegner am Tod von Aa._ nachweisen, auf die weitere Erhebung von Beweisen verzichten. Sie unterlässt es, die Beweislage materiell zu würdigen, d.h. die Aussagekraft der Indizien und Beweise gegeneinander abzuwägen. Die Vorinstanz hätte weitere Abklärungen betreffend die Sicherung der Absturzstelle und die diesbezüglichen Verantwortlichkeiten treffen und in der Folge entscheiden müssen, ob nach Massgabe des Grundsatzes "in dubio pro duriore" Anklage zu erheben oder die Aufhebungsverfügung zu bestätigen ist.
Die Beschwerde ist gutzuheissen.
4. Die Beschwerdeführer beantragen eine Rückweisung der Sache an die Staatsanwaltschaft zwecks Fortführung der Strafuntersuchung. Heisst das Bundesgericht die Beschwerde gut, so entscheidet es in der Sache selbst oder weist diese zur neuen Beurteilung an die Vorinstanz zurück. Es kann die Sache auch an die Behörde zurückweisen, die als erste Instanz entschieden hat (<ref-law>). Vorliegend besteht kein Anlass, die Angelegenheit direkt an die Staatsanwaltschaft zurückzuweisen.
5. Bei diesem Ausgang des Verfahrens haben die privaten Beschwerdegegner, die in ihren Vernehmlassungen die Abweisung der Beschwerde beantragen, je einen Viertel der Gerichtskosten zu übernehmen (<ref-law>). Dem Kanton St. Gallen sind keine Kosten aufzuerlegen (<ref-law>). Der Kanton St. Gallen hat den Beschwerdeführern eine Entschädigung von insgesamt Fr. 1'500.-- zu entrichten. Die privaten Beschwerdegegner haben je eine Entschädigung von insgesamt Fr. 750.-- an die Beschwerdeführer zu zahlen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, der Entscheid der Anklagekammer des Kantons St. Gallen vom 23. Juni 2009 wird aufgehoben und die Sache zur neuen Entscheidung an die Vorinstanz zurückgewiesen.
2. Den Beschwerdegegnern X._ und Y._ werden Gerichtskosten von je Fr. 500.-- auferlegt.
3. Der Kanton St. Gallen hat die Beschwerdeführer für das bundesgerichtliche Verfahren mit insgesamt Fr. 1'500.-- zu entschädigen. Die Beschwerdegegner X._ und Y._ haben je eine Entschädigung von insgesamt Fr. 750.-- an die Beschwerdeführer zu zahlen.
4. Dieses Urteil wird den Parteien und der Anklagekammer des Kantons St. Gallen schriftlich mitgeteilt.
Lausanne, 1. Februar 2010
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Favre Häne