Sachverhalt:
A. A.a Am 10. Mai 2004 erstattete X._ über seinen Rechtsvertreter gegen die Eheleute Y._ und Z._ Strafanzeige wegen Pfändungsbetrugs gemäss <ref-law> usw. Mit Verfügung vom 3. November 2010 stellte die Staatsanwaltschaft See/ Oberland des Kantons Zürich die Untersuchung gegen die Eheleute Y._ und Z._ ein und überband der Staatskasse die Verfahrenskosten sowie eine Entschädigung von Fr. 35'000.-- und eine Genugtuung von Fr. 100.-- an Y._.
A.b Dagegen rekurrierte X._ am 24. November 2010. Mit Beschluss vom 29. September 2011 wies das Obergericht des Kantons Zürich, III. Strafkammer, den Rekurs ab.
B. Mit Beschwerde in Strafsachen vom 9. November 2011 an das Bundesgericht beantragt X._, den Beschluss des Obergerichts und die Einstellungsverfügung der Staatsanwaltschaft betreffend Pfändungsbetrug aufzuheben und die Vorinstanzen anzuweisen, gegen Y._ und Z._ Anklage wegen Pfändungsbetrugs zu erheben.
C. Y._ und Z._ schliessen auf Abweisung der Beschwerde, soweit darauf eingetreten werden könne. Die Staatsanwaltschaft hat innert Frist keine Stellungnahme eingereicht. Das Obergericht hat auf eine Vernehmlassung verzichtet.

Erwägungen:
1. Seit dem 1. Januar 2011 ist die Schweizerische Strafprozessordnung (StPO, SR 312.0) in Kraft. Ist ein Entscheid noch vor Inkrafttreten der StPO gefällt worden, so werden dagegen erhobene Rechtsmittel nach bisherigem Recht und von den bisher zuständigen Behörden beurteilt (<ref-law>). Für Rechtsmittel gegen erstinstanzliche Entscheide, die nach dem 31. Dezember 2010 gefällt werden, gilt neues Recht (<ref-law>). Ausschlaggebend für die Anwendbarkeit des alten oder neuen Prozessrechts ist insofern das erstinstanzliche Entscheiddatum (<ref-ruling> E. 1.1 S. 221). Der hier streitige erstinstanzliche Einstellungsbeschluss beruht auf kantonalem Strafprozessrecht und ist datiert vom 3. November 2010. Damit wäre auch die vorliegende Beschwerde, soweit sie sich als zulässig erweist, materiell nach dem bisherigen kantonalen Strafprozessrecht zu beurteilen.
2. 2.1 Die Zulässigkeit der Beschwerde an das Bundesgericht bemisst sich hingegen nach den entsprechenden Bestimmungen des Bundesgerichtsgesetzes.
2.2 Zur Beschwerde in Strafsachen ist nach <ref-law> berechtigt, wer vor der Vorinstanz am Verfahren teilgenommen hat oder keine Möglichkeit zur Teilnahme erhalten hat (lit. a) und ein rechtlich geschütztes Interesse an der Aufhebung oder Änderung des angefochtenen Entscheids hat (lit. b). Da der angefochtene Entscheid nach dem 31. Dezember 2010 datiert ist, beurteilt sich die Frage des rechtlich geschützten Interesses nach der am 1. Januar 2011 in Kraft getretenen Fassung von <ref-law> (<ref-law>). Danach wird der Privatklägerschaft ein rechtlich geschütztes Interesse zuerkannt, wenn der angefochtene Entscheid sich auf die Beurteilung ihrer Zivilansprüche auswirken kann (Art. 81 Abs. 1 lit. b Ziff. 5 BGG). In der bis zum 1. Januar 2011 geltenden Fassung dieser Bestimmung wurde dagegen nicht die Privatklägerschaft schlechthin, sondern nur das Opfer als beschwerdelegitimiert bezeichnet; dies ebenfalls unter der Voraussetzung, dass sich der angefochtene Entscheid auf die Beurteilung seiner Zivilansprüche auswirken kann.
2.3 Nach der Praxis zur Beschwerdebefugnis des Opfers (aArt. 81 Abs. 1 lit. b Ziff. 5 BGG; vgl. auch Urteil 6B_127/2007 vom 23. Juli 2007 E. 2) konnte dieses gegen ein Strafurteil, durch das der Angeschuldigte freigesprochen wurde, Rechtsmittel im Strafpunkt grundsätzlich nur erheben, wenn es, soweit zumutbar, seine Zivilansprüche aus strafbarer Handlung im Strafverfahren geltend gemacht hatte. Dies wurde damit begründet, dass das Strafverfahren nicht blosses Vehikel zur Durchsetzung von Zivilforderungen in einem Zivilprozess sein soll, den das Opfer erst nach Abschluss des Strafprozesses, je nach dessen Ausgang, anzustrengen gedenkt. Vielmehr sollte das Opfer, soweit zumutbar, seine Zivilansprüche im Strafverfahren geltend machen. Anders verhielt es sich im Falle der Einstellung des Strafverfahrens. Da diesfalls vom Opfer nicht verlangt werden kann, dass es bereits adhäsionsweise Zivilforderungen geltend gemacht hat, reichte es, wenn es im Verfahren vor Bundesgericht darlegte, aus welchen Gründen sich der angefochtene Entscheid inwiefern auf welche Zivilforderungen auswirken kann (<ref-ruling> E. 1.3.1 S. 247 f.; <ref-ruling> E. 1.2.2 S. 199; <ref-ruling> E. 1 S. 141; je mit Hinweisen). Mit der Revision von Art. 81 Abs. 1 lit. b Ziff. 5 BGG wurde die Legitimation auf die Privatklägerschaft erweitert. Die zusätzliche Voraussetzung, dass sich der angefochtene Entscheid auf die Beurteilung der Zivilansprüche auswirken kann, blieb jedoch unverändert. An der Praxis, dass der Beschwerdeführer, soweit zumutbar, seine Zivilansprüche im Strafverfahren geltend gemacht haben muss, ist deshalb ebenso festzuhalten wie an der Sonderregelung im Falle von Verfahrenseinstellungen (<ref-ruling> E. 1.3.1 S. 248).
2.4 Im vorliegenden Fall setzt die Beschwerdeberechtigung demnach voraus, dass der Beschwerdeführer im Verfahren vor dem Bundesgericht darlegt, aus welchen Gründen sich der angefochtene Entscheid inwiefern auf seine Zivilforderungen auswirken kann. Entsprechende Darlegungen fehlen in der Beschwerdeschrift jedoch gänzlich. Einzig in der Schlussbemerkung findet sich der Satz "Die Schulden waren enorm, nicht nur gegenüber dem Beschwerdeführer, der auch heute noch hohe offene Ansprüche gegenüber der Beschwerdegegnerin 2 hat". Dass solche Ansprüche auch gegenüber dem Beschwerdegegner 1 bestünden, wird nicht einmal behauptet. Aber auch die angeblichen Ansprüche gegenüber der Beschwerdegegnerin 2 werden nicht näher ausgeführt und konkretisiert und es wird auch nicht dargelegt, inwiefern sich der angefochtene Entscheid darauf auswirken soll. Obwohl das Bundesgericht die Eintretensvoraussetzungen grundsätzlich von Amtes wegen überprüft, unterliegt der Beschwerdeführer auch diesbezüglich wenigstens soweit einer Begründungspflicht (gemäss <ref-law>), als für die Zulässigkeit der Beschwerde gerade verlangt wird, dass der Beschwerdeführer gewisse Zusammenhänge aufzeigt. Das trifft hier für die Auswirkungen des vorinstanzlichen Beschlusses auf allfällige Zivilforderungen zu, welche die Beschwerdelegitimation voraussetzt.
2.5 Gemäss der Begründung des angefochtenen Beschlusses ging die Vorinstanz überdies sogar davon aus, die Beschwerdegegner (bzw. damals Rekursgegner) bzw. deren Söhne hätten die in Betreibung gesetzten Forderungen des Beschwerdeführers (bzw. damaligen Rekurrenten), die Anlass zur hier massgeblichen, später eingestellten Strafuntersuchung geboten hätten, mittlerweile vollumfänglich beglichen.
2.5.1 Nach den Ausführungen des Obergerichts änderte dies zwar nichts an der Rekurslegitimation im vorinstanzlichen Verfahren nach <ref-law>/ZH. Der Feststellung des Obergerichts kommt aber massgeblichen Einfluss auf die Beschwerdeberechtigung gemäss <ref-law> zu. Sie unterstreicht, dass die Auswirkungen des angefochtenen Entscheids auf allfällige Zivilforderungen des Beschwerdeführers jedenfalls nicht offensichtlich sind.
2.5.2 Nach <ref-law> legt das Bundesgericht seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat. Deren Sachverhaltsfeststellung kann nur auf Rüge hin oder von Amtes wegen berichtigt oder ergänzt werden, wenn sie offensichtlich unrichtig ist oder auf einer gravierenden Rechtsverletzung (im Sinne von <ref-law>) beruht (Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG). Ein solcher Mangel ist nicht ersichtlich. Dass die Sachverhaltsfeststellung in diesem Sinne unhaltbar ist, muss der Beschwerdeführer anhand des angefochtenen Entscheids darlegen (vgl. <ref-law> sowie <ref-ruling> E. 1.4.1 S. 53; <ref-ruling> E. 3 S. 104 f.). Im vorliegenden Fall bestreitet der Beschwerdeführer aber die fragliche Feststellung des Obergerichts gar nicht.
2.6 Hat der Beschwerdeführer demnach nicht vor dem Bundesgericht in rechtsgenüglicher Weise dargelegt, aus welchen Gründen sich der angefochtene Entscheid inwiefern auf seine Zivilforderungen auswirken kann, ist er nicht zur Beschwerdeerhebung berechtigt.
3. Auf die Beschwerde ist nicht einzutreten. Bei diesem Verfahrensausgang wird der unterliegende Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1, Art. 65 BGG). Überdies hat er die obsiegenden Beschwerdegegner als Solidargläubiger für das bundesgerichtliche Verfahren angemessen zu entschädigen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegner als Solidargläubiger für das bundesgerichtliche Verfahren mit Fr. 2'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, der Staatsanwaltschaft See/Oberland und dem Obergericht des Kantons Zürich, III. Strafkammer, schriftlich mitgeteilt.
Lausanne, 14. Februar 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Uebersax