Faits:
A. Le 5 août 2008, A._, agent immobilier, a déposé plainte pénale contre D._, employé de la régie X._, ainsi que contre B._ et C._, anciennes propriétaires d'une maison sise au chemin du Ravin 6 à Lausanne, pour escroquerie et faux dans les titres. L'intéressé expliquait avoir conclu le 6 novembre 2006 un contrat oral de courtage avec les prénommées afin de vendre leur villa pour un prix de Fr. 1'175'000.-, moyennant une commission de Fr. 45'000.-. Suite à l'annonce qu'il aurait fait paraître dans un journal, E._ et son épouse F._ auraient accepté de conclure un contrat de vente le 15 novembre 2006. Le 19 novembre 2006, B._ Loup aurait cependant renoncé à vendre l'objet immobilier. Le 8 juin 2007, la villa aurait néanmoins été vendue à E._ et F._ par l'intermédiaire de la régie X._ à laquelle B._ et C._ auraient versé une commission de Fr. 20'000.-. A._ reproche en l'occurrence à ces dernières d'avoir intentionnellement établi un contrat de courtage exclusif, antidaté au 29 septembre 2006, avec la régie X._ afin qu'elles n'aient pas à s'acquitter de la commission de Fr. 45'000.- qu'elles lui devaient pour avoir trouvé l'acquéreur de leur maison.
B. Par ordonnance du 23 décembre 2010, le Juge d'instruction de l'arrondissement de Lausanne a prononcé un non-lieu en faveur des intimés. Le Tribunal d'accusation du Tribunal cantonal vaudois (ci-après: le Tribunal d'accusation) a confirmé cette ordonnance par arrêt du 27 janvier 2011. Il a considéré en substance que les éléments subjectifs des infractions d'escroquerie et de faux dans les titres n'étaient pas réalisés, que le litige était d'ordre purement civil et qu'en outre les mesures d'instruction requises par le plaignant n'étaient pas susceptibles de conduire à une appréciation différentes des faits déjà établis.
C. Par acte du 20 avril 2011, A._ forme un recours en matière pénale par lequel il demande la réforme de l'arrêt cantonal, l'annulation de l'ordonnance de non-lieu et le renvoi de la cause au Ministère public pour complément d'instruction. Subsidiairement, il requiert la réforme de l'arrêt cantonal en ce sens que les intimés sont condamnés pour escroquerie et faux dans les titres. En substance, il invoque une violation du droit fédéral, en particulier des art. 146 CP (escroquerie) et 251 ss CP (faux dans les titres). Il critique également le fait que les offres de preuve qu'il avait présentées devant le Juge d'instruction n'ont pas été retenues.
Les intimés (d'une part, D._ et, d'autre part, B._ ainsi que C._) ont chacun transmis leurs observations et ont conclu au rejet du recours. Le Tribunal d'accusation du canton de Vaud et le Ministère public de l'arrondissement de Lausanne ont renoncé à se déterminer.
Considérant en droit:
1. Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (ATF 136 V 141 consid. 1 p. 142).
1.1 L'arrêt attaqué confirme le non-lieu en faveur des intimés. Rendu en matière pénale (art. 78 al. 1 LTF) par une autorité de dernière instance cantonale (art. 80 al. 1 LTF), il met fin à la procédure pénale (art. 90 LTF). Partant, il peut faire l'objet d'un recours en matière pénale selon les art. 78 ss LTF, qui permet d'invoquer notamment toute violation du droit fédéral, y compris les droits constitutionnels (art. 95 let. a LTF).
1.2 L'arrêt attaqué a été rendu le 27 janvier 2011. La qualité pour recourir de l'intéressé s'examine par conséquent au regard de l'art. 81 LTF dans sa teneur en vigueur au 1er janvier 2011 (art. 132 al. 1 LTF).
1.2.1 Aux termes de l'art. 81 al. 1 let. b ch. 5 LTF, la partie plaignante qui a participé à la procédure de dernière instance cantonale est habilitée à recourir au Tribunal fédéral si la décision attaquée peut avoir des effets sur le jugement de ses prétentions civiles. Il incombe au recourant de démontrer que cette condition est réalisée, conformément aux exigences de motivation déduites de l'art. 42 al. 1 LTF (cf. ATF 133 II 353 consid. 1 p. 356, 249 consid. 1.1 p. 251).
Lorsque le recours est dirigé contre une décision de non-lieu, il n'est pas nécessaire que la partie plaignante ait déjà pris des conclusions civiles. En revanche, elle doit expliquer dans son mémoire, sous peine d'irrecevabilité, quelles prétentions civiles elle entend faire valoir contre l'intimé et exposer en quoi la décision attaquée pourrait avoir une incidence négative sur le jugement de celles-ci, à moins que l'on puisse le discerner d'emblée et sans ambiguïté (ATF 127 IV 185 consid. 1a p. 187 et les arrêts cités).
1.2.2 En l'espèce, le recourant ne s'exprime pas du tout sur cette question. Il ressort certes des pièces du dossier que celui-ci a déposé plainte pénale contre les intimés car, selon lui, ceux-ci auraient sciemment établi un contrat de courtage antidaté dans le but de le priver de sa commission de courtage plus élevée (Fr. 45'000.-). Il souhaite donc apparemment obtenir le paiement de cette commission en raison de l'activité qu'il a déployée. Il a d'ailleurs intenté, parallèlement à la présente procédure, une action civile devant les tribunaux civils en paiement de cette somme, intérêts y compris. Cela étant, on ne voit pas d'emblée et sans ambiguïté en quoi la décision de non-lieu pourrait influencer négativement un jugement sur les prétentions civiles du plaignant. Comme relevé par les autorités précédentes, l'existence d'un contrat de courtage exclusif - même antérieur à l'intervention du recourant - n'est pas de nature à le priver d'une commission s'il existe un lien de causalité entre son activité de courtier et la conclusion du contrat de vente qui a eu lieu le 8 juin 2007. Dans ces conditions, la qualité pour agir ne saurait lui être reconnue sur la base de l'art. 81 al. 1 let. b ch. 5 LTF. La contestation ne portant pas sur le droit de porter plainte, il n'a pas non plus la qualité pour recourir en vertu de l'art. 81 al. 1 let. b ch. 6 LTF.
1.3 Selon la jurisprudence, le plaignant qui n'a pas la qualité pour recourir sur le fond peut seulement se plaindre d'une violation de droits que la loi de procédure applicable ou le droit constitutionnel lui reconnaît comme partie à la procédure, lorsque cette violation équivaut à un déni de justice formel (ATF 136 IV 41 consid. 1.4 p. 44, 29 consid. 1.9 p. 40; 133 IV 228 consid. 2.3.2 p. 232 s. et les références citées). Le droit d'invoquer des garanties procédurales ne lui permet cependant pas de mettre en cause, même de façon indirecte, le jugement au fond. Son recours ne peut donc pas porter sur des points indissociables de ce jugement tels que le refus d'administrer une preuve sur la base d'une appréciation anticipée de celle-ci ou le devoir de l'autorité de motiver sa décision de façon suffisamment détaillée (ATF 136 I 323 consid. 1.2 p. 326; 136 IV 41 consid. 1.4 p. 44 et les arrêts cités).
Invoquant différentes garanties constitutionnelles (droit d'être entendu, égalité de traitement, interdiction de l'arbitraire), le recourant fait grief aux autorités précédentes d'avoir refusé d'administrer les offres de preuve qu'il avait présentées. Il est pour le moins douteux que le recours satisfasse, en ce qui concerne l'éventuelle violation de droits fondamentaux, aux exigences de motivation accrues déduites de l'art. 106 al. 2 LTF. Quoi qu'il en soit, le recourant ne se plaint pas, en l'espèce, de n'avoir pas eu l'occasion de s'exprimer ou de formuler des réquisitions tendant à l'administration de preuves. Il remet uniquement en cause l'appréciation anticipée des preuves opérée par le juge, grief qu'il n'est pas habilité à invoquer.
2. Il s'ensuit que le recours doit être déclaré irrecevable. Le recourant, qui succombe, doit par conséquent supporter les frais de la présente procédure (art. 66 al. 1 LTF). Il versera également une indemnité à titre de dépens aux intimés, qui ont eu recours à un avocat (art. 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est irrecevable.
2. Les frais judiciaires, arrêtés à 1'500 fr., sont mis à la charge du recourant.
3. Les indemnités de dépens suivantes sont mises à la charge du recourant:
- 600 fr. en faveur de B._ et C._;
- 600 fr. en faveur de D._.
4. Le présent arrêt est communiqué aux mandataires des parties, ainsi qu'au Ministère public central et au Tribunal d'accusation du Tribunal cantonal du canton de Vaud.
Lausanne, le 7 novembre 2011
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
La Greffière: Arn