Faits:
A. Par acte notarié du 15 novembre 2007, les hoirs de A._, soit A.A._, B.A._ et B._, d'une part, et ceux de C._, à savoir A.C._, B.C._ et C.C._, d'autre part (ci-après: les hoirs A.C._ ou les vendeurs) ont vendu à terme la parcelle n° *** du cadastre communal de D._ à E._, X._ et la société à responsabilité limitée Y._ Sàrl, sise à F._ (ci-après: les acquéreurs), pour un montant de 730'000 fr. Un acompte de 73'000 fr. a été versé lors de la conclusion du contrat. Les acquéreurs se sont engagés à déposer dans les quatre mois à compter de la signature de l'acte un dossier de mise à l'enquête publique du projet de construction sur cet immeuble (chap. II de l'acte notarié). Les parties sont convenues de requérir le transfert de propriété dans les quinze jours à compter de l'obtention du permis de construire, mais, en tout état de cause, à défaut d'obtention de ce permis, dans les quinze jours suivant l'échéance d'un délai de six mois à compter de la fin de l'enquête publique (chap. III/1). En outre, si l'une des parties n'exécutait pas ses obligations après avoir été mise en demeure de le faire, il était prévu de le faire constater par acte authentique, après quoi la partie non défaillante avait le choix soit de poursuivre l'exécution du contrat en requérant le transfert de l'immeuble et le paiement du prix, soit de renoncer à l'exécution en exigeant, à titre de peine conventionnelle, le paiement de 73'000 fr., montant immédiatement exigible sans autre mise en demeure que la notification à la partie défaillante du constat notarié de carence (chap. III/2). Les hoirs A.C._ ont en outre concédé aux acquéreurs un droit d'emption, annoté au registre foncier, pouvant être exercé jusqu'au 31 octobre 2008 (chap. V).
Le 27 mai 2008, X._ et Y._ Sàrl ont déclaré renoncer à leur droit d'acquérir l'immeuble précité, dont la propriété serait dès lors transférée à E._ uniquement. Ils ont du même coup renoncé à leur droit d'emption. Leur acte était soumis à la condition que le prénommé acquitte la totalité du solde du prix de vente de l'immeuble; il ne devait être remis au registre foncier qu'avec la réquisition d'inscription du transfert de l'immeuble au nom de E._, réquisition dans laquelle le notaire constaterait l'exécution du paiement. Il a en outre été prévu que le remboursement des acomptes versés par X._ et Y._ Sàrl ferait l'objet d'un "décompte interne passé par les parties".
Le 9 juin 2008, E._ a été inscrit au registre foncier comme propriétaire de l'immeuble. Par inscription au registre foncier du 7 octobre 2008, une propriété par étages a été constituée, dont les parts ont été vendues à une société anonyme, G._ SA, le 1er avril 2009.
Le 29 août 2008, l'Office d'impôt des personnes morales du canton de Vaud a notifié à X._ un bordereau de droit de mutation de 4'015 fr., du fait de la cession par celui-ci à E._ du droit d'acquérir l'immeuble de D._. Une taxation identique a été adressée à Y._ Sàrl.
B. Les réclamations formées par X._ et Y._ Sàrl à l'encontre de ces prononcés ont été rejetées par décisions de l'Administration cantonale des impôts du canton de Vaud du 18 janvier 2010.
X._ et Y._ Sàrl ont déféré ces décisions à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) qui, après avoir joint les causes, a rejeté les recours par arrêt du 16 juillet 2010. Les juges cantonaux ont estimé que la contribution litigieuse était due conformément à l'art. 2 al. 2 de la loi vaudoise du 27 février 1963 concernant le droit de mutation sur les transferts immobiliers et l'impôt sur les successions et donations (LMSD; RS/VD 648.11), au titre de la renonciation au droit d'acquérir un immeuble, moyennant contre-prestation en faveur du renonçant.
C. Agissant par la voie du recours en matière de droit public, X._ et Y._ Sàrl demandent au Tribunal fédéral de casser l'arrêt du 16 juillet 2010 et d'annuler les décisions du 29 août 2008, sous suite de frais et dépens. Ils font valoir que le jugement entrepris est arbitraire et contraire au principe d'égalité.
L'autorité précédente conclut au rejet du recours et l'Administration cantonale des impôts à son rejet dans la mesure de sa recevabilité. L'Administration fédérale des contributions s'en remet à justice.
Considérant en droit:
1. 1.1 En raison de l'effet dévolutif du recours au Tribunal administratif (cf. ATF 126 II 300 consid. 2a p. 302 s.), dont la décision - de dernière instance cantonale - peut seule être attaquée devant le Tribunal fédéral (cf. art. 86 al. 1 let. d LTF), les conclusions des recourants sont irrecevables dans la mesure où elles se rapportent aux bordereaux du 29 août 2008.
1.2 Au surplus, interjeté par des parties directement touchées par la décision et qui ont un intérêt digne de protection à son annulation ou sa modification (cf. art. 89 al. 1 LTF), le recours est dirigé contre un jugement final (cf. art. 90 LTF) rendu dans une cause de droit public (cf. art. 82 let. a LTF) par un tribunal cantonal supérieur (cf. art. 86 al. 1 let. d et al. 2 LTF). Il est en principe recevable, puisqu'il a été déposé dans le délai - compte tenu des féries - et la forme prévus par la loi (cf. art. 42, 46 al. 1 et 100 al. 1 LTF) et que l'on ne se trouve pas dans l'un des cas d'exceptions mentionnés par l'art. 83 LTF.
1.3 Le droit de mutation litigieux est un impôt qui relève exclusivement du droit cantonal (cf. ATF 127 II 1 consid. 2b/aa p. 4). Sous réserve d'exceptions (cf. art. 95 let. c et d LTF) non réalisées en l'espèce, le Tribunal fédéral ne contrôle pas l'application du droit cantonal en tant que tel, mais examine uniquement si celle-ci viole le droit fédéral au sens de l'art. 95 let. a LTF, qui comprend les droits constitutionnels des citoyens, dont la prohibition de l'arbitraire (art. 9 Cst.). Lorsque, comme en l'occurrence, il est question de la violation de droits fondamentaux, le Tribunal fédéral n'examine pas le droit d'office, mais se prononce uniquement sur les griefs invoqués et motivés de façon suffisante par le recourant (cf. art. 106 al. 2 LTF; ATF 134 I 23 consid. 5.2 p. 30 s.; 133 II 249 consid. 1.4 p. 254).
2. Intitulé "Objet du droit", l'art. 2 LMSD dispose que le droit de mutation est perçu en cas de transfert entre vifs à titre onéreux de la propriété d'un immeuble ou d'une part d'immeuble situé dans le canton (al. 1). L'al. 2 a la teneur suivante:
"Est également considérée comme un transfert immobilier soumis au droit de mutation la cession du droit d'acquérir un immeuble ou une part d'immeuble situé dans le canton. Il en va de même de la renonciation à ce droit, lorsqu'elle a fait l'objet d'une contre-prestation en faveur du renonçant."
Il en découle que le droit de mutation ne peut être perçu, en cas de renonciation au droit d'acquérir un immeuble, que lorsque celle-ci a fait l'objet d'une contre-prestation en faveur du renonçant. En revanche, une cession du droit d'acquérir un immeuble permet le prélèvement d'un droit de mutation, même sans contre-prestation.
Dans un arrêt du 20 avril 1999 (2P.31/1999 du 20 avril 1999 consid. 5a/bb, in RDAF 1999 II p. 527), le Tribunal fédéral a précisé que le texte de l'art. 2 al. 2 LMSD ne reflétait pas exactement la volonté du législateur qui, d'après les travaux préparatoires, était de frapper de manière plus large que dans l'ancienne loi les transferts économiques, selon la tendance de la jurisprudence qui avait déjà assimilé le droit d'emption à une promesse de vente. Cette imposition se justifiait par le fait que le bénéficiaire d'une promesse de vente ou d'un pacte d'emption pouvait, par la cession de son droit, tirer profit de l'immeuble comme s'il en était juridiquement propriétaire. C'est donc pour éviter que le droit afférent à la cession ne soit éludé, que l'imposition de la renonciation au droit d'acquérir un immeuble a été prévue, lorsqu'elle intervient à titre onéreux (cf. Bulletin des séances du Grand Conseil du canton de Vaud, printemps 1963, p. 1035 s.). Dès que le renonçant a bénéficié de quelque manière de l'opération, on est en présence d'une cession indirecte ou déguisée qui devra être imposée, sous peine de permettre d'éluder l'impôt (cf. Bulletin précité, p. 1122). En revanche, l'abandon pur et simple du droit d'acquérir un immeuble ne tombe pas sous le coup du droit de mutation, car il ne s'agit pas d'un droit onéreux (Bulletin précité, p. 1036; arrêt 2C_145/2009 du 8 juin 2009 consid. 4.2).
3. 3.1 L'autorité précédente a considéré que la renonciation par les recourants à leur droit d'acquérir l'immeuble n'était pas intervenue à titre gratuit. En effet, elle avait été soumise à la condition que E._ acquitte le solde du prix de vente, de manière à libérer les recourants de leurs obligations à l'égard des vendeurs, notamment de celle de verser le montant de la peine conventionnelle. Ainsi, les recourants avaient obtenu un avantage consistant dans la non-iminution de leur actif, comme dans l'affaire à la base de l'arrêt du Tribunal fédéral 2C_145/2009, précité. En outre, un décompte avait été établi concernant les acomptes versés par les recourants. On pouvait en déduire que ceux-ci leur avaient été remboursés par E._.
3.2 Selon les recourants, il est arbitraire de considérer que la renonciation est intervenue à titre onéreux. A cet égard, le cas d'espèce serait, juridiquement et économiquement, fondamentalement différent de celui à la base de l'arrêt 2C_145/2009.
Les recourants se prévalent en outre d'une pratique constante de l'Administration cantonale des impôts (relatée dans la fiche de l'Association des notaires vaudois no 42 du 15 octobre 1975), selon laquelle aucun droit de mutation n'est prélevé, lorsque la constitution du droit est stipulée "pour soi ou son nommable", c'est-à-dire quand le titulaire du droit d'acquérir réserve la possibilité que l'acquéreur final soit un tiers, lui-même n'étant qu'un représentant agissant à titre fiduciaire. Dans de tels cas où l'acte a été conclu "en vertu d'un contrat de fiducie ou de tout autre rapport juridique qui n'implique pas une cession", l'opération serait exonérée du droit de mutation, à condition que l'identité du "nommable" soit communiquée à l'autorité fiscale vaudoise avant la conclusion de la promesse de vente ou du pacte d'emption et cela même si le représentant agit à titre onéreux. Or, il serait arbitraire et contraire au principe d'égalité de traiter différemment le cas d'espèce qui serait similaire: de même, "l'autorité de taxation savait que les trois ou l'un des trois signataires du pacte d'emption serait l'acquéreur final"; en outre, les recourants n'ont pas cédé leurs droits à E._, mais celui-ci a vu sa part des droits acquis en société simple s'accroître de plein droit lorsque les recourants ont renoncé aux leurs en quittant la société.
3.3 La protection de l'égalité (art. 8 Cst.) et celle contre l'arbitraire (art. 9 Cst.) sont étroitement liées. Une décision est arbitraire lorsqu'elle ne repose pas sur des motifs sérieux et objectifs ou n'a ni sens ni but. Elle viole le principe de l'égalité de traitement lorsqu'elle établit des distinctions juridiques qui ne se justifient par aucun motif raisonnable au regard de la situation de fait à réglementer ou lorsqu'elle omet de faire des distinctions qui s'imposent au vu des circonstances, c'est-à-dire lorsque ce qui est semblable n'est pas traité de manière identique et lorsque ce qui est dissemblable ne l'est pas de manière différente. Il faut que le traitement différent ou semblable injustifié se rapporte à une situation de fait importante (ATF 136 II 120 consid. 3.3.2 p. 127; 133 I 249 consid. 3.3 p. 254 s.; 131 I 1 consid. 4.2 p. 6 s.).
3.4 L'examen du caractère onéreux de la renonciation implique de replacer celle-ci dans son contexte (cf. arrêt 2C_145/2009, précité, consid. 4.5.2). Le point déterminant en l'espèce est que les recourants n'ont pas renoncé purement et simplement à leurs droits découlant de l'acte du 15 novembre 2007, mais l'ont fait à la condition que E._ exécute la principale obligation fondée sur cet acte, à savoir qu'il verse le solde du prix de vente. En soumettant leur acte (unilatéral) de renonciation à cette condition suspensive, ils se sont prémunis contre les risques d'inexécution par E._ du contrat de vente, risques découlant de la responsabilité solidaire des membres d'une société simple (art. 544 al. 3 CO) et liés notamment à la clause pénale prévue dans l'acte du 15 novembre 2007. Sur ce point, le cas d'espèce est similaire à l'affaire 2C_145/2009, où l'annulation de la vente à terme conclue avec une société anonyme et la conclusion d'un nouveau contrat avec l'administrateur unique de cette dernière avait eu pour effet de désengager la société, en lui évitant notamment le risque de devoir subir les pénalités contractuelles. Par conséquent, il n'y a en l'occurrence, pas davantage que dans ce précédent, aucun arbitraire à retenir que la renonciation a fait l'objet d'une contre-prestation au sens de l'art. 2 al. 2 LMSD. Que les deux cas soient par ailleurs différents à certains (autres) égards, comme le prétendent les recourants, ne saurait rien y changer.
Quant à la pratique dont se prévalent les recourants, l'exonération se justifie par le fait que l'acte accompli "pour soi ou son nommable" (voir à ce sujet arrêt 4C.356/2001 du 12 mars 2002 consid. 2a/aa; ATF 60 II 492 consid. 2 p. 497 ss et les références) produit ses effets, lorsqu'il y a effectivement représentation, directement dans le chef du représenté. Il n'y a alors qu'un transfert immobilier, entre le vendeur et le représenté, et, en l'absence de tout transfert entre le représentant et ce dernier, il n'y a pas lieu de percevoir de droit de mutation à ce stade, pour autant que la représentation ait été d'emblée portée à la connaissance de l'autorité fiscale (cf. détermination de l'Administration cantonale des impôts, pt 4). Il en va autrement dans le cas particulier, où les recourants ont d'abord acheté à terme l'immeuble en cause (et acquis un droit d'emption) en société simple avec E._, avant de renoncer à leurs droits au profit de ce dernier. Contrairement au représentant dans la pratique en cause, les recourants ont dans un premier temps acquis des droits sur l'immeuble, droits qu'ils ont dans un second temps abandonnés au profit de leur associé. Cette renonciation constitue bien un transfert (économique) des recourants à E._ et il n'est pas contraire au principe d'égalité de la traiter différemment - en la soumettant au droit de mutation - du cas où l'acte est accompli "pour soi ou son nommable".
Les autres arguments des recourants ne conduisent pas non plus à l'admission du recours. En particulier, la référence à l'arrêt 2C_126/2010 du 22 juin 2010 ne leur est d'aucun secours. Dans ce dernier cas, une société anonyme avait renoncé à un droit d'emption permettant d'acquérir un terrain, au profit d'une autre société faisant partie du même groupe. Le Tribunal cantonal avait confirmé le caractère onéreux de la renonciation pour des motifs tenant notamment à l'existence d'un groupe de sociétés, alors même que la société qui avait renoncé n'était pas exposée à des dommages-intérêts ou à une peine conventionnelle. Le Tribunal de céans a désavoué l'autorité cantonale, en estimant que les motifs retenus par cette dernière ne permettaient pas d'admettre que la renonciation était intervenue à titre onéreux. Cette cause n'est donc pas comparable au cas d'espèce sur le point déterminant: la société qui avait renoncé n'avait pas obtenu en contrepartie d'être exonérée du risque de devoir supporter des pénalités contractuelles.
4. Vu ce qui précède, le recours doit être rejeté dans la mesure où il est recevable.
Succombant, les recourants doivent supporter un émolument judiciaire, solidairement entre eux (cf. art. 66 al. 1 et 5 LTF). Il n'y a pas lieu d'allouer des dépens (cf. art. 68 al. 1 et 3 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Des frais judiciaires de 1'500 fr. sont mis à la charge des recourants, solidairement entre eux.
3. Le présent arrêt est communiqué au mandataire des recourants, à l'Administration cantonale des impôts et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud, ainsi qu'à l'Administration fédérale des contributions, Division principale de l'impôt fédéral direct, de l'impôt anticipé, des droits de timbre.
Lausanne, le 11 février 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Zünd Vianin