был подписан договор на осуществление сделки при покупке домовладения по конкретному адресу с агентством "х".

был подписан договор на осуществление сделки при покупке домовладения по конкретному адресу с агентством "х".другая сторона не смогла предоставить жилье на продажу, так как не смогли договориться между собой (брат с сестрой) и сделка была сорвана. через два месяца покупатель все таки довел сделку до конца без участия агентства. а еще через пять месяцев агентство предъявило претензию по сделке.
 законны ли их требования?

все зависит от того, какой договор был подписан с агентством. чаще всего агентства сами не участвуют в сделке а лишь занимаются "поиском" продавца и покупателя. такая деятельность может быть квалифицирована как договор возмездного оказания услуг (по сопровождению сделки с недвижимостью).
согласно ст.782 гк рф заказчик вправе в одностороннем порядке отказаться от исполнения договора возмездного оказания услуг при условии оплаты исполнителю фактически понесенных им расходов. при этом мотивы отказа заказчику т.е. в вашем случае агентству объяснять не обязательно.
агентство в свою очередь в течение срока исковой давности (3 года) может предъявить требования об оплате фактически понесенных расходов. агентство не может требовать возмещения убытков в том числе и упущенной выгоды. поскольку агентство чаще всего юридические лица все расходы должны быть подтверждены документально (приходными и расходными кассовыми документами или выписками с банковского счета). кроме того эти расходы должны иметь непосредственное отношение к вашему договору.