законны ли их требования?

был подписан договор на осуществление сделки при покупке домовладения по кон-кретному адресу с агенством "х".другая сторона не смогла предоставить жилье на продажу, так как не смогли договориться между собой (брат с сестрой) и сделка бы-ла сорвана. через два месяца покупатель все таки довел сделку до конца без участия агенства. а еще через пять месяцев агенство предъявило претензию по сделке.
 законны ли их требования?

все зависит от того, какой договор был подписан с агенством. чаще всего агентства сами не участвуют в сделке а лишь занимаются "поиском" продавца и покупателя. такая деятельность может быть квалифицирована как договор возмездного оказания услуг (по сопровождению сделки с недвижимостью).
согласно ст.782 гк рф заказчик вправе в одностороннем порядке отказаться от исполнения договора возмездного оказания услуг при условии оплаты исполнителю фактически понесенных им расходов. при этом мотивы отказа заказчику т.е. в вашем случае агентству объяснять не обязательно.
агентство в свою очередь в течение срока исковой давности (3 года) может предъявить требования об оплате фактически понесенных расходов. агентство не может требовать возмещения убытков в том числе и упущенной выгоды. поскольку агентство чаще всего юридические лица все расходы должны быть подтверждены документально (приходными и расходными кассовыми документами или выписками с бакновского счета). кроме того эти расходы должны иметь непосредственное отношение к вашему договору.