"Вопрос : может ли жена брата по своей воли расторгнуть ренту? Вернуть деньги за ренту и переписать квартиру на племянницу? " - НЕТЧто было в договоре ренты:  Кто был собственником квартиры до заключения договора ренты? Только брат? или его жена тоже? Кто рентополучатель?  только умерший брат или брат+жена?   На что именно была рента? на всю квартиру? Право собственности на квартиру по ренте переходит сразу после заключения договора, т.е. квартира УЖЕ принадлежит Вашей свекрови, с обременением. Возьмите выписку ЕГРН.