НЕ ясно, зачем платить брату за регистрацию в квартире. Если есть основания, то мама может в суде прекратить его право пользования. Если же их нет, то можно с  ним договариваться, что он добровольно снимется с учета взамен получит деньги. Продажа вам квартиры не снимет проблемы регистрации брата, для начала уточните как приобретена квартира, где ваш и брата отец, был ли он в браке с маетрью на дату приобретения квартиры, когда в квартиру был зарегистрирован брат