Как уже выше написали, половина квартиры супружеская доля матери, выделяется нотариусом. Оставшуюся половину делят между наследниками в равных долях, т.е. по 1/6. Если вы отказываетесь от наследства в пользу мамы, то у мамы будет доля 5/6, а у брата 1/6. После смерти мамы 5/6 будут делится поровну между вами и братом. Т.е. в результате 5/12 будут у вас, а 7/12 у брата.