先从川蜀地区迁徙到河东郡汾阴县，因此定居在那里。薛辩的祖父薛陶与族人薛祖、薛落等人分别统领部众，所以当时号称三薛。薛辩的父亲薛强又袭位统领部落，而薛祖、薛落的子孙暗劣昏愦，薛强于是总领三营，他善于安抚，百姓归附，历经石虎和苻坚的时代，长期据守黄河自保，在姚兴时期担任镇东将军，入朝出任尚书。薛辩自小就英俊豪爽，倜傥有雄才大略，四方英雄豪杰慕名纷纷投奔。薛强去世后，薛辩又袭位统领三营，担任姚兴的尚书郎、建威将军、河北郡太守。薛辩知道后秦姚氏国运衰落，就放弃官职回家保卫家乡。薛辩逐渐骄傲，颇为失去民心。刘裕北伐平