少时聪明敏锐，有孝顺长辈的德行，尤其为祖父辛绍先所喜爱。辛绍先特别喜好吃羊肝，经常唿唤辛少雍一起吃，辛绍先死后，辛少雍终身不吃肝脏。辛少雍个性仁爱宽厚，有礼法道义，家门的法度为当时人所看重。辛少雍以奉朝请为起家官，转任太学博士、员外散骑侍郎。司空、高阳王元雍引荐辛少雍出任司空田曹参军。辛少雍个性清廉公正，不害怕豪强权贵，积累多年的诉讼案件片刻判决，请托之路断绝，当时的人称赞辛少雍贤明。正始年间，魏宣武帝元恪诏令百官各自举荐自己所赏识的人，高阳王元雍和吏部郎中李宪都把辛少雍列为举荐者的首位，辛少雍升任给事中。