历任显位。在北齐任通直散骑常侍，骠骑大将军，吏部侍郎，担任出使周、陈二国使。天统三年（567年）夏四月癸丑，北齐太上皇帝高湛诏命兼散骑常侍司马幼之使于陈朝。陈废帝光大元年（567年）四月癸丑，齐使散骑常侍司马幼之到南陈来聘。司马幼之出使南陈时，同僚给事黄门侍郎卢思道特作《赠别司马幼之南聘诗》。北周建德六年（577年），周武帝率军攻下邺城，北齐灭亡。司马幼之和阳休之、袁聿修、李祖钦、元修伯、崔达拏、源彪、李若、李元操、卢思道、颜之推、李德林、陆乂、薛道衡、元行恭、辛德源、王劭、陆开明等十八人随周武帝西行入长安