兴龙之孙。父亲司马纂，叔父司马子如，兄司马世云、司马膺之、司马子瑞。司马幼之清贞有素行，年轻历任显位。在北齐任通直散骑常侍，骠骑大将军，吏部侍郎，担任出使周、陈二国使。天统三年（567年）夏四月癸丑，北齐太上皇帝高湛诏命兼散骑常侍司马幼之使于陈朝。陈废帝光大元年（567年）四月癸丑，齐使散骑常侍司马幼之到南陈来聘。司马幼之出使南陈时，同僚给事黄门侍郎卢思道特作《赠别司马幼之南聘诗》。北周建德六年（577年），周武帝率军攻下邺城，北齐灭亡。司马幼之和阳休之、袁聿修、李祖钦、元修伯、崔达拏、源彪、李若、李元