卢思道特作《赠别司马幼之南聘诗》。北周建德六年（577年），周武帝率军攻下邺城，北齐灭亡。司马幼之和阳休之、袁聿修、李祖钦、元修伯、崔达拏、源彪、李若、李元操、卢思道、颜之推、李德林、陆乂、薛道衡、元行恭、辛德源、王劭、陆开明等十八人随周武帝西行入长安。隋朝开皇年间，司马幼之官至眉州刺史。司马幼之子司马德璋，官至隋朝着作佐郎，修国史，祠部郎中、常州司马、武安郡丞；司马德璋生司马安上，官至唐朝并州大都督府法曹参军事，同州韩城，雍州栎阳、始平三县令；司马安上生司马慎微，官至唐朝梓州通泉县尉上柱国。