文帝司马昱的第二子，皇后王简姬所生，与思世子司马道生同母。其父在司马俞生出生的时候并不是皇帝，而是会稽王（琅邪王），司马俞生幼年夭折，没有封爵。371年，桓温废黜皇帝司马奕，拥立五十二岁的司马昱为皇帝。次年，司马昱去世，司马俞生的兄弟司马曜即位，为晋孝武帝。