。永兴初年，司马祐率众归附东海王司马越，讨伐刘乔建功，受拜为扬武将军，获封江夏郡云杜县，并前共获封二万五千户。后来司马越征讨汲桑，留司马祐领兵三千守护许昌，领受仪仗军乐及麾旗。司马越回许昌后，司马祐再次返回封国。永嘉末年，中原发生五胡乱华、永嘉之乱，西晋灭亡。司马祐随晋室南渡，助晋元帝建立东晋，成为「五马渡江」其中一人，被任命为军谘祭酒。建武初年，升任镇军将军。太兴末年，领左军将军。太甯年间，进号为卫将军，加封散骑常侍。咸和元年十月丙寅日（326年11月20日）司马祐逝世，朝廷追赠侍中、特进。谥号为汝南