劳封为新兴县男。后来马三宝跟随李渊巡游司竹园，李渊回头对马三宝说：“这是你建立英雄功业的起兵之处，卫青也不过如此！”李世民将要继承皇位的时候，有个叫法雅的和尚谋逆，马三宝知道之后上奏，法雅因此被诛杀，马三宝被任命为大将军，赐予布帛五百匹，进爵为新兴郡公。武德九年十月癸酉（626年11月12日），唐太宗确定功臣的封户，马三宝食实封三百户。贞观年间，马三宝累次升任左骁卫大将军，在贞观三年（629年）去世，唐太宗为他停止朝会，谥为忠。