祖先是陇西人，后迁移到濮阳雷泽。曾祖牛定，魏定州刺史、上柱国、平原县公。祖父牛双，北齐镇东将军、淮北太守。父牛汉，清漳县令。隋末在李密帐下为将，唐高祖武德二年（619年）闰二月十九，在王世充侵犯唐朝谷州九曲（今河南宜阳）的时候，与吴黑闼随秦叔宝、程咬金出阵，直言王世充猜忌，背王投唐。之后，牛进达就和秦叔宝、程咬金一直在李世民的帐下为将。唐太宗贞观元年以右武卫中郎将封魏城县男，食邑三百户，贞观七年（633年），嘉州、陵州的獠民造反，唐太宗李世民命令邗江府统军牛进达将其击败，八年迁守左卫将军，时吐谷浑