艇学院院长、党委副书记。在任海军大连舰艇学院院长期间，吴胜利提出了“千人大方队”的队列训练科目，成为海军大连舰艇学院的特色训练科目。1997年10月，任海军福建基地司令员兼基地党委副书记。1999年，任东海舰队副司令员、党委常委。2002年1月，任广州军区副司令员兼海军南海舰队司令员。2004年7月，任中国人民解放军副总参谋长、总参谋部党委委员。2006年8月，任海军司令员，海军党委副书记。2017年1月，卸任海军司令员，成为中国海军成立以来除了首任海军司令员开国元勋萧劲光之外任职最长的海军司令员。