维吾尔自治区策勒县劳动锻炼。1971年入公职，先后在策勒县医院、公安局任职；1980年返回原籍安徽。此后，干以胜一直在安徽工作。历任安徽省高级人民法院书记员、助理审判员、经济审判庭庭长，安徽省监察厅副厅长等职。1991年，干以胜调入中央，出任中华人民共和国监察部政策法规司副司长；两年后，进入中纪委工作；还曾于1998年至2002年间，担任监察部副部长，是何勇的副手。2002年11月，干以胜当选中纪委委员、常委，并担任中纪委秘书长职务。同时作为中纪委的新闻发言人，干以胜在2006年9月曾召开新闻发布会，对