1370年），为中书省参知政事。不久，取代汪广洋任左丞。洪武六年（1373年）正月，右丞相汪广洋被贬为广东行省参政。明太祖因丞相人选难觅，所以很长一段时间不设丞相。胡惟庸于是独专中书省事务。七月，任右丞相，不久，升任左丞相，汪广洋又被任为右丞相。自从杨宪被杀后，明太祖认为胡惟庸有才干，很宠信他。胡惟庸也自觉奋进，曾以遇事小心谨慎博得明太祖欢心，进一步获得明太祖的宠信。他为此当了多年独相，生杀废黜大事，有的不报告明太祖便径直执行。内外各部门的奏章，他都先拿来看，凡是陷害自己的，便扣下不上呈。各方面热衷功名