国公杨坚（后来的隋文帝）为丞相掌握北周实权，高颎向杨坚推举苏威。苏威投靠杨坚，听说禅让之事，重回乡里，高颎追回了他。581年，杨坚即位建隋，授苏威太子少保、爵位邳国公，兼务纳言、民部尚书。苏威、高颎共辅朝政，隋文帝非常信任，苏威历任刑部尚书、御史大夫、吏部尚书，制定隋律令《开皇律》，为法制整备做出大贡献。589年，为尚书右仆射。592年，国子博士何妥与苏威之子苏夔议论宫中音乐制度，论者多畏惧苏威权势，附和苏夔意见。何妥上奏苏威与卢恺、薛道衡、王弘、李同和为朋党，苏威被免官，一年后，复官爵，为纳言。601年，