并设立都给事中六人，分吏、户、礼、工、刑、兵六科，每科一人；此外建立五寺包括大理寺、太常寺、光禄寺、太仆寺、鸿胪寺等五寺制度。此外他还沿袭元的监察制度，设立御史台，有左右御史大夫各一名；不久改为都察院，下设若干监察御史，负责监督各级官吏。除此他还颁布《大明律》等，对官吏管理进行规制。为了加强对臣民的控制和监视，太祖设置了巡检司和锦衣卫。巡检司主要是负责全国各地的关津要冲的把关盘查，缉捕盗贼，盘诘伪奸；锦衣卫则负责秘密侦察大小官吏活动，随时向皇帝报告不公不法之徒。同时太祖还授予锦衣卫侦察、缉捕、审判、处罚