外他仍沿用元朝制度，在中央设置吏、户、礼、工、刑、兵六部。并设立都给事中六人，分吏、户、礼、工、刑、兵六科，每科一人；此外建立五寺包括大理寺、太常寺、光禄寺、太仆寺、鸿胪寺等五寺制度。此外他还沿袭元的监察制度，设立御史台，有左右御史大夫各一名；不久改为都察院，下设若干监察御史，负责监督各级官吏。除此他还颁布《大明律》等，对官吏管理进行规制。为了加强对臣民的控制和监视，太祖设置了巡检司和锦衣卫。巡检司主要是负责全国各地的关津要冲的把关盘查，缉捕盗贼，盘诘伪奸；锦衣卫则负责秘密侦察大小官吏活动，随时向皇帝报