为了使官吏系统有效而正常的运转,除了建立各种与决策和行政机构有关的制度外,还必须对各级官吏进行有效的监督与制约。为此,唐代承袭前代制度,建立御史台,以监督各级行政机构对国家政令的实施,以及对违犯朝廷法纪和律令的官吏进行纠举和弹劾,即“以刑法典章纠正百官之罪恶”。唐代御史台的长官为御史大夫,副长官为御史中丞。唐代中期以后,御史大夫职位崇高,不常设置,御史中丞成为实际上的御史台长官。
御史台的下属机构是台院、殿院和察院,分别由侍御史、殿中侍御史和监察御史任职,统称为三院御史。唐代规定,侍御史设置四人,主要职责为纠察弹劾百官和参与审讯重大案件,其中年资最深者一人,还负有处理御史台内部日常事务的职责。殿中侍御史设六人,主要掌管百官朝见皇帝的序列班次,以及负责京城左、右巡,纠察其管辖区域内的不法之事。监察御史设十人,主要负责“分察百僚,巡按州县,纠视刑狱,肃整朝仪”,职责更为繁多。但就监察御史的主要职责来说,以分察和分巡最为重要。所谓分察,是指监察尚书省六部,并可列席尚书省会议。分巡,是出使巡察地方州县,把各地的“长吏政俗、闾阎疾病、水旱灾伤,并一一条录奏闻”。从御史台的职权来看,虽然十分繁杂,但其主要职责仍然是对整个官吏系统进行监察和对不法官吏进行弹劾。