Ministeriet ble opprettet 6. juli 1949 og het først (中央人民革命军事委员会公安部). I og med Folkerepublikken Kinas grunnleggelse senere samme år byttet det den 19. oktober 1949 navn til (中央人民政府公安部). Sitt nåværende navn (中华人民共和国公安部) har det hatt siden den 10. november 1954.