懲戒処分は、それが適法かつ有効に成立した後は、法令により変更が認められている場合及び公益上その効力を存在させることができない新たな事由が発生した場合でなければ、その効力を消滅させることはできない（懲戒処分を自ら取り消したり、あるいは撤回することはできない）。また、公務員等の懲戒免除等に関する法律に基づく免除の発動により、懲戒処分が免除されることがある。
公平審査.
懲戒処分の変更または取消を求めるには、一般職国家公務員なら人事院（担当：公平審査局）に審査請求を行う。一般国家公務員の懲戒処分に対する審査請求は、人事院に対してのみ行うことができる。ただし特例として外務職員が外交機密の漏えいによつて国家の重大な利益を毀損したという理由で懲戒処分を受けた場合は、審査請求は外務大臣に対して行う。この場合外務人事審議会の調査を経て外務大臣の採決がされる。
特別職国家公務員である自衛隊員の懲戒処分の審査請求は、防衛大臣に対して行う。この審査請求の裁決は、裁決は防衛人事審議会の議決を経る必要がある。
地方公務員であれば人事委員会又は公平委員会に対して、審査請求を行う。
審査請求に対する裁決に不服がある場合は、裁判所に出訴することができるが、審査請求を行わずに裁判への出訴はできない。
裁量権と司法審査.
それ故、公務員につき、国公法に定められた懲戒事由がある場合に、懲戒処分を行うかどうか、懲戒処分を行うときにいかなる処分を選ぶかは、懲戒権者の裁量に任されているものと解すべきである。もとより、右の裁量は、恣意にわたることを得ないものであることは当然であるが、懲戒権者が右の裁量権の行使としてした懲戒処分は、それが社会観念上著しく妥当を欠いて裁量権を付与した目的を逸脱し、これを濫用したと認められる場合でない限り、その裁量権の範囲内にあるものとして、違法とならないものというべきである。したがつて、裁判所が右の処分の適否を審査するにあたつては、懲戒権者と同一の立場に立つて懲戒処分をすべきであつたかどうか又はいかなる処分を選択すべきであつたかについて判断し、その結果と懲戒処分とを比較してその軽重を論ずべきものではなく、懲戒権者の裁量権の行使に基づく処分が社会観念上著しく妥当を欠き、裁量権を濫用したと認められる場合に限り違法であると判断すべきものである。」
司法警察職員に対する懲戒手続の特例.