Pracoval jako federální prokurátor v San Franciscu a poté v Bostonu. Roku 1989 se stal náměstkem ministra spravedlnosti Dicka Thornburgha; zabýval se kromě jiného případy panamského diktátora Manuela Noriegy a bombového útoku na let Pan Am 103 (tzv. aféra Lockerbie). V letech 1998–2001 byl prokurátorem ve státě Kalifornie. Dne 4. září 2001 složil přísahu a stal se ředitelem FBI. Týden po jeho nástupu do služby v nové funkci došlo k teroristickým útokům dne 11. září 2001.