Som redaktør for ble også Montgomery utsatt for politisk fengsling. Først ble han fengslet i seks måneder for å ha skrevet om et opprør i Sheffield, så i tre måneder for å ha trykket et dikt som feiring av stormen på Bastillen. Dette diktet hadde han ikke skrevet selv, men i 1797 gav han ut en samling med egne dikt skrevet i fengselet; .