Спустя два года он вернулся в Тегеран, где поступил учителем богословия в недавно созданную школу Марви и стал имамом мечети Джалили, оказавшейся благодаря встречам и обсуждениям религиозных и политических аспектов хорошей базой для деятельности в борьбе против режима Пехлеви. В 1970 году он был снова заключен в тюрьму и подвергнут пыткам членами САВАК, после чего приговорён к четырём годам заключения, но был освобождён через два, благодаря действиям Хомейни. В 1977 году Махдави Кани стал основателем и лидером Ассоциации воинствующего духовенства, ставившей себе целью свержение шаха, а позже защиту достижений революции. После победы исламской революции в 1979 году, Хомейни назначил его в . В то же время, Махдави Кани был председателем Комитета Исламской революции, который, под его руководством, по мнению правозащитников, проводил пытки и казни гражданских и военных чиновников режима Пехлеви. Однако в то же время, Махдави Кани выступал против жёсткого подхода и просил более мягкого обращения с диссидентами и задержанными, отмечая, что захват американского посольства стал большой ошибкой и нарушением международного права, не соответствующим целям и задачам революции. Позже, из-за несогласия с консервативной политикой Махдави Кани из Ассоциации борющихся клириков вышло левое реформаторское крыло, выступившее в поддержку более социалистической экономики, которое создало Ассоциацию боевого духовенства.