موسوی اردبیلی پیش از انقلاب ایران به اداره و سرپرستی روحانیت اردبیل، عضویت هیئت مدیرهٔ مجلهٔ «مکتب اسلام»، تدریس و تألیف مشغول بود. از مشاغل و مسئولیت‌های او پس از انقلاب اسلامی می‌توان به عضویت در شورای انقلاب، عضویت در مجلس خبرگان قانون اساسی، عضویت در هیئت سه نفرهٔ رسیدگی به اختلاف بنی‌صدر و دیگران، نمایندگی دورهٔ اول مجلس خبرگان رهبری، دادستانی کل کشور، ریاست دیوان عالی کشور، عضو شورای عالی قضایی و عضویت در شورای بازنگری قانون اساسی و مسئولیت اجرای فرمان شش ماده‌ای آیت‌الله خمینی اشاره کرد.