父李震早死，敬业直接承袭了祖父的英国公爵位，曾任眉州刺史，后坐事被眨为柳州司马。武太后废唐中宗李显为庐陵王，立李旦为帝，由武太后临朝称制。敬业与其弟徐敬猷、唐之奇、杜求仁、骆宾王等人，在684年九月起兵于扬州，敬业自称为「匡复府大将军」，领扬州大都督，以勤王，匡扶李显复位为名出师。敬业起兵，士卒很快增至十余万人。武太后遣梁郡公李孝逸为主帅，魏元忠为副帅统兵三十万征讨。徐敬业手下魏思温建议直攻东都洛城，而薛璋则劝先南进常州、润州（今江苏镇江）。徐敬业听从薛璋意见，先南渡长江攻陷润州，再北向与李孝逸