升任秘书郎，为淮西转运判官，知嘉兴府。改任淮南转运判官兼淮西提点刑狱、提举常平。曾提及金朝有必亡之形，中国(南宋)宜静观待变。会近臣有主战者，师遂出，金人因破蕲、黄。移浙西提点刑狱兼知镇江府。又迁起居郎兼国子司业，兼国史编修、实录检讨，兼侍讲。之后又迁任宗正少卿、秘书监，权工部侍郎，皆任兼职。宋理宗即位后，乔行简时任参知政事、兼同知枢密院事、进知枢密院事、右丞相（1235年—1236年）、左丞相（1236年—1239年），官至平章军国重事（1239年），封鲁国公。端平元年（1234年），朝议收复三京