令东海王司马越以「行台」率军四万讨伐汉赵大将石勒。以后尚书省长官出征，随军的机构就称为「行台」。
南北朝时期.到了北魏，「行台」成为皇帝派出的特使，指挥军事或巡视边境，但不常设不管地方民政。天兴元年(398年)，道武帝拓跋珪攻佔后燕首都中山（今河北定县）一带，因为都城远在平城（今山西大同市城北），就近于邺城（今河北省临漳县）、中山置「行台」，让尚书令拓跋仪管理。熙平元年 (516年)，南朝梁武帝遣左游击将军赵祖悦率众数万袭据西硖石，进逼寿春。北魏以李平为尚书右仆射置「行台」节度诸军