.曹魏甘露二年（257年），司马昭讨伐诸葛诞，尚书仆射陈泰、中书侍郎钟会等以「行台」随从出征。西晋永嘉之难，尚书令东海王司马越以「行台」率军四万讨伐汉赵大将石勒。以后尚书省长官出征，随军的机构就称为「行台」。
南北朝时期.到了北魏，「行台」成为皇帝派出的特使，指挥军事或巡视边境，但不常设不管地方民政。天兴元年(398年)，道武帝拓跋珪攻佔后燕首都中山（今河北定县）一带，因为都城远在平城（今山西大同市城北），就近于邺城（今河北省临漳县）、中山置「行台」，让尚书令拓跋仪管理。熙平元年