长官称为尚书令，尚书仆射副之。尚书省下设左右丞，分管六部。
周代至秦朝.周代的司会相当于尚书；秦时，少府遣吏四人在殿中主法书，故谓之尚书。
汉代至南北朝.汉承秦制。及汉武帝游宴后廷，始用宦者主中书，以司马迁为之。中间遂罢其官，以为中书之职。至汉成帝建始四年，罢中书宦者，又置尚书五人，一人为仆射，四人分为四曹。王莽篡位后，东汉光武帝为防臣下擅专，乃亲总吏职，将政务中枢由三公府移入宫中，而由尚书协助处理，自此政归台阁，尚书成为机衡之任。东汉有尚书台。魏、晋