二年（266年），晋武帝分京兆郡南部置上洛郡。南北朝北魏太和十三年（489年），改置洛州于上洛城。北周宣政元年（578年）改洛州为商州。隋开皇三年（583年）撤上洛、上庸两郡，保留商州；大业三年（607年）撤商州复设上洛郡，治所上洛，领上洛、商洛（隋文帝改商县为商洛）、洛南、丰阳、上津五县。唐武德元年（618年）改上洛郡为商州，天宝元年（742年）撤商州改上洛郡，干元元年（758年）再撤上洛郡改为商州。北宋时，商州初属陕西路，后属永兴军路。金贞元二年（1154年）将商洛、丰阳两县降为镇，并入上洛、洛