的山形新干线也在此站停车，因此运务上上山温泉可说是山形线（奥羽本线的部分路段在营运上所採用的暱称）与山形新干线之间的转车站之一。上山温泉车站是所在地上山市的主要车站，该站在1901年初设时，原名上山（），这站名一直使用到1992年时，配合山形新干线福岛～山形间路段通车，而改为现名。在2002年时，上山车站因为其仿照了附近的古城的建物造型而设计的车站站房，而获选东北车站百选（）之列。除了客运业务外，在1991年前日本货物铁道（JR货物）原本在上山温泉车站是有货运专用站，但该业务目前早已停办、货运站也已不复