东北部的城市，辖区主要位于两白山地的内，周边为多座高度约在一千公尺的山峰所环绕，福井县最主要的河川九头龙川自南侧进入辖内后，于胜山盆地内转往西方流向永平寺町及福井市，胜山市的主要市区也位于九头龙川于盆地内的右岸地区。1982年起在辖内陆续挖掘出大量的恐龙化石后，恐龙也成为胜山市最知名的代表。
人口.1970年代起，胜山市的人口即持续下滑，目前人口数仅有约2万2千人，为全福井县人口最少的市级行政区划。
历史.胜山市的辖区过去在令制国时代属于越前国大野郡。