冈山市车站位于冈山车站以北约500公尺处，直到1904年中国铁道开通吉备线时，同时将津山线延伸至冈山站，才撤除冈山市车站。1906年山阳铁道被收归国有，成为国有地车站，1910年铁道院开通了原本由山阳铁道规划兴建的宇野线，并且可以在宇野经由前往四国的高松。1926年完成了第二代採用钢筋混凝土兴建的车站站体；1944年中国铁道旗下的铁路事业被政府强制收购，此后所有连结至冈山车站的铁路都成为国有，并于1949年后隶属日本国有铁道。1972年山阳新干线新大坂车站至冈山车站路段通车，同时也启用第三代车站