胶澳租界至济南的胶济铁路，1904年建成通车。目前，山东境内南北走向的主要有京沪铁路、京九铁路、京沪高速铁路、蓝烟铁路等铁路。东西走向的主要有胶济铁路、胶济客运专线等铁路。2006年胶济铁路电气化改造完成，成为山东省的第一条电气化铁路，2008年建成胶济客运专线，实现了客货分运，最高时速可以达到200公里。京沪高速铁路纵贯山东省西部，设计时速350公里。此外还有河北省石家庄至德州的石德铁路、邯郸至济南的邯济铁路，河南新乡至兖州的新兖铁路，以及省内兖州至日照的兖石铁路等。济西站是山东省最大的铁路枢纽站，其