铁路起兖州站，经京沪铁路南行至程家庄分轨，转东北至曲阜，东行经泗水出境，再东南经平邑、临沂，至日照石臼港出海。京沪高铁自济南、泰安南下，由曲阜入境，南行经曲阜东站，由邹城出境，再经滕州、枣庄出省。京九铁路自台前孙口镇经孙口黄河大桥跨越黄河到梁山赵堌堆乡入境，未经县城直接南下由本县出境，至郓城转西南至菏泽，复转正南经定陶、曹县出省。济宁境内段仅15公里，梁山站在杨营镇。境内主要车站有兖州站、济宁站、曲阜东站等。目前建设中铁路有鲁南高速铁路(国铁一类干线，设计时速350km)，湖西铁路等。