酒醉之中，并常常在荆州豪族的园林内游玩，并醉卧于池塘。不久，山简加督宁益二州军事。永嘉五年（311年），汉国将领刘聪等率大军进攻洛阳，山简于是派督护王万领兵救援，但在涅阳遭到佔据宛城的叛民首领王如击败，山简唯有婴城自守，亦无力北顾。同年洛阳被攻陷，晋怀帝被俘，盗贼四起，山简又被盗贼严嶷所逼，被逼移镇夏口，并在当地招纳流亡民众，得到长江、汉水一带的人归附。永嘉六年四月丙寅（312年6月6日），山简逝世，享年六十岁，获追赠征南大将军、仪同三司。