张勃推举而被召入朝，担任尚书郎。在朝同为尚书郎的潘岳、罗尚和顾荣都对他十分佩服。多年后，索靖先后出任雁门太守、鲁相及酒泉太守。至永熙元年（290年）晋惠帝即位，索靖获赐爵关内侯。元康六年（296年），北地郡的马兰羌及卢水胡皆叛乱，索靖转任征西大将军司马肜的左司马，加荡寇将军，屯兵粟邑参与平叛，曾击败叛胡。后改拜始平内史。永康二年（301年），赵王司马伦篡位称帝，遭到齐王司马冏、成都王司马颖及河间王司马颙三王为首的讨伐。当时索靖亦响应义举，获授左衞将军。司马伦倒台后，索靖以讨伐孙秀之功获加授散骑常侍。