到洛阳，傅玄和张华与索靖见过面后都隆重地去结交他。索靖后拜驸马都尉，又出外任驻守西域的戊己校尉长史。因着在朝内任官的同郡人张勃推举而被召入朝，担任尚书郎。在朝同为尚书郎的潘岳、罗尚和顾荣都对他十分佩服。多年后，索靖先后出任雁门太守、鲁相及酒泉太守。至永熙元年（290年）晋惠帝即位，索靖获赐爵关内侯。元康六年（296年），北地郡的马兰羌及卢水胡皆叛乱，索靖转任征西大将军司马肜的左司马，加荡寇将军，屯兵粟邑参与平叛，曾击败叛胡。后改拜始平内史。永康二年（301年），赵王司马伦篡位称帝，遭到齐王司马冏