干归终听从并以儿子乞伏敕勃作为人质，吕光亦率军退还。可是不久干归就后悔了，杀了密贵周及莫者羖羝。太初九年（396年），凉州牧乞伏轲弹因与秦州牧乞伏益州不睦，故出奔吕光，吕光于是以干归多次反覆而兴兵讨伐。其时众臣都请干归出奔成纪回避，但干归不愿。吕光派吕延等人攻下了临洮、武始、河关，又命吕纂进攻金城，干归率兵救援，但吕光派了王宝及徐炅率兵五千边击，令干归恐惧不敢前进，终令金城陷落。干归于是行反间计，传出假消息称干归部众已溃散，干归已东逃到成纪。吕延信以为真，于是轻军进攻，最终被干归击败，吕延更战死。吕延败