繇与李暠及太史令郭黁曾经一同度宿，郭黁就曾对宋繇预言道：「君当位极人臣，李君有国土之分。家有騧草马生白额驹，此其时也。」后凉龙飞二年（397年），建康太守段业遭叛变的卢水胡沮渠男成、沮渠蒙逊胁逼推举为凉州牧，建立北凉。宋繇及后也投奔了北凉，获授中散、常侍。时北凉敦煌太守兼沙州刺史孟敏去世，孟敏下属敦煌护军郭谦及沙州治中索仙等人共推李暠为敦煌太守，时宋繇正在敦煌，以郭黁前言劝李暠接受推举。李暠接手敦煌后就向北凉称藩，接受段业的官号，而宋繇在看出段业并无远略，遂投奔李暠。北凉天玺元年（399年），段业改称凉