就有志向，曾经向妹夫张彦表示自己承担了复兴宋氏的责任，应该刻苦训戒自己要继承先辈的功业，并跟着张彦到酒泉就学，在日夜不断读书的努力下终于成了一名博通经史、综览诸子群言之士。宋繇成年时凉州由吕光建立的后凉所据，他也获后凉举为秀才，除郎中。宋繇与李暠及太史令郭黁曾经一同度宿，郭黁就曾对宋繇预言道：「君当位极人臣，李君有国土之分。家有騧草马生白额驹，此其时也。」后凉龙飞二年（397年），建康太守段业遭叛变的卢水胡沮渠男成、沮渠蒙逊胁逼推举为凉州牧，建立北凉。宋繇及后也投奔了北凉，获授中散、常侍。时北凉敦煌太守