源干曜来自相州（今邯郸）。他的家族可以追溯到鲜卑政权南凉后裔，后来在北魏受封为陇西宣王的源贺。他的先祖后来在北周和隋朝为臣。源干曜的祖父源师民在隋朝任刑部侍郎，父亲源直心则担任唐高宗的司刑太常伯，但因事被流配岭南而死。源干曜举进士，入仕时已四十多岁。曾任夔州参军，其马厩在城东北约三百步，后为孔子庙。
唐中宗、唐睿宗第二次登基年间.唐高宗之子唐中宗第二次登基时（705年 - 710年），源干曜任殿中侍御史，神龙二年（706年）二月黜陟江东道，为朝散大夫行度支员外郎摄右台侍御史。他被认