光年少善骑射，以武艺知名，17岁时为高欢欣赏，任其为世子高澄的亲信都督，当时传号为“落雕都督”。天保三年（552年），斛律光从征出塞，先驱破敌，多有斩获，班师后被任命为晋州刺史。其后屡次攻灭四周的游牧部落，屡立战功，迁为朔州刺史。天保十年（559年），赏特进、开府仪同三司。皇建元年（公元560年），进爵巨鹿郡公。大宁三年（562年）正月，北周遣将达奚成兴等进攻平阳，斛律光率步骑三万击败之，追入周境，获二千余口，升为司徒；四月，率骑北讨突厥，获战马千余匹。同年，北周武帝遣尉迟迥、宇文宪等，号称十万大军进攻洛阳