东魏天平年间任大都督。天平四年（537年）十月随高欢参与沙苑之战，他认为渭曲（在沙苑以东10里）土泞，无所用力。主张避开宇文泰主力，奔袭空虚的咸阳。高欢想纵火焚烧渭曲芦苇荡，一举击溃西魏军，又被侯景、彭乐所阻，于是在渭曲大战，高欢军败。斛律羌举后封密县侯，为东夏州刺史。感染疫疾，医生以竹管插入他的胸口之中，吸出脓痰，逐渐病愈。后因事生怒，伤口迸裂而亡，时年三十六岁。高欢十分的惋惜，追赠他为并恒二州军事、恒州刺史。有子斛律孝卿。