宣统元年（1909年）时曾公费留学进入日本东京振武学校，入陆军士官学校第9期学习。宣统3年（1911年）归国。早年曾追随孙烈臣。1920年直皖战争，段败。臧式毅时任西北边防军参谋长，被直系所俘，拘禁数月。1924年6月，臧式毅奉张作霖之命调回沈阳，接替张学良的东北陆军整理处参谋长一职。1925年任江苏督办公署参谋长。后孙传芳攻奉，臧被执，羁押半年后获释。1928年，张作霖遇炸身亡之后，臧式毅与刘尚清等人商议秘不发丧，并且秘密派人告之张学良，使张学良平稳接管整个东三省。东北易帜后，历任东三省保安总司令部少将参