识丁的农民，省吃俭用供杨斯德读书。幼年时，杨斯德就目睹了地主和官府欺压和盘剥百姓。从私塾到师范学校，杨斯德一边读书，一边接受新思想。1937年七七事变后，杨斯德在学校报名参加了中华民族解放先锋队。决定弃学参加抗日救亡运动。1938年3月，杨斯德参加八路军鲁南人民抗日义勇队，同年9月加入中国共产党。在八路军鲁南人民抗日义勇队期间曾一度负责与铁道游击队的联络。不久，被中共党组织选拔参加山东纵队政治部开办的敌工干部训练班。1939年春，杨斯德回部队任苏鲁支队政治部敌工股股长兼特务大队政委。此后历任八路军一一五