他因不满日本监工的欺凌，带头打了为日本人服务的工头，从东北逃至了山东老家。从12岁待在东北至26岁，总共于东北过了14年的苦日子，但亦结交了不少朋友，影响其后来之军旅生活。
军旅生涯.在山东，其秘密加入村中的民兵组织，积极参与抗日斗争，打击日伪军。1945年8月，他参与八路军攻占牟平城的战伇。同年9月，报名参加八路军，编入胶东海军支队。同年10月，胶东海军支队赴牡丹江地区剿匪，因年数较其余参军者大，而被编为炊事员。同年11月，部队于此时重新编制，杨子荣被编在牡丹江军区二团三营七连一