早在中国共产党建党之前，山东省就已经有共产党人活动。1921年春，王尽美与邓恩铭等发起创建了济南共产党早期组织。1921年7月，王邓两人作为山东代表，赴上海出席中共第一次全国代表大会（中共一大）。中共一大后，在山东成立了中共山东区支部，王尽美任书记。1922年7月，设立中共济南地方支部。1923年10月，更名为中共济南地方执行委员会。1925年2月，组建中共山东地方执行委员会。1925年11月，改称中共山东临时地方执行委员会。1925年12月，旋即更名为中共山东地方执行委员会。1926年10月，改为中共山东区执行委员会。