在当时中共沪西区委领导下，积极从事工人运动，学生运动工作，参加义勇队宣传队、组织街头募捐支援东北义勇军。1931年9月下旬，曾两次参加了赴南京的请愿活动，要求国民党政府出兵抗日。1931年12月，参加各大学学生包围国民党的上海市政府、迫使上海市长张群释放爱国学生。在此期间，马曜还结识了同乡艾思奇，两人一起研讨马克思主义和时局， 互相交流革命理论和革命理想。马曜还曾只身到湖北襄阳去策反滇军第五十一师师长范石生投身革命，可惜没有成功。1934年春，所在中共地下党组织遭到破坏，中断了与共产党组织联系。