平万接触到了马克思主义。1919年3月，黄平万前往法国勤工俭学，1922年加入中国少年共产党。1923年，旅欧中国少年共产党改名为旅欧中国共产主义青年团，黄平万担任候补委员。1923年秋天，黄平万进入苏联莫斯科东方劳动者共产主义大学学习，并于在校期间经赵世炎、陈延年、王若飞等人介绍加入中国共产党。回国后，1925年4月，黄平万被陈独秀派至河南组织工人运动，并于当月和李震瀛组建了中国共产党郑州支部，黄平万担任书记。1925年6月至10月，黄平万担任新成立的郑州地方执行委员会的书记，同时参与组建了共青团郑州支部