Tháng 11 năm 1941, ông bị đày đến Nhà ngục Đăk Mil, được các tù nhân cộng sản bầu làm Bí thư Chi bộ nhà tù (cũng là chi bộ đầu tiên của Đảng Cộng sản Đông Dương ở cao nguyên Mơ Nông), tổ chức vận động đấu tranh với cai ngục. Ngày 5 tháng 12 năm 1942, sau nhiều năm tù đày, ông cùng Trương Vân Lĩnh, Chu Huệ, Trần Doanh tổ chức vượt ngục thành công, vào Nghệ An hoạt động. Năm 1945, ông tham gia Ủy ban Khởi nghĩa tỉnh Nghệ An. Ngày 21 tháng 8, quần chúng nhân dân vùng lên khởi nghĩa. Sau khi cướp được chính quyền ở tỉnh lỵ Vinh, ông được phân công phụ trách Ty trinh sát Nghệ An.