Sau khi Nhật đảo chính Pháp ở Đông Dương, ông cùng các đồng chí mình được trả tự do. Ông ra Hà Nội, tham gia công tác chuẩn bị giành chính quyền. Hoạt động trong Ban Công vận Xứ ủy, ông đã góp phần phát triển các tổ Công nhân Cứu quốc và tự vệ trong các nhà máy xí nghiệp trọng yếu của thành phố, tăng cường tuyên truyền trong công nhân, chuẩn bị lực lượng, mua sắm vũ khí để chuẩn bị giành chính quyền khi có thời cơ đến. Lúc này, ông lấy bí danh là Nguyễn Huy Khôi.