到该部工作，1933年4月成立中共骑二师工委。1935年9月黄显声担任骑兵军副军长，奉命进驻陕北剿共。由于蒋介石攘外必先安内的战略，黄显声的抗日主张不被採纳，抗战努力屡屡受挫，后与中国共产党讨论联合抗战，1936年8月秘密加入中国共产党。1937年七七事变后，黄显声率119师与骑兵第2师在漳河前线与日军激战，遭到重大损失。1938年春，黄显声在汉口被国民党秘密逮捕，其后被长期关押。黄显声将军自治印保留至今，印侧面有一行小字“骑富士山头展铁蹄，倭奴灭，践踏樱花归”。在狱中黄显声曾给小萝卜头当老师。