半年，音乐家郑律成受《黄河大合唱》启发，向文人公木提出创作《八路军大合唱》的想法，撰写一系列以国民革命军第十八集团军（抵抗侵华日军的游击队，通称“八路军”）为主题的歌曲。两人在1939年7月趁着工作空档开始创作，先由公木作词、后由郑律成作曲。公木根据中国共产党对局势的观点、自己对八路军的认识，在8月的不足一个星期内写好了《八路军军歌》以及另外六首歌的全部歌词，作为《八路军大合唱》的其中七首歌曲。郑律成随后在9月初完成所有歌词的编曲，《八路军军歌》由此完成创作。同年冬天，《八路军大合唱》的全部曲目由鲁迅艺术学