《沂蒙山小调》前身《反对黄沙会》，于1940年10月，由当时驻扎在此地的文工团两位年轻的团员李林和阮若珊创作的。《反对黄沙会》歌词为控诉黄沙会的罪行，揭露黄沙会的阴谋；曲调是他们根据逃荒到东北的山东卖唱人所唱的曲调，加工整理而成的。1953年秋，山东军区政治部文工团的李锐云、李广宗、王印泉，因应本团演出工作的需要，将一首他们搜集的民间传唱的无名民歌，重新修改记谱，将原来歌词中的抗日主题，改为歌颂美好家乡的主题，后面又续加了两段歌词，定名为《沂蒙山小调》，从此传遍大江南北的沂蒙山小调正式版本诞生。此歌首唱