Historien til JM International startet i Belgia på slutten av 1930-tallet. Under krigen begynte unge mennesker å organisere seg for å arrangere offentlige konserter for fred og i protest mot krig og den tyske okkupasjonen. Dette var begynnelsen på Jeunesses Musicales de Belgique, grunnlagt 1940 av Marcel Cuvelier. Rett etter krigens slutt starter Rene Nicolay opp Jenuesses Musicales de France, inspirert av ungdomsmusikkbevegelsen i Belgia. 17. juli 1945 blir Jeunesses Musicales International grunnlagt av Marcel Cuvelier (Belgia) og Rene Nicolay (Frankrike) i Palais des Baux-Arts, Brussel, Belgia under navnet «Federation Internationales des Jeunesses Musicales». JMIs hovedmål var i begynnelsen å presentere hovedsakelig klassisk musikk til ungdom gjennom konserter, og etterhvert gjennom skolekonserter. Organisasjonen endret seg over tid til å også inkludere arbeid med unge musikere gjennom samlinger, konkurranser og ungdomsorkestre. JMI har siden begynnelsen mottatt økonomisk og politisk støtte fra en rekke offentlig institusjoner, stiftelser og enkeltpersoner. På slutten av 1960-tallet åpnet JMI seg mot sjangere utover klassisk musikk, slik som samtidsmusikk, folkemusikk, jazz, pop og rock. Man begynte også å utforske den sosiokulturelle påvirkningen av musikk på unge mennesker. Den norske avdelingen av JMI ble etablert i Norge i 1970 av Musikk i skolen (daværende Landslaget musikk i skolen (LMS)) under navnet Musikk og ungdom. I forbindelse med etableringen understreket LMS at den nye organisasjonen skulle være åpen for all ungdom mellom 12 og 25 år. Siden den tid har Musikk og ungdom hatt mange ulike organisasjonsformer. I 2009 ble det vedtatt at Musikk og ungdom skulle skilles ut som en selvstendig organisasjon. I 2014 vedtok styret at organisasjonen skulle skifte navn fra Musikk og ungdom til JM Norway.