Впервые команда была сформирована перед Второй мировой войной в 1939 году, тогда же она провела первый официальный матч и приняла участие в Чемпионате мира. После войны сборная возобновила участие в международных турнирах в 1951 году. В чемпионатах мира команда балансировала между группами В и С, 5 раз сборная принимала участие в Олимпийских играх, проводя матчи в рамках квалификационных турниров. В 1992 году после распада Югославии команду стали представлять только Сербия и Черногория, в 2004 году команда официально сменила название на "сборную Сербии и Черногории". Отделение Черногории в 2006 году поставило точку в истории сборной Югославии по хоккею, её правопреемницей стала сборная Сербии.