Вперше льодовий хокейний турнір був проведений в рамках літніх Олімпійських ігор 1920 року, а потім був включений в програму зимових Олімпійських ігор 1924 року. Спочатку Олімпійські ігри призначалися для спортсменів-аматорів, і в них не могли брати участь гравці з НХЛ та інших професійних ліг. Перші три десятиліття на льоду панувала Канада, вигравши п'ять з шести золотих олімпійських медалей. У 1956 році участь у зимових Олімпійських іграх вперше взяв Радянський Союз, який потім обійшов Канаду по числу золотих медалей, перемігши в семи зимових Олімпіадах з дев'яти. На зимових Олімпійських іграх 1980 року збірна США з хокею сенсаційно обіграла збірну СРСР і завоювала друге олімпійське золото у своїй історії. Велика Британія завойовувала золото в 1936 році, Швеція — в 1994 та 2006 роках, Чехія — в 1998 році.