I tornei di hockey su ghiaccio iniziarono ad essere disputati in occasione dei Giochi olimpici fin dal 1920. Il torneo maschile si svolse per la prima volta nei giochi di Anversa 1920 ed entrò nel programma dei giochi olimpici invernali fin dalla prima edizione di Chamonix 1924. I giochi olimpici furono inizialmente riservati ai giocatori dilettanti, escludendo in tal modo gli atleti della NHL e delle altre leghe professionistiche esistenti. La nazionale del Canada dominò i primi tre decenni conquistando sei delle sette medaglie d'oro disponibili. L'Unione Sovietica partecipò per la prima volta alle olimpiadi del 1956, e da allora superò il Canada come principale potenza mondiale, vincendo sette dei nove tornei olimpici ai quali prese parte. Le uniche occasioni nelle quali non giunse la vittoria furono nel 1960 e nel 1980, tornei ospitati e vinti dagli Stati Uniti. Le altre nazioni ad essersi aggiudicate l'oro olimpico sono state il Regno Unito nel 1936, la Svezia nel 1994 e nel 2006, e la Repubblica Ceca nel 1998.