Joueur de la Boston Athletic Association, Irving Small participe avec l'équipe des États-Unis de hockey sur glace aux Jeux olympiques d'hiver de 1924 se tenant à Chamonix. Les Américains y sont vice-champions olympiques.