Ian Smith venne convinto a praticare il rugby da George MacPherson durante gli anni passati all'Università di Oxford, dopo avere in precedenza giocato a calcio. Debuttò con la nazionale scozzese il 2 febbraio 1924 nella partita contro il , segnando anche due mete che contribuirono alla vittoria finale 35-10 della Scozia. Durante lo stesso anno Smith disputò anche due partite con le Isole britanniche durante il tour in Sudafrica.