Tajniki gry w szachy na wysokim poziomie poznał w Klubie Szachowym Marshalla w Nowym Jorku. W 1933 roku zadebiutował w reprezentacji Stanów Zjednoczonych na olimpiadzie szachowej w Folkestone. Na trzeciej szachownicy zdobył srebrny medal. Reprezentował USA na dwóch następnych olimpiadach w Warszawie (1935) i Sztokholmie (1937). We wszystkich trzech olimpiadach drużyna amerykańska zdobyła złote medale, w Sztokholmie Fine zajął pierwsze miejsce na drugiej szachownicy.