Fine wuchs in New York auf, wo er auch den größten Teil seines Lebens verbrachte. Er war Augenzeuge des 1927 in New York ausgetragenen internationalen Schachturniers. Ab 1929 war er regelmäßig Gast beim Marshall Chess Club und beim Manhattan Chess Club, in denen er bald zu den stärksten Schnellschach- und Blitzschachspielern zählte. 1932 und 1933 gewann er die "Western Championships", den Vorläufer der offenen USA-Meisterschaften, vor Samuel Reshevsky, 1934 teilte er mit ihm den ersten Platz. Beim Schachturnier in Pasadena remisierte er 1932 gegen den amtierenden Weltmeister Alexander Aljechin. 1933 nahm er erstmals an der Schacholympiade teil, die er am dritten Brett mit der Mannschaft der USA gewann.