Bei seiner zweiten Olympiade 1935, die er erneut mit den USA gewann, erzielte er am ersten Brett ein positives Ergebnis und gewann so das Selbstvertrauen, gegen die besten Schachspieler der Welt mithalten zu können. In der Folge gewann er die stark besetzen internationalen Turniere in Hastings (1935/36) und Zandvoort (1936). Im selben Jahr teilte er beim Weltklasseturnier in Nottingham mit Max Euwe und Reshevsky den dritten Platz. Die Schachzeitschriften "Sahovsky Glasnik" und "Chess" rechneten ihn 1936 zu den fünf besten Spielern der Welt. Er spielte noch mit großem Erfolg bei den Turnieren in Amsterdam (1936), Hastings (1936/1937), Stockholm, Moskau, Leningrad, Margate, Ostende und Semmering-Baden (alle 1937), während er in Kemeri 1937 weniger gut abschnitt. Bei der Schacholympiade 1937 gewann er nicht nur mit der Mannschaft, sondern erzielte auch das beste Ergebnis am zweiten Brett. Er war Euwes Sekundant bei dessen Revanchekampf 1937 gegen Aljechin und verbrachte mehrere Monate in den Niederlanden. Danach kehrte er mit seiner holländischen Ehefrau nach New York zurück, um seinem Beruf als Psychologe weiter nachzugehen. Erst im Herbst 1938 spielte er wieder Schach, und zwar beim AVRO-Turnier, bei dem die gesamte Weltspitze teilnahm und Fine mit Paul Keres den ersten Platz teilte. Laut Garry Kasparow übertraf er seine Kollegen damals insbesondere hinsichtlich der strategischen Tiefe. Danach spielte Fine nur noch in den USA.