Larry Cain begann im Alter von elf Jahren mit dem Kanusport und gehörte schon ab 1979 im Canadier zum Nationalkader. Bei den Weltmeisterschaften 1982 verpasste er mit zwei vierten Plätzen zunächst einen Medaillengewinn. Zwei Jahre darauf gab er in Los Angeles sein Olympiadebüt, wo er im Einer-Canadier in zwei Wettbewerben antrat. Über 500 Meter zog er nach einem zweiten Platz in den Vorläufen und einem Sieg in den Halbfinalläufen ins Finale ein. Dieses beendete er nach 1:57,91 Minuten auf dem ersten Platz und wurde so vor dem Dänen Henning Lynge Jakobsen und Costică Olaru aus Rumänien Olympiasieger. Seine Goldmedaille war die erste eines kanadischen Kanuten seit dem Olympiasieg von Frank Amyot bei den Olympischen Spielen 1936 in Berlin. Auf der 1000-Meter-Strecke gelang Cain als Vorlaufszweiter ebenfalls der Finaleinzug und dort der Gewinn der Silbermedaille. In einer Rennzeit von 4:08,67 Minuten überquerte er 1,3 Sekunden hinter dem Deutschen Ulrich Eicke und 0,9 Sekunden vor Henning Lynge Jakobsen die Ziellinie.