Leonid Arbusow war der Sohn des gleichnamigen Historikers-Germanisten Leonid Arbusow und seiner Ehefrau Olga, geb. Anschütz. Er studierte von 1902 bis 1906 evangelische Theologie an der Kaiserlichen Universität Jurjew (bzw. Dorpat) und danach von 1906 bis 1909 Geschichte an der Universität Göttingen. 1911 wurde Arbusow Mitherausgeber der III. Abteilung des "Livländischen Urkundenbuchs" und 1914 beauftragte ihn die "Gesellschaft für Geschichte und Altertumskunde der Ostseeprovinzen Russlands" mit der Erarbeitung einer Reformationsgeschichte des Baltikums. Nach dem Ersten Weltkrieg war er von 1922 bis 1936 ordentlicher Professor für Geschichte an der lettischen Universität Riga und wurde dann nach Verdrängung von diesem Lehrstuhl Professor am deutschen Herder-Institut Riga bis zur Umsiedlung der Deutsch-Balten im Jahr 1939 als Folge des Deutsch-sowjetischen Nichtangriffspakts. Von 1941 bis 1945 war Arbusow Professor für mittelalterliche Geschichte an der Reichsuniversität Posen. Nach Kriegsende wurde er, wie auch sein Kollege aus Riga und Posen Reinhard Wittram, Lehrbeauftragter an der Universität Göttingen. Als Mediävist befasste sich Arbusow mit der Diplomatik des mittelalterlichen Baltikums. Ihm wurde die Ehrendoktorwürde der Universität Rostock 1932 für seine Reformationsgeschichte des Baltikums verliehen. Er war seit 1910 verheiratet mit Antonie, geb. Freiin von Vietinghoff-Scheel († 1920).