In Finnland gehörte er dem Verein "Kotkan Riento" an. Bei den Olympischen Sommerspielen 1912 in Stockholm wurde er im Federgewicht vor Georg Gerstacker aus Nürnberg und Otto Lasanen aus Finnland Olympiasieger. Auf dem Weg zur Goldmedaille hatte er fünf seiner acht Gegner geschultert, darunter auch Gerstacker. Im finnischen Bürgerkrieg 1918 kämpfte er als Rotgardist in Savitaipale in Südkarelien. Nach dem Krieg und der Niederlage der Rotgardisten flüchtete er nach Russland, von wo aus er in die Vereinigten Staaten auswanderte. Dort gründete er ein Saunaunternehmen. Der 1,72 Meter große Kaarlo Koskelo galt als großes Talent und Hoffnung des finnischen Ringsports, allerdings blieb sein Olympiaauftritt 1912 in Stockholm sein einziges großes Turnier. Bei finnischen Meisterschaften war er nie an den Start gegangen.