Kolehmainen, aki sportos családból származott, elkötelezett vegetáriánus volt, kőműves szakmát tanult, testvérei, William és Tatu szintén kiváló hosszútávfutók voltak. Tatu két olimpián versenyzett, 1920-ban a maratoni távon 10. lett. Hannes volt az 1912-es, stockholmi olimpia első számú csillaga, három aranyérmet is nyert a játékokon. Legemlékezetesebb futása az 5000 méteres távon volt, itt heroikus párbajt vívott a francia Jean Bouinnal. A verseny közben felváltva vezettek, Kolehmainen csak új világrekordot felállítva tudott diadalmaskodni. Stockholmban még a 10000 m-es távot és a mára már megszűnt mezei síkfutást tudta megnyerni, csapatban ezüstérmet szerzett.