Mikkola ble student i 1886, i 1889 og i 1893. Han var dosent i slaviske språk fra 1895 og professor ved Helsingfors universitet fra 1900 til 1934. Han studerte forholdet mellom de slaviske og de østersjøfinske språkene, slavisk formlære, indoeuropeiske og slaviske språkforhold samt disse språkenes historie og litteratur. Hans hovedverk var en i tre deler («Urslavisk grammatikk», 1913–1950).