Mikkola satt i Sør-Varanger formannskap fra 1925 til 1937. Han var fra bygda Neiden i Sør-Varanger kommune og den første med finsk innvandrerbakgrunn på Stortinget. A. K. Mikkola drev butikk like ved Neiden kirke og småbruk på Mikkelsnes ved utløpet av Neidenelva og var dessuten ekspeditør for FFR. Han var gift med Kathinka Mikkelsen fra Skjelfjord i Flakstad og hadde åtte søsken.