До призову в армію працював у сільському господарстві. З 1929 року служив у Червоній Армії. Займався в Уфимському аероклубі, в 1933 році закінчив Оренбурзьку школу льотчиків. Член ВКП(б)/КПРС з 1938 року. Брав участь у радянсько-фінській війні, де здійснив понад 50 бойових вильотів. Під час одного з них врятував життя бойового товариша — льотчика Морозова, з якими літав в парі. Фінські лижники вже наближалися до збитого літака Морозова, коли Карманов приземлився поруч на своєму І-16, узяв товариша, і піднявся в повітря. За участь у радянсько-фінській війні А.Г. Карманов нагороджений орденом Червоної Зірки.