Александр Конякин родился в 1915 году в селе Грушковка (ныне — Каменский район Черкасской области Украины). После окончания техникума пищевой промышленности работал на сахарном заводе в посёлке Красная Яруга Белгородской области. В 1939 году Конякин был призван на службу в Рабоче-крестьянскую Красную Армию. Окончил курсы младших лейтенантов. С 1942 года — на фронтах Великой Отечественной войны. Принимал участие в боях на Калининском, Сталинградском, Центральном, 1-м Украинском фронтах. Участвовал в Сталинградской и Курской битвах, битве за Днепр.