Алексей Кочубаров родился 20 июня 1899 года в селе Осташково (ныне — Клинский район Московской области). После окончания четырёх классов школы работал прядильщиком. В 1918—1922 годах служил в Рабоче-крестьянской Красной Армии, участвовал в Гражданской и советско-польской войнах. Демобилизовавшись, работал на шерстоткацкой фабрике (с 1937 года — Монинский камвольный комбинат). В октябре 1942 года Кочубаров повторно был призван в армию. С января 1943 года — на фронтах Великой Отечественной войны. В боях два раза был ранен.