圣彼得堡的一家金店当了十多年学徒。工作之余他参加了夜校课程。1912年他参加革命活动，结识了伏罗希洛夫；因为阅读《真理报》入狱半年，随后被流放到爱沙尼亚两年。1915-1917年在奥克汀斯基火药厂工作。十月革命时为彼得格勒波罗霍夫区赤卫队司令，并担任莫吉廖夫省中央执行委员会委员。1918年3月成为布尔什维克。1918年赫鲁廖夫自愿参加了红军。在俄国内战中，他曾在第一骑兵军下属的第11骑兵师和第14骑兵师任政委，安德烈·赫鲁廖夫善于和战士沟通和鼓励战士的特点开始显露出来，并获得红旗勋章。1924年10月到