Александр Садовой родился 3 мая 1906 года в селе Агайманы Херсонской губернии Российской империи. После окончания средней школы работал в колхозе. В 1928 году Садовой был призван на службу в Рабоче-крестьянскую Красную Армию. В 1931 году он окончил Орловскую пехотную школу, в 1932 году — курсы усовершенствования командного состава. Участвовал в боях на озере Хасан. С июня 1942 года — на фронтах Великой Отечественной войны. В боях был контужен.