В ноябре 1937 года А. Овчаров был призван на службу в Рабоче-крестьянскую Красную Армию. Окончил команду одногодичников 151-го стрелкового полка в Одессе в 1938 году и в ноябре 1938 назначен командиром взвода полковой школы этого полка. С декабря 1939 года — помощник начальника штаба по шифровально-штабной службе 23-го стрелкового полка. На этом посту участвовал в боях советско-финской войны и во вводе советских войск в Бессарабию. В марте 1941 года стал начальником штаба полка.