Александр Немировский родился в Тирасполе в 1919 году, но вскоре после его рождения, спасаясь от прокатившейся по Украине волны еврейских погромов, семья вернулась в уже румынскую Бессарабию. В 1926 году вся семья нелегально пересекла Днестр, по которому проходила тогда граница с СССР, и поселилась в Москве. Здесь Немировский окончил школу и в 1937 году поступил на исторический факультет Московского государственного университета. В том же году его родителей арестовали, но Немировскому удалось продолжить учёбу, а в 1938 году поступить в Литературный институт.