В Вильне Мария Феофановна с детьми поселилась в доме № 20 на Александровском бульваре (ныне ул. Альгирдо, 20). Путь до гимназии был очень живописен. С высоко расположенного района, называемого Новым городом, открывалась широкая панорама колоколен и башен костёлов и церквей, старых черепичных крыш. Улицы, спускаясь вниз, постепенно сужались, приводя пешехода в центр Старого города — к бывшему Виленскому университету, упразднённому после Польского восстания (1830). Виленская 1-я мужская гимназия считалась престижной. Она занимала одно из многочисленных старинных зданий бывшего университета. В архивном фонде гимназии имеется список учащихся на 1908/1909 уч. г., в котором во 2-м отделении 3-го класса записан Юстицкий Валентин. В последующие годы В. Юстицкого среди гимназистов его класса нет.