Училище открылось 1 октября 1907 года и первоначально не имело собственного здания, так что первые два года занятия велись в наёмных помещениях — в двух деревянных зданиях на Грязной улице (ныне улица Воскова). Но уже 10 августа 1908 года П. Н. Прохоров на заседании общества «Просвещение» выступил с новой инициативой о строительстве отдельного здания для училища, где на тот момент было уже около ста учеников, больше половины из которых составляли крестьянские дети. Идею многие посчитали слишком смелой, и сбор средств шёл крайне медленно. Тогда гражданскому инженеру К. К. Васильеву, проектировавшему здание, было дано поручение видоизменить проект таким образом, чтобы сначала, собрав 33000 рублей, построить только треть здания — южное крыло — и в нём уже вести занятия, а тем временем собрать ещё 90000 рублей на остальную часть здания и достроить его позднее. Городская строительная комиссия дала согласие на строительство, выделила необходимые деньги, а также участок земли на территории посада Ямбургской крепости. Земство выделило на строительство 12000 рублей, а Министерство торговли и промышленности — 8000 на строительство и 3000 ежегодно на содержание училища. При училище, куда жертвовали не только деньги, но и стройматериалы, была заведена почётная книга, где вёлся учёт благотворителей, самых щедрых из которых отметили на мраморной доске на стене здания. Закладка здания училища состоялась в день 200-летия Полтавского сражения — 28 июня 1909 года. Известно, что на закладной доске имелась следующая надпись: