У 1885 році невелику двоповерхову будівлю перебудували та розширили за проєктом архітектора : до неї були прибудовані два триповерхові крила. У 1889 році на привокзальній площі було завершене спорудження православної каплиці Олександра Невського у нововізантійському стилі, збудованої на честь порятунку родини імператора Олександра ІІІ у залізничній аварії під Бірками, коли імператорська родина поверталася з Кавказу до Санкт-Петербурга. Каплиця простояла до 20 липня 1925 року, коли рішенням Ризької міської управи її знесли «як згадку про часи царизму та за бажанням громади».