Під командуванням капітана 2 рангу А. М. Спиридонова брав участь у прориві радянських кораблів з Таллінна в Кронштадт, де входив до складу загону головних сил. О 5:00 28 серпня 1941 року разом з есмінцями ар'єргарду направлений у Мінну гавань для евакуації захисників міста. У поході слідував на лівому траверзі крейсера «Кіров». О 20:47 «Яків Свердлов» підірвався на міні, переламався навпіл і затонув в 10 милях від о. Мохни. З екіпажу і пасажирів загинуло 114 осіб.