С началом войны подполковник Жданов находился на прежней должности. С 24 июня 1941 года полк в составе 50-го стрелкового корпуса 23-й армии принимал участие в боевых действиях по обороне Карельского перешейка. 31 августа 1941 года Николай Николаевич Жданов был ранен. В сентябре 1941 года полк был переподчинен командующему Ленинградским фронтом, после чего принимал участие в ходе Ленинградской оборонительной операции, сыграл важную роль в обороне Ленинграда. 24 марта 1942 года полк был преобразован в 12-й гвардейский артиллерийский полк, а Жданов был назначен на должность начальника штаба артиллерии 54-й армии, после чего принимал участие в ходе Любанской наступательной операции.