Планаванне і кіраўніцтва пачаткам Усходне-Прускай аперацыі ажыццяўляў асабіста Сталін, Васілеўскі ў гэты час быў заняты ў Прыбалтыцы. Аднак, у сувязі з адбыццём Сталіна, а таксама намесніка начальніка Генштаба А. І. Антонава на Ялцінскую канферэнцыю, Васілеўскі вярнуўся да выканання абавязкаў начальніка Генштаба і намесніка наркама абароны, кіраўніцтву Усходне-Прускай аперацыяй. У ноч на 18 лютага, падчас размовы са Сталіным, які вярнуўся з Ялты, у адказ на прапанову Сталіна выехаць ва Усходнюю Прусію для дапамогі камандуючым франтамі Васілеўскі папрасіў вызваліць яго ад пасады начальніка Генштаба ў сувязі з тым, што ён большую частку свайго часу праводзіць на фронце. А днём 18 лютага прыйшла вестка пра гібель камандуючага 3-м Беларускім фронтам Чарняхоўскага. У сувязі з гэтым Сталін хутка прыняў рашэнне прызначыць Васілеўскага камандуючым 3-м Беларускім фронтам, а акрамя таго, увесці Васілеўскага ў склад Стаўкі Вярхоўнага Галоўнакамандавання. На пасадзе камандуючага фронтам Васілеўскі кіраваў штурмам Кенігсберга — аперацыяй, якая стала хрэстаматыйнай.