В 1932—1943 гг. служил в рядах Красной Армии. В это время часто печатался в журнале «Октябрь». С 1932 года — в пограничных войсках на Дальнем Востоке, с 1934 года стал политруком, а после — комиссаром полка. Принимал участие в боевых действиях на озере Хасан и на Халхин-Голе в Монголии. Перед самой войной воинское соединение, где служил Баязит Баянов, было переброшено на западную границу СССР и 22 июня 1941 года он уже стал участником Великой Отечественной войны. В боях под Смоленском был тяжело ранен, после госпиталя снова воевал и в битве за Москву получил тяжелое ранение. Был демобилизован из армии по инвалидности.