После того, как в 1945 году была провозглашена независимость Индонезии, Ахмад Яни поступил на службу в армию молодого государства, став командующим войсками в . В первые месяцы войны за независимость он отличился в боях под Магелангом; батальон, которым он командовал, участвовал в освобождении города от британских войск. Позже Яни командовал индонезийскими войсками, успешно защищавшими Магеланг от голландцев. В начале 1949 года под руководством Яни было произведено несколько успешных партизанских операций против голландцев: они создали благоприятные условия для проведения одной из самых масштабных войсковых операций войны за независимость — возвращения Джокьякарты, временной столицы Индонезии, занятой голландскими войсками.