Fediouninski est né dans une famille paysanne près de Tugulym dans l'Oural. Il quitte l'école du village en 1913 et commence un apprentissage chez un peintre et décorateur. Il rejoint l'Armée rouge en 1919. Il combat sur le front Ouest pendant la guerre civile russe et est blessé deux fois. Il étudie à l'école d'infanterie de Vladivostok entre 1923 et 1924 et est assigné à un régiment d'infanterie. Il sert dans l'Extrême-Orient russe de 1919 à 1940. Il combat durant le conflit sino-soviétique de 1929 et, en tant que commandant de régiment, durant la bataille de Khalkhin Gol, pour laquelle il gagne la distinction de Héros de l'Union soviétique pour sa bravoure. Il est promu commandant de division en 1940.