Син на Атанас (Танаско) Йовков, който се бори дълги години против местните бейове. Писателят Войдан Чернодрински е вуйчо на Арсени. Учи в Битолската българска класическа гимназия, където членува в революционен кръжок. В Битоля му преподават Гьорче Петров и Пере Тошев. В навечерието на Илинденското въстание бащата на Арсени Йовков загива в престрелка с турците. След като научава за смъртта на баща си Йовков се връща в Дебърско и влиза в македоно-одринското революционно движение. Участва в Илинденско-Пребраженското въстание като секретар на войводата Тасе Христов. Участва в боевете в Дебърца и Кара Осман. След като брат Нико Йовков загива в едно сражени, Арсени става войвода на неговата чета.