Agapkin föddes 1884 i en torparfamilj i byn Shancherovo i provinsen Rjazan. Han blev tidigt föräldralös och han och hans syskon tvingades att tigga för att klara sitt uppehälle. Vid 10 års ålder blev han musikelev vid 308:e reservbataljonen. 1906 inkallades han till militärtjänst vid 16:e Tverska dragonregementet, som var stationerat i Tiflis. I slutet av militärtjänsten befanns sig Agapkin i Tambov, där han 1910 blev anställd som stabstrumpetare vid 7:e reservkavalleriregementet. Han kommenderades 1911-1915 som elev till Tambovs musikskola. Under det Första Balkankriget skrev Agapkin 1912 marschen "Den slaviska kvinnans avsked" för att hedra de ryska frivilliga i detta krig.