Gastevs mor var sömmerska och fadern lärare. Han inledde studier vid Pedagogiska institutet i Moskva, men blev avstängd på grund av sitt deltagande i revolutionära kretsar. 1901 anslöt han sig till Rysslands socialdemokratiska arbetareparti och deltog i ryska revolutionen 1905. Gastev var inledningsvis bolsjevik och korresponderade under en period med Vladimir Lenin, men bröt kring 1907 med bolsjevikerna. Från 1906 ägnade han sig främst åt facklig verksamhet i Sankt Petersburg. Efter att upprepade gånger ha blivit arresterad flydde Gastev 1910 till Paris, där han kom att ta intryck av den franska syndikalismen. Han återvände 1913 till Ryssland, och valdes efter februarirevolutionen 1917 till sekreterare för metallarbetarfacket i Petrograd.