Hans karriere inkluderte en lengre periode som generalsekretær for det amerikanske kommunistpartiet. Han var medlem av og . Foster ble også medlem av ACLU National Committee i 1920. Foster ble etterforsket av Un-American Activities Committee fordi han var kommunist. Familien hans flyttet til Philadelphia mens han var i ung alder. Foster forlot skolen i en alder av ti år for å bli lærling. I løpet av de neste ti årene arbeidet han i gjødselfabrikker i Reading, Pennsylvania og Jacksonville, Florida, og senere som en bygningsarbeider på jernbanen og han var ansatt på et sagbruk i Florida.