Etter at han hadde fullført grunnskolen i 1903, tvang den vanskelige økonomiske situasjonen familien var i Gramsci til å jobbe i to år i et offentlig kontor, mens han fortsatte å studere på egen hånd. I 1905 startet han på de siste to årene ungdomsskole i Santulussurgi og begynte å lese den sosialistiske avisen broren Gennario sendte ham fra Torino. Fra 1908 til 1911 tok han videregående utdanning ved Dettori-skolen i Cagliari, hvor hans bror, Gennaro, bodde. Han begynte å delta i aktivitetene til den sosialistiske bevegelsen, og tok aktivt del i ungdomsgrupper og diskusjoner om økonomiske og sosiale problemer på øya, og han begynte å lese Marx.