נעוריו הקשים בסרדיניה הם שעיצבו את ראיית העולם שלו. המציאות שבה נתקל בטורינו חידדה את השקפותיו, וגרמה לו להצטרף למפלגה הסוציאליסטית האיטלקית. הוא עשה לעצמו שם כעיתונאי אף אם כתביו היו לעיתונים סוציאליסטיים כ"אוואנטי!", סגנונו המבריק והשקפותיו האינטליגנטיות הביאו לו שם ותהילה.
ככותב פורה ובהיר של תאוריה פוליטית, ערך גראמשי מספר עיתונים סוציאליסטיים באיטליה. בשנת 1919 ייסד יחד עם פלמירו טוליאטי את העיתון "ל'אורדינה נואובו" (סדר חדש – זהו אף שמה של תנועה פשיסטית איטלקית משנות ה-60 שאינה קשורה לגראמשי) ותרם לעיתון "לה צ'יטה פוטורה". בתקופה זו עמד בקשר עם הכלכלן פיירו סראפה.
הקבוצה שמסביב ל"ל'אורדינה נואובו" הפכה קשורה באמדיאו בורדיגה, ובתנועה הקומוניסטית האבסטנציוניסטית, שהייתה פלג של המפלגה הסוציאליסטית. (אבסטנציוניסטית – נמנעת. תנועה זו לא דגלה בהשתתפות במשחק הדמוקרטי באיטליה, וטענה כי ההליך הדמוקרטי הוא עניינה של הבורגנות). תנועה זו הקימה ב-21 בינואר 1921 את המפלגה הקומוניסטית האיטלקית. גראמשי היה למנהיג התנועה מיצירתה, אם כי ראה עצמו כפוף לבורדיגה עד שנת 1924, עת סולק בורדיגה מן המפלגה.
בשנת 1922 הופיע גראמשי ברוסיה בפני כנס האינטרנציונל העולמי הרביעי במוסקבה ופגש שם את ג'וליה שוחט (Giulia Schucht), כנרת צעירה ממוצא יהודי, לעתיד אשתו ואם שני ילדיו.
המשלחת לרוסיה הייתה בעת ובעונה אחת עם עליית הפשיזם באיטליה, וגראמשי שב למולדתו עם הוראות לחזק את אחדות מפלגות השמאל כנגד הפשיזם. חזית כזו צריכה הייתה להתרכז סביב המפלגה הקומוניסטית, דבר שהיה מאפשר שליטה מרכזית ממוסקבה, אך המפלגות האחרות סירבו לכך. הסוציאליסטים היו מפלגה בעלת מסורת ארוכה באיטליה, והקומוניסטים נראו רדיקליים מדי וצעירים מדי. רבים האמינו שקואליציה שמובלת על ידי הקומוניסטים לא תצליח להגיע לשיח המרכזי בפוליטיקה האיטלקית, ותהיה מבודדת.
ב-1924 נבחר גראמשי כציר לפרלמנט ממחוז ונטו, הוא החל בארגון עיתון לתנועתו שייקרא "ל'אוּניטה" (האחדות). גרמשי עבד ברומא בעוד משפחתו שהתה במוסקבה.
ב-1926 גרמו תמרוניו של סטלין בתנועה הקומוניסטית לגראמשי לכתוב מכתב אל הקומינטרן שבו הדגיש כמה משגיאותיו של המנהיג. טוליאטי, במוסקבה, קיבל את המכתב, קראו, והחליט שלא לפרסמו. אירוע זה גרם לשבר שלא אוחה מעולם בין גראמשי ובין טוליאטי.
ב-8 בנובמבר 1926 אסרה המשטרה הפשיסטית את גראמשי, על אף שנהנה מחסינות פרלמנטרית. הוא הובא לבית האסורים המפורסם ברומא "רג'ינה צֶ'לי". שם נדון לחמש שנות מאסר מבודד באי הנידח אוסטיקה. בשנה שלאחר מכן נידון למאסר של 20 שנה בטורי, ליד בַּארִי. מצבו גרם לבריאותו להידרדר, אך הוא לא קיבל טיפול ראוי משלטונות הכלא. מגעים בין ברית המועצות ואיטליה על החלפת אסירים פוליטיים נכשלו, וב-1934 הידרדרה בריאותו עד כדי כך ששוחרר בתנאים מגבילים. הוא מת ברומא בגיל 46, מעט לאחר שחרורו, ונקבר בבית הקברות הפרוטסטנטי ברומא.
כתביו ומחשבתו הפוליטית.
גראמשי כתב בכלא למעלה משלושים מחברות הכוללות אנליזה פוליטית והיסטורית. כתבים אלו, הידועים כ"מחברות בית הכלא", כוללים את הגיגיו של גראמשי על ההיסטוריה של איטליה ועל הלאומיות, כמו גם רעיונות בחקר המרקסיזם, התאוריה הביקורתית והתאוריה החינוכית הקשורים בשמו. המחברות נכתבו בניסיון מודע להשאיר צוואה אינטלקטואלית בעלת ראיית עולם כוללת, ואף מתוך תקווה שאם יוכל לצאת מהכלא תהיה לו תוכנית פעולה ממשית.
רק לאחר תבוסת הפשיזם באיטליה, ולאחר מלחמת העולם השנייה ניתן היה לפרסם את המחברות. במשך שנים לא היו ידועים כתבי גראמשי מחוץ לאיטליה, אך משתורגמו לשפות נוספות, ולאנגלית בשנות ה-60 של המאה ה-20, הם זכו להתעניינות רבה בעולם ולהשפעה מרובה.
הרעיונות העיקריים שפיתח גראמשי במחברות אלו הם:
הגמוניה.
הגמוניה הייתה רעיון שלפני גראמשי השתמשו בו מרקסיסטים כלנין על מנת לתאר את המנהיגות הפוליטית של הפרולטריון במהפכה דמוקרטית, אך גראמשי פיתח אותו לכלל אנליזה חריפה המסבירה מדוע המהפכה הסוציאליסטית "הבלתי נמנעת" שאותה חזה המרקסיזם האורתודוקסי עדיין לא אירעה בתחילת המאה ה-20, והקפיטליזם נראה מלא חיים מתמיד.
על פי גראמשי, הקבוצה ההגמונית בחברה היא זו המצליחה להכתיב לאחרות את הגדרתה באשר ל"כללי המשחק" שעל פיהם צריכה המדינה להתנהל. מאבקי כוח המתנהלים במצב הגמוני, פועלים במסגרת הכללים שמכתיבה הקבוצה ההגמונית ואינם מתייחסים לעקרונות היסוד.
נוסף לשליטתה בתרבות, הקבוצה ההגמונית שולטת גם במוסדות המרכזיים של המדינה והחברה האזרחית. באמצעות שליטה משולשת זו - בתרבות, במדינה ובחברה - מצליחה הקבוצה ההגמונית להנחיל באופן נרחב את תפיסת העולם המשרתת אותה לאוכלוסיית המדינה.
הקפיטליזם, הציע גראמשי, שלט לא רק באמצעות כפייה ואלימות, אלא באמצעות אידאולוגיה דרך הגמוניה פוליטית וכלכלית שבה הפכו ערכי הבורגנות ל"מוסר המקובל". תרבות הקונצנזוס שהתפתחה בקרב אנשי מעמד הפועלים זיהתה את טובת המעמד שלהם עם טובת הבורגנות וסייעה לשמירת המצב הקיים. מעמד הפועלים זקוק ליצירת תרבות משלו, שתיפטר מן הרעיון שערכי הבורגנות מייצגים "ערכים נורמליים" בחברה, ותמשוך את מעמד הפועלים ואת האינטליגנציה לטובת העניין הפועלי. לנין טען כי תרבות היא אך תוספת בלתי דרושה למטרות הפוליטיות, אך עבור גראמשי השגת הכוח באמצעות ההגמוניה התרבותית היא המטרה הראשונית שיש להשיג. לדעת גראמשי כל מעמד החפץ לשלוט בתנאים שנוצרו במדינה המודרנית חייב לנוע אל מעבר לאינטרסים הכלכליים הצרים שלו, להשפיע באופן אינטלקטואלי ומוסרי, ולכרות בריתות המבוססות על פשרות עם מגוון כוחות. גראמשי קורא לאיחוד זה של כוחות חברתיים "בלוק היסטורי", מושג הלקוח מן האנרכו-סינדיקליסט ז'ורז' סורל.
גראמשי הצהיר כי במערב, ערכי התרבות הבורגנית היו קשורים בנצרות ולפיכך רוב טיעוניו כנגד התרבות ההגמונית מתרכזים בהתקפה על הערכים המוסריים והדתיים הנוצריים. הוא התרשם מכוחה של הנצרות הקתולית להשפיע על האנשים, ומדאגתה למנוע פער בין הדת שהטיפו להמונים, ובין הדת שלמדו המשכילים. גראמשי האמין שמשימתו של המרקסיזם היא לשדך את הביקורת האינטלקטואלית על הדת של תרבות הרנסאנס וההומניזם לאלמנטים של הרפורמציה אשר זכו לאהדת ההמונים. עבור גראמשי המרקסיזם יוכל להתגבר על הדת רק אם ישכיל לענות על צורכיהם הרוחניים של ההמונים, וכך יוכלו ההמונים להתייחס אליו כביטוי אותנטי של התנסותם האישית.
האינטלקטואלים והחינוך.
גראמשי ייחד מחשבה רבה לתפקיד האינטלקטואלים בחברה. הצהרתו המפורסמת היא כי כל האנשים הם אינטלקטואלים, וכי לכולם יש יכולות לחשיבה אינטלקטואלית ורציונלית, אך לא כל האנשים זוכים לתפקד בחברה כאינטלקטואלים. הוא טען שהאינטלקטואלים המודרניים אינם רק ה"מדברים" כי אם המנהלים והמארגנים המעורבים במשימה המעשית של בניין החברה. יתרה מכך, הוא הבחין בין ה"אינטליגנציה המסורתית" הרואה את עצמה (באופן שגוי) כמעמד נפרד בחברה, והקבוצות החושבות שכל מעמד מוציא משורותיו באופן אורגני. אינטלקטואלים "אורגנים" כאלו אינם מתארים את חיי החברה על פי כללים מדעיים, אלא מבטאים אותם על פי שפתם התרבותית הנפרדת, על פי חוויותיהם ותחושותיהם. הצורך בייצור תרבות נפרדת למעמד הפועלים מתייחס לקריאתו של גראמשי לחינוך שיוכל לייצר אינטלקטואלים ממעמד הפועלים, אשר יהיו שותפים לרצונותיהם של ההמונים. רעיונותיו על מערכת חינוך שתיבנה לצורך זה קשורים למושגים של "פדגוגיה ביקורתית" ו"חינוך להמונים", שעיבד פאולו פריירה בברזיל. מסיבה זו העוסקים בחינוך מבוגרים ובחינוך ההמונים מתייחסים לגראמשי כהוגה חשוב עד עצם היום הזה.
המדינה והחברה האזרחית.
תאוריית ההגמוניה של גראמשי קשורה לרעיון שהחברה הקפיטליסטית שולטת בשילוב של כוח והסכמה. אין להבין את המדינה במובן הצר כגוף שולט אלא יש להבחין בין "חברה פוליטית" שהיא זירת השליטה של המוסדות הפוליטיים, המשפטיים והחוקתיים, ובין "החברה האזרחית" הנראית כספירה הפרטית, הכוללת את הכלכלה. הראשונה היא ממלכת הכוח, והשנייה היא ממלכת ההסכמה. הוא מדגיש כי החלוקה היא מושגית בלבד ושיש מקומות בהם שתי הממלכות חופפות. גראמשי טוען כי בקפיטליזם המודרני הבורגנות יכולה לשמר את שליטתה הכלכלית בכך שהיא מתירה להעלות טענות מסוימות באמצעות איגודי עובדים ומפלגות פוליטיות. טענות אלו מועלות בחברה האזרחית, ונענות בחברה הפוליטית. כך, הבורגנות משתלבת ב"מהפכה פאסיבית" בכך שהיא יוצאת אל מחוץ לתחום האינטרס הכלכלי הצר שלה ומתירה שינוי מסוים בהגמוניה שלה. גראמשי טוען כי תנועות כמו הרפורמיזם והפשיזם, כמו גם השינויים בהנהלות בתי החרושת, ושיטת פס הייצור מבית מדרשו של הנרי פורד הם דוגמאות לכך. בעקבות ניקולו מקיאוולי הוא טוען ש"הנסיך המודרני" – המפלגה המהפכנית – הוא הכוח אשר יאפשר למעמד הפועלים לפתח אינטלקטואלים אורגניים וליצור הגמוניה אלטרנטיבית בתוככי החברה האזרחית. עבור גראמשי, האופי המורכב של החברה האזרחית המודרנית פירושו כי הטקטיקה היחידה שיש בכוחה להמעיט מההגמוניה של הבורגנות ולהוביל אל הסוציאליזם היא "מלחמת עמדות" (בנוסח "מלחמת חפירות"). "מלחמת התנועה", ההתקפה החזיתית אותה ניסו הבולשביקים בברית המועצות היא מתאימה יותר לחברה ה"קדומה" שהייתה קיימת ברוסיה בימי הצאר.