קרל היינריך מרקס נולד ב-5 במאי 1818 בטרייר, עיר בחבל הריין שבפרוסיה (כיום גרמניה), למשפחה ממוצא יהודי-אשכנזי רבני. במשפחת אמו הנרייטה פרסבורג, שהייתה יהודיה-הולנדית, כיהנו הגברים כרבנים במשך מאות שנים. אביו, היינריך (הירשְל), היה בן למשפחת הלוי מטרייר, שאבותיה כיהנו כרבני העיר עוד מ-1723. היינריך, עורך דין מן המעמד הבינוני המשכיל, החזיק בבעלותו כרמים באזור. בזמן השלטון הנפוליאוני בחבל הריין החל לעסוק בעריכת דין, בעקבות האמנסיפציה החלקית לה זכו היהודים תחת השלטון הצרפתי. אולם עם חזרתה של טרייר לריבונות פרוסית, הוחל הצו מ-1812, שאסר על יהודי פרוסיה לכהן במשרות ציבוריות ולעסוק במקצועות חופשיים. מכיוון שיהדותו הייתה עבורו מוצא נתון ולא אמונה עמוקה, בחר היינריך להיטבל לנצרות הפרוטסטנטית, עוד בטרם נולד בנו קרל. הבחירה בנצרות פרוטסטנטית לא הייתה מקרית: אף על פי שפרוטסטנטיזם הייתה דת מיעוט באזור טרייר, לעומת הרוב הקתולי, האליטה העירונית הורכבה מפרוטסטנטים. מרקס האב, שלאחר התנצרותו היה להיינריך באופן רשמי, הושפע מרעיונות החירות הצרפתיים, אך נזהר שלא להביע דעות מהפכניות. אמו של מרקס, הייתה נבערת מדעת, ובראש מעייניה עמד הטיפול בבני המשפחה. על פי הודאתה שלה, סבלה מ"אהבת אם מופרזת" לילדיה. הנרייטה ובנה ניהלו קשר רופף למדי לאחר שהלה עזב את טרייר. חרף זאת, הוסיף מרקס לנסות ולהתחנף אליה, על מנת שתשלח לו מעט כסף - דבר שלרוב העלה חרס בידו. על ילדותו של קרל מרקס ידוע מעט מאוד. הוא נולד שלישי מבין תשעה ילדים, והיה לבן הגדול לאחר מות אחיו הבכור מוריץ ב-1819. עד 1830 קיבל חינוך פרטי, ואז החל ללמוד בתיכון של טרייר, שמוריו היו ברובם הומניסטים ליברלים, ומנהלו הוגו ויטנבאך - ידידו של היינריך מרקס. כשהיה בן 17, באוקטובר 1835, נסע מרקס ללמוד באוניברסיטת בון. בריאותו הרופפת, שאפיינה אותו כבר בגיל הצעיר, הדאיגה את הוריו. במכתב שקיבל מהם בראשית לימודיו, הם הפצירו בו "להימנע מכל דבר שעלול להחמיר את המצב (...) שלא לשתות הרבה יין או קפה ושלא לאכול מאכלים חריפים (...)". אמו ביקשה שלא יעשן כלל, ושלא יאחר לישון או יקום בשעה מוקדמת מדי.
זמן קצר לאחר יום הולדתו ה-18 קיבל מרקס פטור משירות בצבא הפרוסי, בשל חולשת ליבו. לאחר מכן זכה ל"תעודת שחרור" רשמית מאוניברסיטת בון, ששיבחה את הישגיו האקדמיים, אך ציינה גם את העובדה שקיבל עונש ריתוק של יום אחד, בשל הפרעה לסדר: את העונש קיבל לאחר לילה של השתכרות והתנהגות פראית. מרקס אמנם התהולל במהלך לימודיו בבון, אך נטל במקביל חלק בחוג שנקרא 'מועדון המשוררים'. שם, במסווה של דיונים על שירה ורטוריקה, התנהלו שיחות חתרניות על פוליטיקה ומדינה. באחת הקטטות התכופות שפרצו ב-1836 בבתי המרזח בבון, נקלע מרקס לדו-קרב מול חייל בחופשה, חבר ה"בורוסיה קורפס", ארגון צעירים לאומני שדרש מן הסטודנטים ההוללים להישבע אמונים לאצולה הפרוסית. למרבה מזלו, נפצע מרקס קלות בראשו. התנהגותו ההוללת של מרקס הצעיר, הביאה את אביו לתמוך ברצונו לעבור ללמוד בסביבה רצינית ומקצועית יותר באוניברסיטה של ברלין.
הגליאניזם ואקטיביסטיות מוקדמת: 1836-1843.
מספר חודשים לפני שהחל ללמוד בברלין, בילה מרקס את הקיץ בעיר ילדותו, שם התארס עם יוהאנה "יני" פון וסטפאלן , ברונית בעלת השכלה מהמעמד הפרוסי הגבוה. יוהאנה וקרל מרקס היו חברי ילדות. מאחר שביטלה את אירוסיה עם אדם אחר כדי להינשא למרקס, אירוסיהם לא התקבלו בעין טובה בעיני החברה, וכן בגלל הבדלי המעמדות וההבדלים האתניים ביניהם. כל זה לא הפריע למרקס לרקום ידידות עמוקה עם חמיו לעתיד, לודוויג פון וסטפאלן, ומאוחר יותר יקדיש לו מרקס את עבודת הדוקטורט שלו.
באוקטובר 1836 הגיע מרקס לברלין, ואף על פי שלמד משפטים, הוקסם מפילוסופיה וחיפש אחר דרך לשלב בין שתיהן, מתוך אמונה עמוקה ש"ללא פילוסופיה דבר לא יוכל להתגשם". מרקס החל להתעניין במשנת הפילוסוף הגרמני שנפטר אך זמן קצר לפני כן, הגל, שרעיונותיו היו שנויים במחלוקת עמוקה בקרב רבים מאנשי הרוח באירופה. את הפילוסופיה של הגל הוא למד מתלמידו המובהק, היהודי המומר, אדוארד גנז. ההתעניינות סחפה אותו, והוא הצטרף לקבוצה הנודעה בשם "הגליאנים צעירים", אנשי רוח ומחשבה רדיקליים. שם פגש בצעירים נוספים שחלקו את השקפת עולמו. מרקס ושאר ההגלייאנים הצעירים דחו את טענות הגל בנוגע למטאפיזיקה, אך אימצו את שיטת הדיאלקטיקה ההגליאנית שלו, במטרה לבקר את סדרי החברה, הפוליטיקה והדת הקיימים, מתוך נקודת מבט הומנית.
מרקס היה סופר פורה, וכבר ב-1837 הוציא לאור מספר ספרים, ואף כתב מספר ספרי שירה ליוהאנה, שמעולם לא יצאו לאור.
תחת הכותרת "שירי פרא", אותם הקדיש לארוסתו, כתב מרקס שירים מלאי זעם ומשיכה לאלימות, שכללו גם דברים אנטישמיים: "עלינו להבחין ביהודי האמיתי, לא ביהודי של השבת... את מה מקדש היהודי בעולם הזה? את הרוכלות... הכסף הוא אל הנקמות של עם ישראל, לצדו אין קיום לשום אל אחר... האמנסיפציה של היהודים היא האמנסיפציה של האנושות מהיהדות".
מרקס החל להתעניין בנושאים הומניים: הוא למד אנגלית ואיטלקית, תולדות האמנות, ואף תרגם מספר קלאסיקות לטיניות. תזת הדוקטורט שלו, שתוארה כ"מסמך אמיץ המנסה להוכיח את עליונות חכמת הפילוסופיה על התאולוגיה", הייתה שנויה במחלוקת בקרב עמיתיו השמרניים והמאמינים באוניברסיטת ברלין. מרקס שלח את התזה לאוניברסיטת פרידריך שילר אשר בעיר יינה, שהייתה ליברלית יותר, ואכן באפריל 1841 קיבל על סמך התזה תואר Ph.D מאת האוניברסיטה.
מרקס שקל קריירה אקדמית, אך אפשרות זו נחסמה עבורו על ידי הממשל השמרני, שהקים אופוזיציה לדעות ליברליות, ובמיוחד אל אלו של ההגליאניים הצעירים. הוא עבר לקלן בשנת 1842 והתמנה לעורך "עיתון הריין" (Rheinische Zeitung), עיתון צעיר, רפורמיסטי ופרו-דמוקרטי, שהתנגד לשלטון הפרוסי. תחת הנהגת מרקס הפך העיתון להיות רדיקלי יותר ויותר; הוא ביקר את היחסים בין ההנהגה הפרוסית לכנסייה, פרסם מאמרים על מצבו של מעמד הפועלים ואף הציע להחליף את המונרכיה הפרוסית במדינה דמוקרטית. שם החל להשמיע את דעותיו הראשונות בנוגע לסוציאליזם. מרקס ביקר את הממשלות האירופאיות הימניות, אך גם לא חסך שבטו מגורמים ליברליים וסוציאליסטים, שלדעתו לא היו אפקטיביים מספיק או הזיקו יותר מאשר הועילו. העיתון החל למשוך אש מצד הממשל, והוגבל על ידי צנזורה קפדנית. לדברי מרקס, "העיתון שלנו מוצג למשטרה על מנת שתרחרח בו, ואם היא מריחה משהו שאינו נוצרי או שאינו פרוסי, אין העיתון רשאי לרדת לדפוס". אחרי שפורסמה בעיתון כתבת ביקורת רחבה כנגד המונרכיה הרוסית, ניקולאי הראשון, קיסר רוסיה דרש שהעיתון ייסגר וייצא מחוץ לחוק, ובשנת 1843 ממשלת פרוסיה נענתה לכך והעיתון נסגר. שבע שנים לאחר אירוסיהם, ביוני 1843, מרקס נשא לאישה את יוהאנה.
פריז: 1843-1845.
בעקבות הקמתו של העיתון "ספרי השנים הגרמנים-צרפתים" (Deutsch–Französische Jahrbücher), שניסה לאחד את הסוציאליסטים הגרמנים והצרפתים, עקרו מרקס ואשתו בשנת 1843 לפריז, ומרקס היה לאחד מעורכי העיתון. שנה לאחר מכן נולדה בתם, יוהאנה. אף על פי שהעיתון נועד למשוך כותבים צרפתים וגרמנים כאחד, רובו היה גרמני. הכותב הלא-גרמני היחיד היה מיכאיל באקונין, אנרכו-קומוניסט רוסי. ב-1844 פורסם בעיתון חיבורו המפורסם "לשאלת היהודים", בו טען שהיהדות מייצגת את השתקפותן של הכלכלה הקפיטליסטית והחברה הבורגנית. הסיבה לכך אינה טבועה בדת עצמה אלא בעקבות מאות השנים שבהן הורחקו היהודים מעיסוקים רבים, ולכן פנו להתפרנס בעיקר ממסחר ומבנקאות. רק גיליון אחד של העיתון המדובר יצא לאור, וזכה לתפוצה רחבה בעיקר בזכות שיריו הסאטיריים של היינריך היינה כנגד לודוויג הראשון, מלך בוואריה. בעקבות השירים הללו, העיתון נאסר להפצה במדינות הגרמניות, נפסקה הזרמת הכספים אליו והוא נסגר לאחר שהוציא לאור את גיליונו הראשון.
באוגוסט 1844, פגש מרקס בקפה דה לה רז'אנס את פרידריך אנגלס, פילוסוף גרמני יליד פרוסיה שהחזיק בדעות דומות לו בנושאי שוויון חברתי. החברות והשותפות ביניהם עתידה הייתה להימשך עד מותו של מרקס. יש הטוענים כי אנגלס הביא לידיעתו של מרקס את מצבו של מעמד הפועלים וקירב אותו לכלכלה. אנגלס גם מימן את מרקס לאורך כל תקופת היכרותם.
במהלך שהותו בפריז (אוקטובר 1843 – ינואר 1845), מרקס שקע בלימודים אינטנסיביים של נושאים כגון כלכלה פוליטית (לימוד הגותם של אדם סמית', דייוויד ריקארדו, ג'יימס מיל וכו'), הסוציאליזם הצרפתי (במיוחד הגותם של קלוד-אנרי דה סן-סימון, שארל פורייה) והיסטוריה של צרפת. הוא עתיד להמשיך כל חייו לעסוק בתחום הפוליטיקה של הכלכלה, שיסתכם בסופו של דבר בהוצאה לאור של המסה הכלכלית שלו – סדרה של שלושה כרכים בשם "הקפיטל". שלוש השפעות מרכזיות היו לו על פיתוח המרקסיזם: הדיאלקטיקה של הגל, הסוציאליזם האוטופי הצרפתי והכלכלה האנגלית.
אין ספק שהגדרה כללית של זרם המרקסיזם כבר הייתה קיימת במוחו של מרקס בסוף 1844, אך נשארו פרטים רבים באידאולוגיה הכלכלית-פוליטית שלו שהיה צריך לעבד – ועל כן החל בכתיבת "כתבי היד הכלכליים-פילוסופיים", שפורסמו רק בשנות ה-30 של המאה ה-20. כתבי היד האלה עסקו במספר נרחב של נושאים ובהם פיתח את היסודות התאורטיים וההומניסטיים של ביקורתו על החברה הבורגנית. מושג מרכזי שפותח בחיבור זה היה ה"ניכור", המאפיין את החברה הקפיטליסטית.