רוזנברג החל בלימודי אדריכלות באוניברסיטה הטכנית של ריגה בסתיו 1910. במהלך לימודיו היה פעיל באחוות הסטודנטים והתוודע לדרמות של ריכרד וגנר. בשנת 1915 עבר לגור במוסקבה. בתחילת 1917 החל בכתיבת מכתמים ומאמרים קצרים. מאמרים אלה כתב עד נובמבר 1919 ופרסמם בשנת 1943. במהלך המהפכה הרוסית התחזקה האנטישמיות בקרבו, לאחר שרוב היהודים אותם פגש ברוסיה היו בעלי אוריינטציה שמאלית פרו-בולשביקית.
את לימודי האדריכלות סיים באביב 1918, שב לטאלין והיה עד לקרבות בין כוחות הצבא האדום לצבא הגרמני. בטאלין כתב כמה מאמרים אנטישמיים, בהם טען בעד שלילת זכויות האזרח מן היהודים, ועבד כמורה לציור בגימנסיה.
בסוף נובמבר 1918 יצא לברלין ורצה להמשיך ללונדון, כי סבר שבריטניה היא היחידה המסוגלת ללחום בבולשביזם. כיוון שהיה בעל נתינות רוסית, סירבו הבריטים לנפק לו אשרה כי חששו מחדירת אלמנטים מהפכניים לארצם. מברלין עבר למינכן, נפגש עם הגולה האוקראיני פבלו סקורופדסקי והתחבר עם רוסים אנטי-קומוניסטים. במקביל נמנה עם ראשוני המצטרפים ל"מפלגת הפועלים הגרמנית" (בינואר 1919), שהייתה הבסיס ממנו קמה המפלגה הנאצית. אדולף היטלר הצטרף למפלגה רק באוקטובר באותה השנה. עד תחילת שנת 1923 החזיק רוזנברג באזרחות רוסית, היה דל אמצעים וזכה לאשרת שהייה במינכן רק בזכות המו"ל האנטישמי יוליוס פרידריך להמן, שפרס עליו את חסותו.
האידאולוגיה של רוזנברג.
רוזנברג הושפע מהאידאולוגיה הימנית-קיצונית הרוסית, שהייתה רווחת גם בקרב רבים מהגולים הרוסים בגרמניה. אלה האמינו שהקומוניזם הוא המצאה יהודית הבאה לשרת את האינטרסים היהודיים (יודאו-קומוניזם), והם שגרמו להפיכת אוקטובר ברוסיה. "הבונים החופשיים" הואשמו בגרימת מלחמת העולם הראשונה.
רוזנברג האמין שהקפיטליזם והקומוניזם אינם דבר והיפוכו, אלא שני אמצעים בהם משתמשת "היהדות העולמית" כדי להשתלט על העולם. מימיו הראשונים בגרמניה עסק בהפצת המסמך האנטישמי "הפרוטוקולים של זקני ציון" והושפע מהגולה הרוסי האנטישמי פיודור וינברג. בתקופה זו כתב את ספריו הראשונים בתחום אידאולוגיית הגזע: "הציונות, אויבת העם", "אי מוסריות בתלמוד" ו"עקבות היהודים במרוצת הדורות". רוזנברג היה חבר בארגון "ההתאחדות לשיקום כלכלי" (Wirtschaftliche Aufbau-Vereinigung) שעם חבריו נמנו מונרכיסטים-רוסים ולאומנים גרמנים. מטרת הארגון הייתה לחתור נגד המשטר הסובייטי ולחזק את שיתוף הפעולה הגרמני-רוסי.
אידאולוג ועורך ביטאון המפלגה.
רוזנברג התמנה בשנת 1923 לעורך העיתון "פלקישר באובכטר" (בגרמנית: Völkischer Beobachter. בתרגום חופשי: "המשקיף העממי"), עיתונה של המפלגה הנאצית. באותה שנה השתתף בפוטש במרתף הבירה אולם לא הועמד לדין. היטלר, שנדון לתקופת מאסר של חמש שנים, הטיל על רוזנברג את ניהול המפלגה הנאצית.
רוזנברג הקים את תנועת "הקהילה של גרמניה הגדולה" (Großdeutsche Volksgemeinschaft; GVG) אולם נדחק בה מן ההנהגה על ידי יוליוס שטרייכר והרמן אסר.
למרות שהמינוי ודאי החמיא לרוזנברג, היה זה צעד מחושב מצד היטלר, אשר התבטא כי היה זה מהלך אסטרטגי שהתבסס על אופיו החלש וחוסר האמביציה של רוזנברג, על מנת למנוע מראש המפלגה להשתלט עליה בעוד היטלר בכלא. מאז ועד מותו הפגין היטלר יחס אמביוולנטי כלפי רוזנברג. מצד אחד ראה בו אינטלקטואל ואידאולוג חשוב ביותר של התקופה החדשה אך מצד שני חש דחייה מחולשת אופיו של רוזנברג, הססנותו וחוסר יעילותו המעשית.
היטלר, לאחר שחרורו מן הכלא, הקים את המפלגה הנאצית מחדש ב-27 בפברואר 1925 ובתחילת מרץ התפרקה תנועתו של רוזנברג וחבריה הצטרפו למפלגה הנאצית.
בשנת 1929 ייסד רוזנברג בהוראת היטלר את "הליגה לתרבות הגרמנית" שמטרתה הייתה מלחמה ב"אמנות המנוונת". כאמנות מנוונת נחשבו בין השאר אדריכלות הבאוהאוס, האקספרסיוניזם בציור ושיטת שנים-עשר הטונים במוזיקה. אלה זכו לתואר הגנאי "בולשביזם תרבותי" והוכפשו בידי הליגה.
רוזנברג נבחר לרייכסטאג באוקטובר 1930 ופרסם את ספרו "המיתוס של המאה העשרים" (בפרפרזה ברורה על ספרו של יוסטון סטיוארט צ'מברלין "יסודות המאה התשע עשרה"). ספר זה זכה לפרסום ותפוצה עצומה ונמכר בלמעלה ממיליון עותקים, שני רק ל"מיין קאמפף". הרעיון העיקרי של הספר הוא שהיסטוריה של עמים בכלל ושל העם הגרמני בפרט, חייבת להכתב מחדש במונחים של מאבק בין גזעים. רוזנברג ראה ביוון העתיקה את אחד המקורות של הגזע הנורדי. מכאן נובע גזע בעל תכונות ייחודיות באיכותן בתחומי היצירתיות, התרבות והמדיניות. על כן בולט פוטנציאל גזע זה במשך ההיסטוריה האנושית בהישגיו יוצאי הדופן. לגזע הזה קמו אויבים המנסים, ואף מצליחים במידה רבה, להביא לנוונו ולזיהום דמו הנעלה. אויבים אלו הם הדמוקרטיה והיהדות עם יצירי כפיה - הקומוניזם והקתוליות. ניוון הגזע הנורדי מתבטא בחולשתו, בכניעתו להון הקפיטליסטי היהודי, במתן אפשרות ליהדות ולדמוקרטיה להשתלט על העיתונות והביקורת, בהיווצרות "אמנות מנוונת" ועוד. הדרך שבה הגזע צריך להילחם באויביו היא דרך החזרה לערכים הישנים של הגזע והעם וטיהור הדם הגרמני מהמזהמים שטמאו אותו.
באותה עת הועלו בעיתונות טענות שלמרות דעותיו האנטישמיות הקיצוניות "אין בדמו אף טיפה אחת של דם גרמני ואבותיו הם רק לטבים, יהודים, מונגולים וצרפתים. טיעונים מן הסוג הזה הופיעו גם ב"ל'אוסרווטורה רומאנו", עיתון הוותיקן, בשנת 1937.
הוא הוכרז כראש משרד יחסי החוץ של המפלגה הנאצית בשנת 1933, אך לא היה לו חלק ממשי בעליית המפלגה לשלטון בשנה זו. בשנת 1934 מינה אותו היטלר למפקח על ההכשרה והחינוך האידאולוגי של חברי המפלגה.
בשנת 1935 הוא אושפז במרפאת הוהנליכן לשלושה שבועות, ובשנת 1936 אושפז בה לשישה שבועות, מסיבות שבחלקן היו פסיכיאטריות.
בשנת 1940 מונה למנהל "בית הספר הגבוה של המפלגה הנאצית" בו קיבלו פקידים נאצים חינוך אידאולוגי. כחלק מבית ספר זה הקים רוזנברג את המכון לחקר השאלה היהודית, שמטרתו לתעד ולחקור את היהדות לאחר שזו תושמד. צו מן ה-2 באפריל 1941 מינה את רוזנברג כמפקדו של המבצע לאיסוף כל חומר הנוגע לחקר "השאלה היהודית" והעניק לו סמכות להפקיע כל "רכוש יהודי ללא בעלים", בפרט אוספי ספרים גדולים מכל רחבי העולם. פירוש הצו היה הפעלת צוותי משימה ("מטה מבצע רוזנברג", Einsatzstab Reichsleiter Rosenberg, נקרא גם בקיצור ERR), שעסק בהעברת ספריות שלמות ובהן ספרי קודש וספרים עבריים נדירים ריהוט, תכשיטים, דברי אומנות, חפצי יודאיקה, ועוד. מכל המדינות שהיו תחת הכיבוש הנאצי. על פי הרישומים של הסוכנים, השלל שנבזז מילא 1,418,000 קרונות רכבת.
השר לענייני המזרח.
לאחר מבצע ברברוסה, שבו נכבשו שטחים נרחבים מברית המועצות בשנת 1941, מונה רוזנברג לשר ה"אוסט-מיניסטריום" האחראי על ניהול השטחים הכבושים במזרח - נציבות הרייך אוסטלנד. בתפקיד זה הוציא לפועל את כל תוכניותיו הגזעניות, והיה בין האחראים לפשעי מלחמה רבים, לשיעבוד האוכלוסייה הסלאבית בשטחים אלו, לפעולות השמדת יהודים בשטחים שהיו נתונים לפיקוחו, ולפשעים רבים ומגוונים נגד האנושות. כ"שר לענייני המזרח" נמצא בהתנגשות סמכויות מתמדת עם היינריך הימלר. כבעמדות כוח נוספות במשטר הנאצי, הכיבוש והשיעבוד של עמי המזרח, והשמדת העם היהודי, היו נתונים לסמכותם של גורמים רבים, וכל אחד רצה עוד נתח ב"עוגה". לבסוף מונה ריינהרד היידריך כקצין תיאום בין האס אס ובין ה"אוסטמיניסטריום". ברוח זו יש לראות את השתתפות שני אנשי משרדו של רוזנברג, אלפרד מאייר וגיאורג לייבברנדט, בועידת ואנזה ב-20 בינואר 1942, שבה תיאם היידריך את המשך השמדת העם היהודי עם כל הגורמים שהיה להם חלק בביצועה.
לא רק עם היינריך הימלר הסתכסך רוזנברג. יריבות קשה הייתה בינו לבין יוזף גבלס, שר התעמולה ומנהל המשרד הרייך לתעמולה ולהשכלת העם. לשניהם היו תפקידים דומים וכל אחד ראה בשני גורם מפריע לביצוע משימותיו. עם הרמן גרינג ומשרדו הסתכסך רוזנברג בעיקר בענייני שוד וביזה, בזמן שרוזנברג אסף את הרכוש הגנוב, כספרים ופרטי אומנות, למטרות מחקר ותרבות, גרינג לקח כמויות גדולות של חפצי אומנות למטרותיו האישיות. במסמך שנחשף במשפטי נירנברג מופיע סדר העדיפות בלקיחת הביזה. הבחירה הראשונה מגיעה להיטלר (או נציגיו), אחר כך לאנשי גרינג ורק לאחר מכן לרוזנברג ולמוסדות המחקר שלו. מרטין בורמן שהיה מזכירו של היטלר גם לא היה מידידיו של רוזנברג. רוזנברג האמין שבורמן חוסם את קשריו עם הפיהרר ומונע ממנו לקדם את רעיונותיו האידאולוגיים לעתיד הרייך.
בתום מלחמת העולם השנייה.
לאחר התאבדות היטלר, עזב רוזנברג בסוף אפריל את ברלין עם משפחתו לאויטין, מתוך כוונה להמשיך משם לפלנסבורג ולשמש כשר בממשלת פלנסבורג. ב-6 במאי 1945 הודיע לו דניץ בכתב שאין בכוונתו למנות אותו לשר בממשלה והמליץ לו להיכנע לכוחות הבריטיים.
רוזנברג נתפס בידי בעלות הברית לאחר סיום המלחמה, ב-18 במאי, בבית חולים צבאי בו שהה בשל שטף דם בקרסול רגלו השמאלית.
במשפטי נירנברג הואשם בקשר לקשירת פשעים כנגד השלום, תכנון, ייזום וניהול מלחמה תוקפנית, פשעי מלחמה ופשעים נגד האנושות.
בעודו ממתין למשפטו כתב:
הוא הורשע ב-1 באוקטובר ונדון למוות. הוצא להורג בתלייה ב-16 באוקטובר 1946.
ביוני 2013 פורסם כי ממשלת ארצות הברית איתרה באחרונה 400 עמודים מתוך יומנו של רוזנברג, ובו בין השאר פרטים על פגישות בין רוזנברג לבין היטלר ובכירים נאצים נוספים כמו היינריך הימלר והרמן גרינג, ופרטים הנוגעים לכיבוש ברית המועצות והתוכנית להשמדת היהודים. היומן הועבר למוזיאון השואה האמריקאי, בוושינגטון.
משפחתו.