גדל בפלטיצ'ן ולמד תורה מפי אביו במשך שנים רבות. בשנים 1919–1930 למד בבית הספר היהודי בשפה הרומנית ובתיכון העיוני בעיר. בגיל 14, אחרי שגילה בפומבי עמדה נגד זיכויו של ניקולאיה טוטו, רוצח הסטודנט היהודי דוד פאליק, נעצר ונשפט בהאשמת חילול שמם של המלך והמלכה, הורשע, אך כעבור חודש קיבל חנינה. מאז נשארה לו בעיני השלטונות תדמית של "בולשביק". אחרי שגורש מכל מוסדות החינוך הממלכתיים ונעצר פעם נוספת, מאבקים מתמשכים שבהם היו מעורבים ראשי היהדות במדינה (ד"ר וילהלם פילדרמן, ד"ר מאיר אבנר ואחרים) הביאו להחזרתו לבית הספר.
בשנת 1931 נרשם כסטודנט בפקולטה למשפטים בבוקרשט, לאחר שעבר בהצלחה את מבחני הבגרות בעיר דורוחוי. בגלל האווירה האנטישמית האלימה שם הפסיק את לימודיו ונסע לווינה כדי ללמוד במכון ללימודים רבניים. מסיבות כלכליות חזר לבוקרשט וסיים שם את לימודי המשפטים בשנת 1935 עם תואר שני כדוקטור למשפטים. לאחר מכן מילא חובת שרותו הצבאי בצבא הרומני במשך שנתיים בעירו פלטיצ'ן.
בשנת 1937 חזר ללימודים במכון ללימודים רבניים בווינה עד שנאלץ לעזוב שוב את אוסטריה במאי 1938 בעקבות האנשלוס.
במקביל למד אצל הרב אלתר דורף (משה אשר) גורניק, יליד סדיגורה (1901) ושהתיישב מאוחר יותר בארץ ישראל.
בשובו לרומניה הוסמך לרב על ידי חברי מועצת הרבנות בבוקרשט: חיים רבינוביץ', ברוך גלנץ ומשה ברגר, ועל ידי הרב הראשי של רומניה, ד"ר יעקב יצחק נימירובר והרב הראשי של בוקובינה, אברהם יעקב מרק.
פעילותו כרב צעיר.
תפקידו הראשון כרב היה בבית כנסת קטן בשכונת "מחלה" בפלטיצ'ן.
במאי 1940 נבחר כרב בעיר סוצ'אבה. באותה השנה נעצר בטענה שהוא קומוניסט ונשלח למחנה מאסר בעיר מיירקוריה צ'וק בטרנסילבניה שם הכיר כמה מראשי התנועה הקומוניסטית הרומנית. עם סיפוח צפון טרנסילבניה להונגריה בקיץ 1940 הועבר למחנה מאסר בעיר
קראקל בדרום רומניה. למזלו הוא שוחרר בצו שר הפנים בדיוק לפני העלייה לשלטון של לגיונרים ב-6 בספטמבר 1940.
בגלל היותו נרדף כ"יודו-קומוניסט" לא חזר למולדובה אלא הסתתר בבוקרשט הבירה, שם מונה במשרה חלקית כרב בשני בתי כנסת - בית הכנסת "ראשית דעת" ו"בית אל". בו זמנית לימד תלמוד בבית ספר יהודי. בינואר 1941 בימי מרד הלגיונרים נגד שותפם לשלטון, המרשל יון אנטונסקו נקלע למצבי סכנת חיים אך ניצל. אחרי שרומניה נכנסה למלחמה בברית עם גרמניה נגד ברית המועצות נאלץ הרב רוזן להסתתר שוב רוב הזמן פן יישלח לטרנסניסטריה בטענה שהוא פעיל שמאל.
אחרי השחרור מהשלטון הפאשיסטי באוגוסט 1944 הצטרף למפלגה הסוציאל-דמוקרטית. נחשב כאוהד השמאל ובלתי מעורב בהנהגה הישנה של הקהילה היהודית. בנסיבות אלה התקדם בהייררכיה הרבנית של יהודי בוקרשט. היה ליושב ראש מחלקת הדת של הקהילה, נבחר כחבר במועצת הרבנות וכרב של בית הכנסת הגדול של בוקרשט Sinagoga Mare ושל בית הכנסת המלבי"ם.
בחירתו כרב כולל של יהודי רומניה.
בדצמבר 1947 גורש מרומניה הרב הראשי ד"ר אלכסנדר שפרן לפי פקודת השלטון החדש שנשלט בידי הקומוניסטים, תחת חסות כוחות הכיבוש של ברית המועצות. הרב שפרן היה נחשב מקורב למשפחת המלוכה, ולהנהגה הוותיקה ה"בורגנית" של רומניה וגם להנהגת יהודי רומניה בראש עם ד"ר וילהלם פילדרמן שהיה שנוא על השלטון החדש.
המפלגה הקומוניסטית, ששינתה לאחר מכן את שמה למפלגת הפועלים, כפתה על יהודי רומניה הנהגה חדשה בצורת "הוועד הדמוקרטי היהודי", בחלקו לפי דגם היבסקציה מרוסיה הסובייטית של פעם. בהשגחת "הוועד הדמוקרטי היהודי", הרבנים ונציגי הקהילות מכל רומניה התאספו בבוקרשט ב-16 ביוני 1948 ובחרו בהצבעה חשאית בד"ר משה רוזן כרב הראשי של יהודי רומניה. המתחרה היה הרב דוד שפרן, אחיין של הרב הראשי המודח ופעיל ציוני אמיץ. הרב שפרן נדרש, לפי פתקים שנשלפו לפי הגרלה, לתת דרשה על נושא קשור לפעילות בעד השלום, על סמך פרשת שבוע מסוימת, בעוד שהרב רוזן התבקש לדרוש בטקס דמיוני של חנוכת קואופרטיב (לבעלי מלאכה ומסחר) על סמך פרשת שבוע אחרת.
ב-20 ביוני 1948 הוכתר בבית הכנסת הקוראל בבוקרשט כ"רב כולל של דת משה" ברומניה בנוכחות נכבדים, בהם סגן יושב ראש האספה הלאומית הגדולה של רומניה, שטפן וויטק, שר הדתות סטנצ'ו סטויאן, ואחרים. לרב דוד שפרן חיכה מאסר ארוך שנים בכלא באשמת פעילות ציונית. כששוחרר מהכלא והתאפשר לו לעלות לישראל כתב הרב דוד שפרן ספרון שבו הציג בצורה שלילית את דמותו של משה רוזן - "הרב האדום".
בדומה לרב דוד שפרן, האוריינטציה של הרב משה רוזן הייתה "אורתודוקסית מודרנית".
מתוך הקפדה חמורה יותר על המנהגים, הורה הרב רוזן להפסיק את הנגינה בעוגב ואת העסקת "לא יהודים" במקהלה בבית הכנסת הכוראלי.
כמו כן, כמחווה סמלית, דאג לתקן על חשבונו את קבר המלבי"ם בקייב.
ראש הדת היהודית בשנות הסטליניזם ברומניה.
כראש מוסדות הדת היהודית ברומניה היה הרב רוזן כפוף לשלטונות הקומוניסטים, שניהלו בשנות החמישים מדיניות של יד קשה נגד ביטויי הלאומיות היהודית, במיוחד נגד הציונות ונגד הדת. ההתנגדות למשטר, שהשליט טרור בסגנון סטליניסטי, יכלה לעלות באמצעי ענישה ודיכוי קשים ביותר.
אחרי שב-27 ביוני - 6 ביולי 1948 עדיין קיבל רשות הרב הכולל הטרי להשתתף בוועידת הקונגרס היהודי העולמי במונטרה בשווייץ, השלטונות ניתקו את יהודי רומניה משאר קהילות ישראל בעולם למשך כ 8 שנים. בתנאים לא קלים נשארה פעילה בבוקרשט רק הנציגות הדיפלומטית - הצירות - של מדינת ישראל הצעירה.
בשנת 1949 מועצת הרבנים ברומניה בראש עם הרב רוזן נאלצה לחתום על הצהרת גינוי של הפעילות הציונית ושל הרב הראשי לשעבר ד"ר אלכסנדר שפרן.
משה רוזן, למרות חברותו הפורמלית בהנהגת הוועד הדמוקרטי היהודי, ניסה לשמור על מרחק מהמדיניות של ראשי הוועד (ברקו פלדמן, ה. ליבוביץ'-שרבן, ישראל בקאלו וכו') שניהלו מערכה נגד הציונים וביקשו לעודד את התרבות החילונית ביידיש על חשבון המסורת הדתית והתרבות העברית, מעמדות קרובות לאידאולוגיה של השלטון הקומוניסטי. גישתו המסויגת של הרב רוזן כלפי הקו של הוועד התבררה כדיפלומטיה נכונה.
במרץ 1953, השלטון, שקיבל השראה מהמדיניות הסובייטית, החליט להיפטר גם מהוועד הדמוקרטי היהודי ולהביא לפיזורו "מרצון". גם הביטאון של הוועד, "אוניריה" ("האחדות") נסגר. בימי משפט סלנסקי ומעצרי הרופאים והסופרים היהודים בברית המועצות. משה רוזן נאלץ להתמודד עם לחצים רבים אבל הצליח להתחמק מגינוי הציונות.
אחרי מותו של סטלין ומאוחר יותר, במיוחד אחרי התחלה דה-סטליניזציה בברית המועצות, השלטונות הקומוניסטיים ברומניה החליטו לנצל את ראשי הדתות השונות, כולל של המיעוטים הדתיים כדי ליצור תדמית חיובית יותר בעיני המערב.
בשנת 1956 כששוחררו גם הרבה מאסירי ציון מבתי הכלא ברומניה השלטונות איפשרו לרב רוזן להשתתף לראשונה במפגשים וכנסים יהודיים בחו"ל. ההזדמנות הראשונה היו מגעים עם הרב הראשי של שוודיה. באותה שנה, באוקטובר 1956, הורשה הרב רוזן להקים את כתב העת של דת משה ברומניה Revista cultului mozaic שכלל חוץ מדפים ברומנית וביידיש גם דף אחרון בעברית, והיה בכך העיתון היחיד בעברית בכל העולם הקומוניסטי. המלומד עזרא פליישר, אסיר ציון משוחרר וחתן פרס ישראל (שהוענק לו בימי מאסרו בגולה) היה לאחד מעורכי כתב עת זה עד לעלייתו לישראל.
בשנת 1957 מצאו לנכון השלטונות שהרב הכולל של היהודים יהיה כמו בזמן השלטון ה"בורגני" חבר בפרלמנט - באותם הימים האספה הלאומית הגדולה. הרב משה רוזן נבחר לייצג אזור בחירה מבוקרשט הבירה, שבה גרו חלק גדול מיהודי רומניה.
פעילות הרב רוזן בשנים 1960–1980.
מעמדו של הרב רוזן התחזק בימי השינוי שחל החל משנת 1964 במדיניות החוץ של רומניה. השלטון של גאורגיו-דז' בימיו האחרונים ואחר כך המנהיגים החדשים - צ'אושסקו ומאורר - היו מעוניינים להחליש את התלות של רומניה בברית המועצות ולחזק את קשריה הכלכליים עם המערב.
אחרי גלי העלייה הגדולים של השנים 1947 -1952 ומסוף שנות ה-50 ושנות השישים נותרו עדיין ברומניה כארבעים אלף יהודים (במפקד האוכלוסין משנת 1956 נספרו 146,000 יהודים).
השלטון הקומוניסטי של צ'אושסקו החליט לחזק את יחסיה של רומניה עם ישראל ועם הקהילות היהודיות בחו"ל, במיוחד בארצות הברית, ולהפיק תועלת כלכלית ופוליטית. ישראל ויהדות ארצות הברית נתנו תמורה כלכלית ומדינית לפתיחת שערי רומניה להמשך העלייה היהודית לישראל ונתנו תרומות רבות גם למוסדות היהודים שהוקמו באישור השלטונות - רשת של בתי אבות, מסעדות כשרות, מחנות קיץ לנוער יהודי, פעילויות של תלמוד תורה ולימוד עברית. חלה תנופה במדיניות הסעד לנזקקים בקרב הקהילה במיוחד אחרי שהתאפשרה, החל משנת 1967, פעילות נרחבת של ארגון הסיוע ג'וינט.
הרב רוזן, שהרגיש תמיד יהודי גאה והיה גם מעורה בתרבות הרומנית, השתלב במדיניות החדשה של רומניה והפך לאחד משגריריה החשובים (כך עשו גם ראשי דתות אחרות כמו המופתי של המוסלמים הטורקים והטטארים ברומניה שנשלח תכופות לשליחויות חשובות בעולם הערבי והמוסלמי).
בשנת 1964 קיבל הרב רוזן גם את התפקיד של יושב ראש הפדרציה של הקהילות היהודיות ברומניה והחזיק בו עד יום מותו. בשנות ה-1970 גם הרב רוזן נרתם לגייס תמיכה בחוגי השלטון בארצות הברית למען הענקת מעמד מועדף לרומניה ביחסי הסחר עם ארצות הברית.