ב-26 ביוני 1940 הציבה ברית המועצות לרומניה אולטימטום של ארבעים ושמונה שעות. במסגרת האולטימטום נדרשה רומניה לסגת משטחי בסרביה, שהיו שייכים לה טרם מלחמת העולם הראשונה, פן תנקוט ברית המועצות פעולה צבאית. ברית המועצות דרשה במסגרת האולטימטום לקבל גם את אזור צפון בוקובינה, שבו שכנה צ'רנוביץ. אף שהאזור לא היה שייך לברית המועצות בעבר, ביקשו הסובייטים לשלוט בו כדי ליצור קישור בין בסרביה לגליציה המזרחית, אזור שהם כבשו מפולין. גרמניה לא התנגדה לאולטימטום, שכן היא הסכימה לשלטון סובייטי באזור במסגרת הסכם ריבנטרופ-מולוטוב. כוחה הצבאי של רומניה לא אפשר לה להתעמת עם הצבא האדום, והיא נכנעה לתנאי האולטימטום ללא תנאי ונסוגה משטחים אלו בחלוף יומיים מהצבתו.
היו שהאמינו כי הסובייטים יביאו עימם חברה צודקת ושוויונית, נטולת כל אנטישמיות שאפיינה את השלטון הרומני. היו גם שראו בסובייטים את הרע במיעוטו, כיוון ששלטונם עדיף על שלטון תחת השפעה נאצית. הייתה אף הגירה מועטה של יהודים סוציאליסטים וקומוניסטים מיתר חלקי רומניה אל עבר צ'רנוביץ. מאידך, היו יהודים בעלי רכוש שהקדימו תרופה למכה ועזבו את צ'רנוביץ מיד עם תחילת הכיבוש הסובייטי, מחשש שיתנכלו להם. אך כל התקוות נכזבו. השלטון הסובייטי החדש התנכל לרבים מיהודי העיר: בין היהודים שסבלו מהסובייטים היו בעלי הממון. גם הציונים סבלו לא מעט, עקב היותה של הציונות מנוגדת לאידאולוגיה הקומוניסטית. קבוצות אלה קיבלו תעודות זהות חדשות, שעליהן נכתב המספר שלושים ותשע (39) כדי שיוכלו לזהותם כיהודים.
לפי חישובי הקהילה היהודית, כ-10,000 יהודים נעצרו וגורשו ברכבות לסיביר ולאזורים אחרים בברית המועצות במהלך שנת שלטונם בבוקובינה. הסובייטים רדפו את היהודים הללו עקב השתייכות לבורגנות או לתנועה הציונית או בגין חשד בביצוע עבירות קלות ביותר. הגדול שבמשלוחים יצא ב-13 ביוני 1941. במשלוח זה גורשו מצ'רנוביץ כ-3,800 בני אדם, וכ-80% מהם היו יהודים. חלק מאותם יהודים מתו מקור ומתנאי המחיה הקשים בסיביר, ואילו אחרים נותרו בברית המועצות למשך זמן רב ואף השתקעו בחלקים ממנה. מעטים מהם עלו לארץ ישראל. הסובייטים פעלו לסגירת מוסדות בבעלות יהודים, כגון בית הכנסת הכוראלי, בית החולים, בית העם היהודי וחנויות בבעלות פרטית, וכן הלאימו מפעלים פרטיים: 42 בנקים, 92 עסקים ו-364 חנויות. הולאמו גם ארגונים, הוחרם רכוש, ונסגרו עיתונים, ובמקומם יצאו לאור עיתונים שהפיצו תעמולה סובייטית. היו יהודים שנאלצו לשכן עובדי מדינה ואנשי נ.ק.ו.ד. בבתיהם.
כניסת הצבא הנאצי.
ב-22 ביוני 1941 הפרה גרמניה את הסכם ריבנטרופ-מולוטוב ופלשה לברית המועצות, במה שנודע כמבצע ברברוסה. גרמניה עודדה את רומניה להצטרף אליה בפלישה בהבטחה להשיב לה את השטחים שאבדו לה בפלישה הסובייטית, לרבות אזור בוקובינה וצ'רנוביץ. ואכן, רומניה חתמה על ההסכם התלת-צדדי עוד בנובמבר 1940 ובכך הצטרפה למדינות הציר, המדינות שנלחמו לצד גרמניה. במהלך השבועיים שחלפו מפרוץ מבצע ברברוסה עד לכיבוש צ'רנוביץ בידי מדינות הציר הספיקו הסובייטים לגייס כמה אלפים של צעירים מן האוכלוסייה היהודית לשורות הצבא האדום. כמה אלפי יהודים אחרים, בעיקר רווקים בודדים, הצליחו לברוח מפני הנאצים אל עומק ברית המועצות.
מרבית היהודים נשארו בצ'רנוביץ בשל כמה סיבות: הסובייטים הקשו על עזיבתם של יהודים את צ'רנוביץ; שנת הטרור הקומוניסטי הנחילה ליהודי העיר אכזבה מהשלטון הסובייטי; והתעמולה הסובייטית, שהפסיקה לתקוף את הנאצים עם חתימת הסכם ריבנטרופ-מולוטוב, הביאה לכך שהיהודים לא הבחינו בסכנה הבאה מגרמניה. עוד גורם שעיכב את יציאתם של יהודים את צ'רנוביץ נעוץ בכך שרוב יהודי העיר היו דוברי גרמנית, ולכן זיקתם הייתה לתרבות הגרמנית ולא לרוסית. עדות לזיקה זו אפשר למצוא בדבריו של יוסף גוברין:
ב-5 ביולי נכנסו היחידות הראשונות של הכוחות המזוינים של רומניה לעיר, וצ'רנוביץ סופחה מחדש לרומניה. עם הכיבוש הרומני-גרמני, החלה שואת יהודי צ'רנוביץ, והיהודים נפלו מן הפח אל הפחת. בימים הראשונים שלאחר הכיבוש נפלו אלפי יהודים קורבן למעשי אונס ורצח של יחידות של הצבא הרומני ושל האיינזצגרופן הגרמני. בין 2,000 ל-3,000 מהם נרצחו. בית הכנסת הכוראלי, בית הכנסת המרכזי של יהודי העיר, הועלה בלהבות על ידי הגרמנים. ב-7 ביולי לקחו הנאצים את אברהם יעקב מרק, הרב הראשי של צ'רנוביץ, וחקרו אותו על הימצאותו של רכוש יהודי. משלא השיב להם, נלקח לפיר מעלית שם כלאו אותו. ב-8 ביולי נלקח הרב, ועמו כ-160 גברים יהודים מרחובות העיר, אל הנהר פרוט החוצה אותה. הם נאלצו לחפור לעצמם קברים ושם נורו בידי הגרמנים.
אחרים נלקחו לעבודות כפייה, לתיקון מבנים שניזוקו על ידי הרוסים או עקב הפצצות גרמניות. רבים מצאו את מותם בעבודות אלה, כשחלק מהמבנים הללו קרסו. בד בבד, החלו השלטונות לחוקק חוקים אנטי-יהודיים: ב-30 ביולי הוצא צו שחייב את היהודים לשאת את הטלאי הצהוב ולציין את המילה "יהודי" בפתחי בתיהם. בה בעת, נמשכה מדיניות הרומניזציה ביתר שאת, ולראשונה הולאם רכוש היהודים במסגרת מדיניות זו. ב-3 בספטמבר הועברו בתי החרושת שהיו בבעלות יהודים לרשות לא-יהודים או לרשות המדינה.
הקמת הגטו והגירושים לטרנסניסטריה.
במהלך החודשים אוגוסט וספטמבר 1941 החלו הרומנים לרקום תוכנית ל"פתרון הבעיה היהודית" בצ'רנוביץ. הם התכוונו לגרש את היהודים לטרנסניסטריה, אזור שסופח לרומניה במהלך מלחמת העולם השנייה, כדי לטהר אותה אתנית מיהודים. ואכן, ב-4 באוקטובר הורה ראש ממשלת רומניה, יון אנטונסקו, להעביר תוך עשרה ימים את כל יהודי בוקובינה, לרבות אלה שבצ'רנוביץ, לחבל ארץ זה. לשם כך הוחלט לכנס את יהודי העיר בגטו. ב-11 באוקטובר פורסם צו שלפיו נדרשים כל תושבי העיר היהודים להתפנות עד לשעה 18:00 בערבו של אותו יום לגטו החדש. מי שניסה למסור את רכושו, לבל יוחרם, הסתכן בהוצאה להורג בירייה. הגטו הוקם ברובע היהודי של צ'רנוביץ שבו חיו כ-25% מיהודי העיר. בשל כך, בגטו עצמו חיו היהודים בתנאים קשים ובצפיפות רבה: חדר אחד אוכלס על ידי 20–25 נפש. היהודים הורשו לצאת מבתיהם רק במשך שלוש שעות ביום. הם לא הורשו לעסוק במשלח יד, ומשום כך נאלצו למסור את רכושם, שהוחרם, לבסוף, על ידי נציגי הבנק הלאומי הרומני. לגטו הובאו גם יהודים מעיירות סמוכות לצ'רנוביץ, כך שמספר היהודים בעיר גדל ממספר הנע בין 41 ל-46 אלף נפש לכ-50 אלף.
ב-13 באוקטובר החל גירוש היהודים לטרנסניסטריה, עם גירושם של כ-5,000 איש. במסגרת משלוחי הגירוש, האקציות, נצטוו היהודים ללכת בשיירות לתחנת הרכבת בליווי הז'נדרמריה הרומנית, ומשם גורשו. הם הובלו בקרונות עץ מחניקים ללא חלונות אל הערים אוטאץ' ומרקולשט, משם צעדו ברגל בשיירות ארוכות אל הגדה המזרחית של נהר הדניסטר, שהיווה את גבולו המערבי של חבל טרנסניסטריה. רבים מן הצועדים מצאו את מותם, בעיקר תינוקות, חולים וזקנים. חלקם אף נרצחו באופן יזום לאורך הנהר. גירוש היהודים ברכבות לא הקל על הצפיפות הרבה בגטו, כיוון ששטחו הצטמצם בהתאם למספר היהודים ששולחו. כ-1,500 יהודים ניסו להמיר את דתם כדי להינצל מגירוש, אך השלטונות לא ראו זאת בעין יפה אלא כניסיון להתחמק מהגירוש. רבים מאלה שהמירו את דתם נידונו לעונשי מאסר.
המשפטן טראיאן פופוביץ' התמנה לראש עיריית צ'רנוביץ מעט לאחר ראשית הכיבוש הרומני. פופוביץ', יליד בוקובינה, עזב את העיר עם ההשתלטות הסובייטית על החבל ושב אליה עם סיומה. הרומנים הציעו לו להתמנות לראשות עיריית צ'רנוביץ, והוא נעתר לבקשתם. עם הקמת הגטו בעיר, השלטונות הטעו אותו, בתואנה כי זה יהיה הצעד האחרון שיפגע ביהודים. כשנודע לו על גירוש היהודים מהגטו, הוא התנגד לו נחרצות, וטען כי הם חיוניים ליציבות הכלכלית של העיר. הוא הכין רשימה של כ-20,000 יהודים, ובהם גם כאלה שלא היו חיוניים לכלכלה. עקב כך, הוצמד לפופוביץ' הכינוי "מכור ליהודים", והוא הועבר מתפקידו במאי 1942. על מעשיו למען יהדות צ'רנוביץ זכה פופוביץ' לתואר חסיד אומות העולם ב-1969.
ב-15 בנובמבר, לאחר שגורשו מהעיר כשלושים אלף יהודים, פסקו משלוחי הגירוש בפקודת שליט רומניה אנטונסקו. עד אז גורשו כל היהודים שלא נכללו ברשימה של פופוביץ', ומספרם של הנותרים, שניצלו בעזרת פופוביץ', עמד על כעשרים אלף נפש. היהודים שפופוביץ' הצליח להציל מגירוש שבו לבתיהם בעיר. עקב הלאמת רכושם, הם נפגעו מבחינה כלכלית והתקשו למצוא עבודה. ממשלות צ'ילה ושווייץ, שיכנו כ-800 יהודים, בעיקר פליטים מפולין, בקונסוליות שפתחו בצ'רנוביץ. הן הנפיקו להם לבסוף דרכונים, וכך אפשרו להם לצאת מן העיר באופן חוקי. החל מ-31 במאי 1942, משעה שפופוביץ' הועבר מתפקידו, התאפשר לשלטון הרומני להמשיך במדיניות הגירושים. עד 28 ביוני אותה שנה כ-4,200 יהודים גורשו מהעיר. גירושים אלה נפסקו הודות למאמציהם של מנהיגים יהודים ברומניה, כגון וילהלם פילדרמן ואלכסנדר שפרן, שהצליחו להשיג הבטחה משר החוץ הרומני מיכאי אנטונסקו להשאיר את היהודים בעיר: בדומה לפופוביץ', בטענה שהם חיוניים לכלכלת העיר.
יהודי צ'רנוביץ שוכנו בגטאות בטרנסניסטריה, כגון אלה שבמוהיליב-פודילסקי, באובודיבקה, בטירספול, בשרהורוד, בברשד וביאמפיל. בגטאות אלה התפשטו מחלות, כגון צהבת וטיפוס הבהרות, שגבו קורבנות רבים. יהודים מצאו את מותם בגטאות אף במסגרת אקציות והוצאות להורג במקום. היהודים שהיו כשירים לעבודה נלקחו מגטאות אלה למחנות עבודה בשטחי טרנסניסטריה, שם עבדו במחצבות, בסלילת כבישים ובבניית גשרים וביצורים.