במחקריו המפורטים, הוא לא רק התווה את המסגרת הכללית של תורת הסוד היהודית ותחם את גבולותיה, אלא גם מילא בְּתוֹכֶן את ראשי פרקיה, וזכה על כך להכרה ולהערכה רבה בעולם האקדמי בארץ ובעולם.
בהקשר למפעלו העצום של שלום, סיפר עקיבא ארנסט סימון כי בובר אמר על שלום את הדברים הבאים:
המיסטיקה היהודית הקדומה.
התעניינותו של שלום במיסטיקה היהודית הקדומה נבעה בראש ובראשונה משאיפתו לסתור את טענותיהם של מרבית החוקרים בדורו ובדור הקודם, במיוחד חוקרי חכמת ישראל, כנגד הקבלה, שראו בה גידול פרא שיש להסתירו מעיני הגויים וכתופעה שאינה מייצגת את היהדות האמיתית. לטענתו, מקורה של המיסטיקה היהודית הוא בראשית האלף הראשון לספירה, "זמן קצר לפני הופעת הנצרות וזמן קצר אחריה, בעיקר במאה האחרונה לפני חורבן בית שני". עוד טען שלום, כי העוסקים בה היו מראשי היהדות ולא מכיתות שוליות בה, וכי היא בעלת "פרצוף יהודי מקורי", ועם מעט השפעות חיצוניות.
במחקריו בתחום זה, ביקש תחילה לתחום את המושג "מיסטיקה יהודית", באמצעות הגדרה שתבהיר מה כלול במיסטיקה היהודית ומהם המאפיינים הייחודיים לה ביחס למיסטיקה של דתות אחרות; לברר תופעות ומאפיינים ייחודיים אלה; להוכיח את הקשר בין ספרות ההיכלות והמרכבה - הספרות העיקרית של תקופה זו - לחכמי המשנה; ולהבהיר מושגי יסוד בקבלה שהופיעו לראשונה בספר יצירה ומולאו בתוכן שונה על ידי המקובלים והפרשנים הפילוסופים, בדורות שלאחר מכן.
הגדרתה של מיסטיקה יהודית.
אחת ממטרותיו של שלום הייתה חשיפת הפרק הקדום ביותר של המיסטיקה היהודית. משכך, ביקש קודם כל הגדרה מדויקת למושג.
הוא שלל את האפשרות לקיומה של הגדרה כוללת למיסטיקה וסבר כי לכל דת המיסטיקה הייחודית שלה, המבוססת על מאפייניה הייחודיים של הדת ממנה צמחה. עם זאת, הוא מצא שהמיסטיקה מופיעה כשלב השלישי בהתפתחות של הדת, כל דת. את השלב הראשון הוא זיהה כשלב יצירת המיתוס. זהו השלב בו חווה המאמין את הקשר הישיר, התמים והספונטני עם האל (לכן לא ניתן, לפי שלום, לקרוא למשה רבינו או אף לשאר נביאי ישראל מיסטיקנים). השלב השני הוא שלב יצירתה ומִיסודה של הדת. בשלב זה נוצרים כללי מוסר והתנהגות ומתפתחת היררכיה, אך נהרסת בשל כך ההרמוניה בין האדם, היקום והאל, ואובד איתו הקשר הישיר, התמים והספונטני. כתוצאה מכך נוצרת הרגשת ניכור אצל המאמין, המחפש דרכים חדשות לחדש את הקשר עם האל. חיפוש זה מוביל לשלב השלישי, והוא-הוא השלב בו נוצרה המיסטיקה, אשר באה כדי לגשר על התהום הפעורה בין המאמין לאל. המאמין מתחיל בתהליך של הסתכלות פנימית רפלקסיבית, בניסיון למצוא רמזים שיסייעו לו בהתקרבות אל האל. בתהליך זה עושה המאמין שימוש באמצעים שונים (למשל, תפילה, פולחן, סגפנות, טיהור, מדיטציה, שימוש חוזר במילים, אקסטזה ועוד), כדי להתגבר על מגבלותיו הגופניות ולהגיע לתחום האחר, העל-ארצי, שמעבר לחושיו. המיסטיקה היא אפוא שאיפת המאמין להתקרב אל האל ולהתאחד עמו, על ידי מעבר לתחום שמעבר לחושיו, ובעזרת שימוש באמצעים שונים. עם זאת, מאחר שמדובר בחוויה על-חושית שמעבר לתבונה העיונית של המאמין, גילויה של חוויה זו יכול לבוא לידי ביטוי באמצעות שימוש בסימבוליקה לשונית בלבד.
כבר בגילוייה המוקדמים ביותר של המיסטיקה היהודית היא נבדלה משיטות מיסטיקה אחרות, ובניגוד למיסטיקנים בדתות אחרות, מעשיו של המיסטיקן היהודי לא כוונו לשם השגת איחוד או התמזגות שלו עם האל, אלא אך על צפייה בו והתפעלות הנפש ממראהו, תוך שמירה על מרחק בין האל למאמין. הבדל זה עולה בקנה אחד עם ארבעה מאפיינים נוספים, אותם זיהה שלום, של המיסטיקה היהודית. מאפיינים אלה, שיפורטו להלן, נשענים על עיקרי הדת היהודית, ומקנים לה אופי שמרני: המאפיין הראשון - אישור והכרה בסמכותם של כתבי הקודש, התורה שבכתב ושבעל-פה, ואמונה בהתגלות בהר סיני ומתן תורה מן השמיים. אמונה זו מיושמת גם לתורת המיסטיקה היהודית, שנטען עתה לגביה כי היא עיקרה ופנימיותה של התורה, תורה שבעל-פה, שהועברה, יחד עם התורה, מדור לדור, באמצעות אישים ראויים. המאפיין השני - נובע מהמאפיין הראשון והוא מעמדה המרכזי של התורה. אלא שבעיני המיסטיקנים הופכת התורה לישות אורגנית, הבאה לגשר בין האדם הגופני, המוגבל, לאלוהות הרוחנית, האינסופית. התורה היא הכלי איתו ברא אלוהים את העולם ומנהיג אותו, ורק לימוד והתעמקות בה וקיום מצוותיה בכוונה ראויה, יקרבו את המאמין אל האל. המאפיין השלישי - נובע אף הוא מהמאפיין הראשון והוא המעמד המרכזי לדבר ה', כפי שבא לידי ביטוי בלשון התורה עצמה. הדגש הוא על הסימבוליקה הלשונית של התורה, וכל מטרתו של המיסטיקן הוא פענוחה של סימבוליקה זו, פעולה שלפי אמונתו תקרב אותו אל האל. המאפיין הרביעי - מחויבות להלכה היהודית. בדרך כלל, מכירים המקובלים בעול ההלכה ומקיימים אותה ללא פשרות. כמו כן, אין מיושמת שיטת הפרשנות הסימבולית שלהם לתורה בתחום ההלכה, למעט מתן טעם למצוות. עם זאת, המדובר, לפי שלום, ביחס דו-ערכי ובמחויבות רשמית בלבד, שכן עצם התפתחותה של המיסטיקה בא כתגובה לדת הממוסדת, ולמעשה, תחת המסווה של שמירה על המסורת וההלכה, הוחדרו תכנים חדשים.
ספרות ההיכלות והמרכבה ושאלת שורשיה הגנוסטיים.
שלום הקדיש לחקר הנושא מספר מאמרים, המפוזרים בין ספריו השונים וכן ספר אחד שעסק כולו בנושא זה.
הוא תיארך את הופעת ספרות ההיכלות והמרכבה, מהתחלתה במאה הראשונה לפני הספירה ועד לסופה במאה העשירית לספירה, וזיהה בה שני שלבים: בשלב הראשון, היה מרכז היצירה בארץ ישראל. הספרים הראשונים מתקופה זו נכתבו על ידי יוצרים לא ידועים, שהשתמשו בשמות פסבידו-אפיגרפים, כגון ספרי חנוך והאפוקליפסה של אברהם אבינו. לידם ניתן לזהות מספר חכמי משנה ידועים, כגון רבי יוחנן בן זכאי ותלמידיו ורבי עקיבא. במאות השלישית והרביעית, אנו פוגשים בין העוסקים בתורת הסוד אמוראים ידועים כגון רבי יהושע בן לוי, ריש לקיש וכן רב (אבא אריכא), אשר עם ירידתו לבבל, עבר יחד איתו מרכז העשייה בתורת הסוד. מתקופה זו נותרו לנו בעיקר רמזים בתלמוד ובמדרש. העובדה שניתן למצוא מבין העוסקים בתורת הסוד חכמי משנה ותלמוד ידועים, היא אחת מהראיות שהביא שלום לביסוס טענתו כי תופעת המיסטיקה היהודית לא הייתה תופעה בשולי היהדות, אלא בלב לבה. מהשלב השני, בבבל (אם כי ניתן למצוא גם חומר מארץ ישראל), יש בידינו ספרים רבים, ואולם אף על פי שהם יוחסו לתנאים ואמוראים ידועים, סבר שלום כי גם כאן מדובר בספרות פסיבו-אפיגרפית, ויוצריהם נותרים עלומים. הספרים העיקריים השייכים לשלב השני הם: ספרות ההיכלות והמרכבה, כגון, היכלות רבתי, היכלות זוטרתי, מסכת היכלות, מרכבה רבה ומעשה מרכבה; חיבורים על מעשה בראשית, כגון, מדרש כונן (ברייתא דמשה בראשית); וחיבורים מאגיים, כגון, אותיות דרבי עקיבא.
מאפיין אחד של ספרות זו הוא, לדעת שלום, יחס שלילי למציאות ההיסטורית, ייתכן עקב המציאות הקשה בה חיו בעלי חיבורים אלה (למשל רדיפות הכנסייה הנוצרית במאה הרביעית). התוצאה הייתה שכל מאווייהם של אותם יורדי מרכבה הופנו למקום א-היסטורי, לברור מעשה בראשית או למועד ביאת המשיח. מאפיין נוסף של ספרות זו הוא העובדה שאין מדובר בתורה עיונית שלמה בתורת הסוד, אלא במדריכים המורים ליחידי סגולה כיצד להעלות את נפשם דרך שבעת הרקיעים ושבעת ההיכלות, לכיסא הכבוד, הוא עולם המרכבה, ולחוות חוויה מיסטית שתוביל להתפעלות הנפש ולאכסטזה. לאור קדושת החוויה והסכנה במסע זה, נדרשה הכנה מוקדמת הן פיזית (תענית) והן נפשית (הסתכלות פנימה), והיא ידועה הייתה למתי מעט בלבד. על אף שמדובר היה בעליית הנפש, הפעולה עצמה הייתה מכונה "ירידה למרכבה" ואותם החווים פעולה זו היו מכונים "יורדי המרכבה". בהגיעם לעולם המרכבה, זכו יורדי המרכבה לגילויי סודות הבריאה וקץ הימים וצפייה במעשי אלוהי ישראל ועבודת המלאכים. הדגש בתיאורים אלה היה על תיאור מידות המלך קדוש, האל הנורא והנשגב ופחות על מידות מוסריות (כגון, מידת הרחמים). תיאורים אלה, שהתבססו אומנם בחלקם על רטוריקה ונוסחאות קדומות, היו ייחודיים לבעלי המרכבה וניתן למצוא חלק מהם בתפילה, כגון בברכת הקדושה, בשעת תפילת שחרית, הן ביום חול והן בשבת, ובפיוטים רבים. אחד החיבורים, שיעור קומה, עסק בתיאור הדמות האלוהית, כאילו הייתה דמות אנושית, ובשל כך עורר התנגדות רבה ואף נדחה מאוחר יותר על ידי רב סעדיה גאון (במחלוקתו עם הקראים), הרמב"ם ואחרים.
שלום זיהה השפעה זרה, גנוסטית, על תורתם של יורדי המרכבה, אולם גם הדגיש את ההבדלים ביניהם. שלא כמו אצל הגנוסטיקאים, אין מדובר היה בשתי רשויות, האחת, האל נעלם והשנייה בורא העולם (הוא אלוהי היהודים, לפי תורת הגנוסטיקאים), אלא הקפדה על מונותיאיזם, ואמונה באלוהי ישראל בלבד. הפרדה ברורה הייתה קיימת גם בין האל לבין המאמין, בין הבורא לנברא, ללא יחס אינטימי ביניהם. מאידך, סבר שלום, כי המרכבה המתוארת בספרות בעלי המרכבה מתוארת כפי שמתוארת הפלירומה הגנוסטאית. מקבילות גנוסטיות נוספות היו קיימות לדעת שלום, הן בעצם מסע העלייה של בעל המרכבה והן בהכנות המאגיות בטרם המסע. שלום ציין כי במקביל לספרות ההיכלות והמרכבה הייתה קיימת ספרות של חוגים מיסטיים אחרים, שהייתה קרובה יותר למיתולוגיה הגנוסטית, ושאת השפעתה ניתן למצוא מאוחר יותר בספר הבהיר.