המרכז היהודי בנהרדעא ידוע לנו כבר מתקופות קדומות. לקראת סוף המאה השנייה נזכר רב שילא שכיהן בתפקיד ראש ה"סידרא" (מוקד הקהילה) בנהרדעא. בימי שמואל הפכה ה"סידרא" של נהרדעא ל"מתיבתא", היינו ישיבה קהילתית, ושמה הלך לפניה. בתקופה זו התפלגה בבל לשני אזורי השפעה: ל"אתרא דרב" (או "פרוורהא – פרוור - דרב") בסורא ו"אתרא דשמואל" (או "פרוורהא דשמואל") בנהרדעא.
במתיבתא של נהרדעא, הודות ליוזמתו ומנהיגותו של שמואל, ובדומה למה שהתחולל בישיבת סורא תחת מנהיגותו של רב, פעלה כעין סנהדרין באזור. בכינוסי המתיבתא נדונו שאלות ברמה האקדמית המהותית, התגבשו פסקי דין עקרוניים ופסקו הלכות רבות מחיי היומיום.
המתיבתא של נהרדעא הצטיינה, הודות לשמואל, בלימוד המשניות, הברייתות והשמועות כלשונן וכדקדוקן, ובה נאמרו בפי אומרן כמעט ממקורן הראשון. בישיבת נהרדעא ישב "תנא", אשר מתפקידו היה לסדר את המשניות, והתנא של שמואל היה אדם עיוור. סידורי הברייתות מיוזמתו של שמואל מכונים בספרות חז"ל במינוח הטכני של "תני שמואל" או "תנא דבי שמואל". ברייתות אלה בחלקן מפרשות את המשנה ובחלקן מרחיבות את האמור בה ומוסיפות לפרקים הלכות ומחלוקות של תנאים, שלא באו לידי ביטוי במשנה.
קיים מושג תלמודי שכותרתו "הוויות דרב ושמואל", כנראה אסופה מעבודתם ההלכתית, ואולי הפילוסופית, של צמד מנהיגי היהדות הבבלית במאה השלישית.
התלמוד הבבלי נחתם על ידי רב אשי ורבינא, אלא שראשית הדיון התלמודי החל בימיהם של רב ושמואל. קטעים תלמודיים רבים מוכיחים על קיומם של אוספים וקובצי הלכה בישיבות הבבליות ובעיקר בנהרדעא. הכלי הטכני להוכחת תמונת מצב זו הוא השימוש בביטוי "מתנו הכי" (כך שנו), כגון "בסורא מתנו הכי, בנהרדעא מתנו הכי" לעיתים השתמשו בביטוי "תסתיים", כלומר תתנסח סופית כדעת פלוני. גם הביטוי "גמרא" בזיקה לנהרדעא או לסורא מכוון לרמז ברור אודות מפעלי עריכה ראשוניים.
"ירחי כלה" היה מושג ידוע ומקובל בקהילה הבבלית, ומשמעו – כינוס גדול של תלמידי חכמים פעמיים בשנה, בחודשי אדר ואלול, כדי לעסוק בלימוד מסכתות אשר נקבעו מראש. מוסד זה נקבע על ידי רב בסורא, ואילו בנהרדעא פעל מוסד חלופי ודומה ל"ירחי כלה" ושמו "שבתא דריגלא". היה זה יום השבת במועד הרגלים שנועד לדרשות ברוב קהל, בביתו של ראש הגולה. מקום הדרשן היה ביציע (אכסדרה), שנקרא "קלעא" או "פיתחא". חכמים ותלמידיהם היו מצטופפים מול היציע כדי לשמוע את הדרשן. אי אפשר לנתק בין העלייה לרגל ל"שבתא דריגלא" לבין הרצון לחלות את פניו של ראש הגולה, כפי שהדבר עולה לא פעם בהתנסחותם של אמוראים מכובדים. הללו היו נפגשים עמו, דורשים בשלומו, חולקים לו כבוד וזוכים לעיתים בברכתו.
שמואל נפטר בשנת 257 לספירה, וזמן קצר אחר כך פקד אסון כבד את העיר נהרדעא, כאשר גדודי התדמורים פלשו לנהרדעא, ובראשם המנהיג פפא בר נצר, ועשו בעיר כבתוך שלהם. כתוצאה מכך פרש חלק הארי של חכמי העיר ובראשם רב נחמן אל מחוץ לגבולות העיר, אך שב אליה מקץ שנים וקומם בה שוב את מוסדותיה הציבוריים והקהילתיים.
משפחתו: אביו של שמואל היה אבא בר אבא והוא מוזכר בש״ס פעמים רבות, כאשר בחלקם מוזכר בשם אבא בר אבא אבוה דשמואל.
לשמואל היה אח בשם פנחס, גם רב שמן בר אבא היה שאר בשרו של שמואל, ייתכן שהיה אחיו או דודו, ().
בנותיו נשבו על ידי שובים ובפקחותן מצאו דרך שלא להיפסל לכהונה, וקרוב משפחתם רב שמן בר אבא נצטווה על ידי רב חנינא "צא וטפל בקרובותיך". עם זאת, בתו רחל הרתה לאחד השובים, איסור שמו, ובנם המשותף הוא רב מרי בר רחל בת שמואל, שנקרא בשם אמו, כי אינו מתייחס אחר אביו. קודם לידתו, התגייר אביו, ושמו נקרא איסור גיורא.
קשרים עם מלך פרס.
שבור מלכא, הלוא הוא המלך הפרסי הססני שאפור הראשון (מלך 241–247), היה שליט סובלני אשר העניק לנתיניו מידה רבה של אוטונומיה, ובעיקר דתית. תמונת מצב זה שיקפה את ראשית פריחתן של הקהילות היהודיות בבבל, כמו נהרדעא וסורא, ושימשה רקע להבנת מרקם היחסים בין המלך ליהודים, ובעיקר לאור המתיחויות ששררו בין הממלכה הפרסית לאימפריה הרומית. הקשרים האישיים בין המלך לשמואל נחקקו בספרות התלמודית. באחת המסורות מסופר כי המלך ניסה לבחון את שמואל ואת חכמתו וכי "שמואל היה משחק לפני שבור מלכא בשמונה כוסות של יין", ללמדנו על טיב היחסים הבין-אישיים. באחד המקרים מעיד התלמוד כי "שבור מלכא" הפציר בשמואל, כמי שנתפש כחוזה חלומות ומפענחם, שיספר לו מה הוא צפוי לראו בחלומו. שמואל גילה את אוזנו, כי יחזה המלך בבואם של הרומאים שיאכילוהו מטחינה של גרעיני-גלעיני תמרים בריחיים של זהב. חלום זה ופשרו משקף את ניצחונותיו של מלך הפרסים מול הלגיונות הרומיים. בנהרדעא שהה חיל מצב פרסי, ודרך נהרדעא חלפו עברו במהלך ההיסטוריה כמה יחידות צבא רומיות, כמו בתקופת טראיאנוס, ועל כן יכול להיות שהממשל הפרסי תאם באותן הזדמנויות את מערכת ההגנה על העיר מפני הפולשים הרומיים.
במקרה אחר מסופר כי אמרו לשמואל ששבור מלכא הוציא להורג שנים עשר אלף יהודים ב"מזיגת קסרי", ושמואל לא גזר, בניגוד לצפוי, על צום ותענית כתוצאה מכך. לא ברור האם חשש שצום או תענית יחריפו את מערכת היחסים בין הפרסים ליהודים, או אולי שמואל הניח כי יהודי מזיגת קסרי, המקום שנכבש על ידי הפרסים, התנגדו לכובש הפרסי, אשר בניגוד לרומאים (שמטרת כיבושיהם הייתה לארגן את השטח (דבורת התבור) הכבוש, ליישבו ולשלוט עליו), היו נוהגים לפרוץ כרוח סערה ולזרוע הרס וחורבן עם פלישתם. מתוך כך שמואל הבין כי נענשו על התנגדותם. בכל מקרה מצביע הקטע על טיב היחסים בין שמואל למלך הפרסי.
ניתן להניח כי קשרים אלה לצד הגישה הפרגמטית של שמואל הביאו אותו לנסח את הכלל החשוב של "דינא דמלכותא דינא" (בבא בתרא נה ע"א), כלומר משפט המלוכה הוא המשפט. הלכה זו נועדה לנרמל את חיי היהודים בבבל. היא קבעה כי המשטר השולט הוא הלגיטימי והסמכותי כחוק, ועל כן יש לציית לו, לכבד אותו ומותר גם להיחשף להשפעותיו. כתוצאה מכך המליץ שמואל לאמץ, ולפחות להיות מושפע מדיני האריסות הפרסית, מהלגיטימיות של שטרות הנחתמים בערכאות של גויים, לשלם מסים ומכסים ועוד כיוצא בזה. כלל זה שימש נוסחה רחבה ליחסם של בני הקהילות היהודיות באירופה כלפי השלטונות בתקופת ימי הביניים.
עיסוקיו האחרים.
שמואל התפרסם בעיקר בשני תחומי ידע ועיסוק: רפואה ואסטרונומיה. לגבי שתי דיסציפלינות אלה הרבה שמואל להתקין תקנות והלכות, ויש הטוענים שאף עסק ממש ברפואה ואף ברוקחות. ייתכן אף שערך מחקר בתחום חומרי רקיחה שמקורם מהים. אחד ממאמריו הידועים של שמואל היה "נהירין לי שבילי דשמיא כשבילי דנהרדעא, לבר מכוכבא דשביט ולא ידענא מאי ניהו". עצם העיסוק בעיבור השנה ובקידוש החודש דרש ידע אסטרונומי, ולכך יש אולי לצרף את העובדה שהאסטרונומיה הייתה נפוצה במיתולוגיה הבבלית. לא בכדי התכנה שמואל בשם "ירחינאה" או "ירחינאי", לאמור – איש הירח.
לשמואל מיוחסת ברייתא חשובה בשם "ברייתא דשמואל הקטן, המחולקת לתשעה פרקים ודנה בחוכמת התכונה, כוכבי הלכת וגלגל המזלות.
בתלמוד מסופר רבות על מומחיותו הגדולה של שמואל ברפואה. כך מסופר כי הוא היה רופאו האישי של רבי יהודה הנשיא. כאשר רבי יהודה הנשיא חש בעיניו, הציע לו שמואל להניח לו מעט ממרקחת שטווה - בעיניו. רבי יהודה הנשיא סירב להצעה זו ולהצעות אחרות של שמואל, עד שזה הציע שרבי יהודה הנשיא ישן על המיטה כשראשו על הכרית, ושמואל יניח מתחת לכרית סם מיוחד שיעבור דרך הכרית וירפא את עיניו. עוד מסופר כי שמואל אמר כי הוא יודע כיצד ניתן לבצע ביאה בגופה של בתולה מבלי לפגוע בבתוליה, ובתלמוד מובא כי הכוונה היא לביאה גמורה שמתעברת בה, ומכיוון שמדובר בידע נדיר ביותר, לא סביר שקיימים עוד אנשים שיודעים כיצד לעשות זאת, ובתולה שהתעברה - אין להניח שהתעברה באופן כזה, אלא על ידי "אמבטי" (שכבת זרע שנכנסה לגופה באופן אקראי, על ידי כך שרחצה במרחץ בו היה זרע במים, או שכבה במיטה שבה הייתה שכבת זרע). כאשר הביאו לפניו שפיר הוא ידע לזהות בדיוק בן כמה ימים השפיר ומתי החל ההריון. שמואל אף טען כי לולי הרוח הנכנסת לגופו של האדם לאחר שחתכו את ראשו מעליו וגורמת לנזק להיות בלתי הפיך, הוא היה יכול לחבר את ראשם לגופם חזרה ולהחיותם.
משנתו.
במתיבתא של נהרדעא, פרי פועלו של שמואל, נתנסחו ונתגבשו מספר כללים בסיסיים נוספים לדיון התלמודי ולהבנת מאמרותיו כגון: "מתניתא מני" – כאשר לא מצוי בברייתא חולק מפורש על סתם משנה, וחובה הוטלה על חכמים ליישב את הקושיה; "במאי פליגי" – מקומות רבים בהם שמות החולקים נמצאים במשנה ובברייתא, ותפקיד מתודה זו הוא להגיע לשורשי המחלוקת, טעמיה ומידת התפתחותה; "שמעתא" – בירור שמועות בדבר ראשית פעילות אמוראי ארץ ישראל ועוד כיוצא בזה.
רבי זירא אמר בשם שמואל: "אין למדין לא מן ההלכות ולא מן ההגדות ולא מן התוספות, אלא מן התלמוד". ואכן בעוד שסורא התבססה יותר על המשנה - התבססה נהרדעא על התלמוד, על הגמרא. עמדה זו של שמואל נבעה מגישתו הפרגמטית לסגל הלכות שמקורם תלמודי, הקרוב יותר ליהדות הבבלית, מאשר המשנה שהייתה חלק אינטגרלי מן ההוויה הארצישראלית.
רב שם לב יותר להכיר את רוח הדין ואת הרעיון הכללי הגלום בדין הפרטי, ואילו שמואל התאמץ להוכיח, כי אין להעמיד את המשנה על פי תנא זה או אחר, אלא יש לדחות את ההשוואה, ולמצוא שוני בין פרט לפרט. שיטתו של רב הייתה ההשוואה ושל שמואל – ההבדלה. כמו כן רב הרחיב את ייפוי הכוח להורות ושמואל שאף לצמצם זאת.
ייחוס סתמאות המשנה.