יש חוקרים הסבורים שמדובר במפגש עם יהודי בשם דוד יחזקאל רחבי שחי במאה ה-18 והגיע מקהילת יהודי קוצ'ין בדרום מערב הודו. דוד יחזקאל רחבי היה מתורגמן ומתווך בשירות החברה ההולנדית המזרחית למסחר. הוא לקח שלושה נציגים ממשפחות מיוחסות מקרב בני העדה, משפחות: ראג'פורקר, שאפורקר וג'היראדקר ולימדם את ההלכה המתוקנת, עברית ודיני יהדות שנוספו באלף השנים שקדמו. שלוש המשפחות היוו דייני העדה ומילאו את כל התפקידים הדתיים והאזרחיים בקרב בני העדה. הם קיבלו גושפנקא לתפקידם משליטים מקומיים ונקראו ״קאג'י״. קיימים מסמכים משפטיים חתומים בידי שליטי האזור ומלכים מהמאה ה-17 עד לסוף המאה ה-18.
המנהיגות האזרחית והפוליטית, עברה למשפחת דיווקר בסביבות שנת 1785, והוטבע התואר "קמודאן מוכדאם" דהיינו מפקד-נשיא.
ביקורים מקרב הקהילה בארץ ישראל החלו מסביבות שנת 1860 ואף לפני נשלחו תרומות. בקבר רחל ישנה כתובת הקדשה לקהילת בני-ישראל מהודו משנת 1865 לערך.
במאה ה-19, הנחו יהודים מקוצ'ין את המנהיגות הדתית של בני ישראל. הם שימשו בקהילה מורים, חזנים ושוחטים. התחייה הדתית של בני ישראל הסתייעה גם, החל בשלהי המאה ה-18, ביהודים בגדאדים, שהעבירו את עסקיהם ואת מוסדות הדת והקהילה שלהם מעיראק למרכזי המסחר במומבאי ובכלכותה. באופן פרדוקסלי, גם מיסיונרים נוצרים חיזקו את זהותם היהודית של בני ישראל, בחזקם את קשריהם עם דוברי אנגלית. הם הקימו בתי ספר להוראת השפה האנגלית ותרגמו ספרי תפילה וכתבים דתיים אחרים מעברית למרטהי.
בסוף המאה ה-19 גברה פעילות הרבנות האורתודוקסית ולצדה הגיעה הפעילות הציונית. הקהילה הוזמנה לקונגרס הציוני העולמי הראשון בבזל ב-1897, אך מנהיגיה סירבו להשתתף בתואנה שמשיח ישראל עדיין לא בא ולכן יש להמתין, אך כן תרמה כלכלית למאמץ הציוני.
כתוצאה מהזדמנויות שהציעו הבריטים לבני ישראל בתחילת המאה ה-19, התחילו משפחות של בני ישראל להגר למרכזים אחרים. הקהילה הסתעפה לכמה ריכוזים נוספים מחוץ להודו, למקומות כגון: קראצ'י (שהפכה לחלק מפקיסטן), עדן (תימן) ורנגון (מיאנמר). כמו כן, היגרו יהודים מבני ישראל לאזורים נוספים בהודו: פונה, אחמדאבאד וניו דלהי.
בני הקהילה ששירתו בצבא האימפריה הבריטית השתתפו כקצינים במלחמת העולם הראשונה. מספר קצינים היו מהנכנסים עם הגנרל אלנבי לירושלים עם כיבושה בשנת 1917, עת השליטה באזור עברה מהאימפריה העות'מאנית לאימפריה הבריטית.
מספר נוסעים יהודים בהודו במאה ה-19 נתקלו בקהילה זו. ישראל יוסף בנימין ראה בהם צאצאים לעשרת השבטים האבודים. מניעת התבוללות בגויים היה הדבר החשוב ביותר בקהילה.
בשנת 1897 נכתב ספר מקיף על העדה בידי חיים שמואל קהימקר, ממנהיגי הקהילה. הספר יצא לאור בשנת 1937 בתל אביב. בו נכתב כי בני ישראל הם צאצאי כובשי זיתים מהגליל, שניצלו מספינה שנטרפה בקרבת חופי הודו. שבעה זוגות ניצלו ונלקחו תחת חסות כוהני דת ברהמינים. לפי מסורתם, בני קהילת בני ישראל הם צאצאים של אנשים ממעמד הכהונה. בבדיקה גנטית שנערכה ב-2002 נמצאו ממצאים שמוכיחים כי לבני הקהילה גנים יהודיים וכי שכיח אצלם במידה דומה לעדות אחרות, אף על פי שלא היו כוהנים מוצהרים בקרבם.
באזור קונקאן.
משפחות "בני ישראל" גרו במשך דורות רבים בכ-200 כפרים שונים באזור קונקאן. אחד הכפרים הידועים בו חיו יהודי "בני ישראל" היה אליבג (Alibag). הכפר היה ידוע ככפר יהודי וגרו בו מאות משפחות. בני ישראל שימשו כדורכי שמן בקונקאן ונודעו בכינוי "שנוואר טליס", שמשמעו עוצרי שמן שומרי שבת. הם אימצו את שפת המקום, מרטהי, ולא נבדלו, למראית עין, מבני המקום. אולם, בחברה הכפרית הם נבדלו מאחרים בשל דבקותם ביהדות.
כיום גרות בכפר 5–6 משפחות יהודיות המתחזקות בית כנסת ומעסיקות חזן ושוחט. אליהו בירנבוים אשר ביקר בכפר בסוף שנת 2006 מתאר את "הגאווה היהודית של המשפחות הגרות במקום באשר לעבר המפואר של הכפר". השוחט, לוי וקרולקר, הוא בעל מפעל למשקאות קלים, אשר למד שחיטה כדי שמשפחתו ובני הקהילה יוכלו להמשיך לאכול בשר כשר. שני בניו חגגו בר מצווה ורוצים לעלות לישראל. בכפר נמצא בית הכנסת של הקהילה אשר נבנה לפני כ-100 שנה.
חיי הדת.
עדיין נותרו כ-40 בתי כנסת ברחבי הודו של הקהילה, רובם כבר לא פעילים. חלק מבתי הכנסת נהרסו בשל עזיבת הקהילה. עם זאת, חלק מבתי הכנסת הנותרים גדולים מאוד ומרשימים ועדיין פעילים במיוחד בחגים ושבתות. רוב בתי הכנסת הוקמו החל מסוף המאה ה-18 ועד אמצע המאה ה-20. בתי הכנסת של בני העדה בפקיסטן נהרסו עד היסוד לאחר קום המדינה, האחרון שבהם, "מגן שלום" בקראצ׳י נהרס ב-1988 על מנת לפנות מקום למרכז קניות. בשנים האחרונות נשלחו למומבאי רבנים שונים, ושירתו שם תקופות קצרות, וכן נציגים של תנועת חב"ד וזאת בנוסף לחזנים ולרבנים בני הקהילה במקום.
בני ישראל דבקים במסורת שלהם ובמנהגיהם, והמועדים החשובים ביותר להם הם ראש השנה, יום כיפור, שמחת תורה וחג הפסח. בחתונה, למשל, הכלה לובשת סארי לבן ויוצאת לקבל את פני החתן, כשהוא עומד על בימת בית הכנסת ומזמר את "שיר החתן" (נכתב על ידי רבי ישראל נג'ארה) המיוחד לבני ישראל. אחד המנהגים המיוחדים של בני ישראל קשור בחג הפסח: יהודי אליבג נוהגים לטבול בערב פסח את כף היד בדם (היום משתמשים בצבע אדום שלא מן החי), להטביע את היד על נייר ולתלות את הנייר מעל משקוף הדלת. מנהג זה הוא זכר לנתינת דם קורבן הפסח על משקוף הדלת בליל יציאת מצרים (), אבל הוא ייחודי ליהודי "בני ישראל".
המסורות של "בני ישראל" בהודו, קשורות קשר הדוק לדמותו של אליהו הנביא. הרקע לכך הוא אגדה ידועה בקרב הקהילה שלאחר שהמשפחות הראשונות הגיעו להודו והתיישבו בה, הגיע אליהו הנביא לבקרם בכפרים שגרו בהם וגם באליבג, לעודדם ולהבטיח להם שבקץ הגלות ישובו לארץ ישראל. בקהאנדאלה , המקום אליו לפי המסורת הגיע אליהו הנביא מצביעים על סלע גדול ובו קו ארוך השקוע באבן, המצביע על הסימן שהשאירו גלגלי המרכבה של אליהו הנביא; לצד הקו שני חורים גדולים באבן המציינים את פרסאות הסוסים כאשר קפצו כדי לעלות השמימה.
חינוך.
מאחר שבהודו היו לקהילת בני ישראל זכויות מלאות, הגיעו רבים לעמדות בכירות במערכת המשפט, היו ממקימי מערכת הרפואה ההודית ומקימי מערכת החינוך ההודי במהאראשטרה, והקימו מערכת חינוך לבני ישראל. הסופר חיים שמואל קהימקר, הקים את אגודת העזובים לחינוך יתומי ויתומות הקהילה בשנת 1853, המחנך והסופר יוסף יחזקאל ראג׳פורקר, שימש כבוחן בשפה העברית החל מ-1871 באוניברסיטת בומביי. בשנת 1875 ייסדה "החברה לעידוד החינוך של בני ישראל" את "בית הספר הישראלי", מוסד לחינוך יסודי בשפה האנגלית. ב-1892 נוסף עליו גם בית ספר תיכון. בשנות השלושים הוסב שמו ל"בית ספר אלי כדורי", על שם הנדבן שתמך בו. רוב תלמידיו היו יהודים, ולימדו בו עברית, נוסף על אנגלית ומרטי. כיום, שפת ההוראה בבית הספר היא מרטי ואין כלל יהודים בין תלמידיו. איגוד בוגרי בית הספר היהודי (לימים, הוא נודע בכינוי "אגודת המכבים") נוסד בשנת 1917 ובתקופת השיא שלו, בשנות החמישים, השתתפו באספותיו מאות אנשים.
בשלהי המאה ה-19 הוקם בבומביי בית ספר על שם יעקב ששון לילדי "הבגדאדים". תחילה הוטלו הגבלות על מספר התלמידים מבני ישראל. ב-1970 היו כמעט כל התלמידים היהודים בבית הספר מבני ישראל.
רבים מהגברים של הקהילה, קיבלו השכלה כללית ולא מעט בנו קריירה צבאית בעמדות מפתח בכירות בצבא הבריטי-הודי. עם סיום השלטון הבריטי היו לקצינים בצבא ההודי. שחקנים וזמרי תיאטרון מבני ישראל פעלו בתחילת המאה העשרים בהודו, ועם הקמת התעשייה הבוליוודית במומבאיי, היו אנשי קולנוע מקהילת בני ישראל. אחד האישים הבולטים מהקהילה הוא שמואל יחזקאל דיווקר, מקים בית הכנסת הראשון של הקהילה "שער הרחמים" ב-1796 וצאצאיו היו בין מנהיגי הקהילה כמאה שנים תחת התואר "קמודאן מוכאדם" שעבר בירושה.
השתלבות בני הקהילה בארץ ישראל.
בהינתן הצלחתם תחת הממשלה הבריטית, רבים מ"בני ישראל", התכוננו לעזוב את הודו בשנת 1947. הם האמינו כי התעוררות הלאומיות והדגש על דתות מקומיות יביאו לפחות הזדמנויות עבורם. בסופו של דבר רובם היגרו לארץ ישראל.
כאשר החלה העלייה של משפחות בני ישראל לארץ וכן צעירים רבים מהקהילה שהגיעו כדי להכין תשתיות לקראת בואה של המשפחה המורחבת, נתקלו בקשיים בהשתלבות המשפחות בארץ. בני קהילת בני ישראל נשלחו לעיירות פיתוח ללא מקומות תעסוקה. ב-1951 התלוננה קבוצה מבני ישראל על אפליה ופתחה במחאה השקטה בהנהגת אייזיק (אק איי) דיווקר, ודרשה לחזור להודו.
בין השנים 1960–1964 פתחו בני הקהילה במחאה השנייה כנגד פסיקתם של כמה רבנים שפסקו כי בני הקהילה אינם יהודים. מנהיג המחאה היה בהנהגת שמשון שמשון (קילקר). המחאה נסתיימה עם הצהרת ראש ממשלת ישראל לוי אשכול שעל הממסד הרבני לחדול מאפלייתו כלפי הקהילה.
לפי דו"ח הוועדה העליונה על הפזורה ההודית (2012), שסקר את החיים בישראל עבור קהילת בני ישראל. הוא ציין כי בעיר באר שבע בדרום הארץ נמצאת הקהילה הגדולה ביותר של בני ישראל, יש להם סוג חדש של משפחה רב-לאומית.
בדרך כלל בני ישראל לא פעלו פוליטית מאז אמצע שנות ה-60 של המאה הקודמת ופעלו באמצעים צנועים יותר. הם כן יצרו קשרים כלכליים מתמשכים עם הודו, אך הם בעלי מעמד פוליטי מצומצם בישראל. הקהילה, אף על פי שהייתה בישראל במשך דורות רבים, שמרה על מסורות רבות מהודו, מלידה ופולחנים כמו מהנדי. יהודים ממוצא הודי נחשבים בדרך כלל לספרדים, אף על פי שרובם המכריע אינם ממוצא ספרדי; הם השתלבו היטב מבחינה דתית עם הקהילה הספרדית בישראל.
המעמד בהלכה הרבנית.