Cochin-jøder er delt opp i tre forskjellige grupper med ulike opphav. Den eldste av dem er en gruppe som heter («de med særføremoner»). Legendene deres sier at de var handelsmenn som bosatte seg i India (som de sier var det samme landet som Bibelen kalte «Ofir») i kong Salomos tid. Den andre gruppen heter («de som ble satt fri»), og man tror at de opprinnelig var slaver til -jøder, men senere konverterte til jødedommen og ble satt fri. Den siste gruppen heter («utlendingene») og omfatter jøder som i senere tid flyttet til Cochin-området fra Midtøsten.