For å komme inn på den forberedende klassen ved Nikolaj I Odessa Handelsskole måtte Babel komme innenfor kvoten for jødiske studenter (10 % innen grenseområdet der jøder først og fremst var bosatte, 5 % utenfor og 3 % for begge hovedstedene), men til tross for at han hadde tilstrekkelige gode karakterer ble plassen gitt til en annen gutt, fordi den andre guttens far hadde bestukket skolemyndighetene. Babel fikk undervisning hjemme et år og gikk igjennom to klassetrinn på den tiden. Utenom de vanlige skolefagene studerte han Talmud og musikk. Takket være sin fransklærer, som også underviste i fransk litteratur, satte han stort pris på Flaubert og Guy de Maupassant, og de første historiene sine skrev han på fransk.