मुंबई में कुछ माह बाद ही अबू की मुलाकात अंडरवर्ल्ड डॉन दाऊद इब्राहिम के लोगों से हुई. पहले मामला दुआ सलाम तक रहा लेकिन जल्द ही उसने डी कंपनी में काम करना शुरू कर दिया. उसके साथ उसका चचेरा भाई अख्तर भी शामिल था. यह जुर्म की दुनिया में उसका पहला कदम था. पहले वह आम कारिंदे की तरह काम करता रहा लेकिन अपने हुनर और तेज़ दिमाग की वजह से जल्द ही वह गैंग में आगे बढ़ गया था. उसने गैंग में रहकर अपनी अलग पहचान बनाना शुरू कर दिया था. मुंबई के लोग भी धीरे धीरे उसे जानने लगे थे. अबू सलेम अब पूरी तरह से जुर्म के रंग में रंग गया था.