Han ble født inn i en relativt velstående familie som nest eldst av fem søsken. Sherif hadde bachelorgrad fra American International College i İzmir fra 1926 og mastergrad fra Universitetet i Istanbul fra 1928. Han dro deretter til USA, tok mastergrad ved Harvard University i 1932, og tok endelig doktorgrad ved Columbia University i 1935. Sherif foreleste ved Universitetet i Ankara fra 1935, og fikk oversatt viktig litteratur om psykologi til tyrkisk. For sin motstand mot nazismen ble han fengslet i Tyrkia, men senere løslatt i 1944 etter påtrykk fra amerikanske myndigheter. Sherif ble deretter boende i USA for godt. Deretter underviste og forsker han ved læresteder som Princeton University, Yale University, University of Oklahoma, University of Texas, University of Washington og University of Pennsylvania, og ble professor emeritus i sosiologi ved sistnevnte i 1972.