Был членом Совета национальностей ЦИК СССР IV созыва (1927—1929). 15 декабря 1927 года XV съезд ВКП(б) избрал его одним из 195 членов ЦКК ВКП(б). Этот орган отвечал за контроль партийной дисциплины. В аппаратной иерархии партии члены ЦКК находились на верхней ступени, а их статус приравнивался к статусу члена ЦК партии. Начиная с 19 декабря того же года и по 26 июня 1930 года Караев состоял членом данного органа.