В 1927—1934 годах Рывкин был членом ЦКК, куда он избрался на XV-м и XVI-м Съездах компартии.