В сентябре 1906 года находился на нелегальном положении в Баку, там занимался революционной пропагандой. Подпольная кличка — «Старик». Один из руководителей забастовки команд судов торгового флота в Баку. Принимал участие в составлении манифестов «К армии и флоту» и «Ко всему российскому крестьянству». По словам И. В. Сталина, в мае — июне 1907 г. И. И. Рамишвили делегат V Лондонского съезд РСДРП от Бакинской организации социал-демократов. В 1908 был выслан в Астраханскую губернию. В 1909 выслан в Вятскую губернию. В апреле 1911 года всё ещё находился в административной ссылке.