У траўні 1880 году Грынявіцкі пакінуў інстытут і, перайшоўшы на нелегальнае становішча, вырабіў сабе пашпарт на імя віленскага мешчаніна Ельнікава. Разам з А. І. Жалябавым, С. Л. Пяроўскай і іншымі ўваходзіць у цэнтральны нарадавольскі гурток прапагандыстаў. Адзін са стваральнікаў, аўтараў і наборшчыкаў нарадавольскай «Рабочей газеты», уключыў у выданьне газэты земляка А. С. Барэйшу. Уваходзіў у групу, якая ўсю зіму 1880—1881 гадоў сачыла за выездамі цара. 26 лютага 1881 году на кватэры Грынявіцкага адбыўся сход арганізатараў замаху на расейскага цара Аляксандра ІІ. Грынявіцкі стаў адным з 4 выканаўцаў, якім «Народная воля» даручыла тэрарыстычную апэрацыю. У сваім запавеце напісаў: «Аляксандар ІІ павінен памерці. Ён памрэ, а разам зь ім памрэм і мы, яго ворагі, яго забойцы… Гісторыя сьведчыць, што раскошнае дрэва свабоды вымагае чалавечых ахвяраў…».