В середине 1960-х годов вместе со своим другом, старым большевиком С. Писаревым создал кружок диссидентов (Валерий Павлинчук, Генрих Алтунян, И. Яхимович, Пётр Григоренко). Пётр Григоренко впоследствии называл Костерина своим учителем. Члены кружка противопоставляли советскую действительность «ленинским заветам». В 1966—1967 годах выступал с резкой критикой попыток реабилитации Сталина и возврата к сталинским принципам в политике. Им было подписано письмо девяти старых большевиков к XXIII съезду партии с просьбой вернуться к революционным идеалам. Многократно обращался в партком и правление Союза писателей СССР с предложением увековечить память писателей, репрессированных в годы культа личности, но безрезультатно.