。1933年成为苏联代理总检察长，1935年担任苏联总检察长。1934年基洛夫被暗杀后，斯大林以镇压反革命为由发起被称为“大清洗”的恐怖镇压，实为铲除异己势力。他在大清洗运动中扮演了关键角色：配合特务机关内务人民委员部，将众多斯大林的政敌铲除。在莫斯科审判中担任公诉人，将许多老布尔什维克判处枪决，而在特务头目雅戈达、叶若夫相继失势被处决之后，依然独善其身。维辛斯基在1937年至1941年担任苏联科学院国家法研究所所长，在1938年全苏苏维埃法和国家科学会议上作了主要报告并提出了法和苏维埃社会主义法的