着名的无政府主义者、其妻子伊藤野枝及其六岁的侄子，并且将他们作为嫌疑犯殴打致死，将尸体扔进井里，是为「甘粕事件」（又称大杉荣虐杀事件）。事件发生后惊动了日本全国，甘粕后来遭法院判处死刑，在千叶监狱服刑10年。
活跃于满洲.由于昭和天皇登基大赦的关系，甘粕服刑仅三年就获释。1927年7月，日军将他送到法国修读美术和音乐，并且在当地认识了着名的艺术家藤田嗣治。1930年他在回国后不久后就派往中国东北的沈阳的关东军特务机关，为日本间谍土肥原贤二效力，让日军更多地参与鸦片生产和走私到中国本