甘粕服刑仅三年就获释。1927年7月，日军将他送到法国修读美术和音乐，并且在当地认识了着名的艺术家藤田嗣治。1930年他在回国后不久后就派往中国东北的沈阳的关东军特务机关，为日本间谍土肥原贤二效力，让日军更多地参与鸦片生产和走私到中国本土，以及策划塑造满洲国的工作。在满洲事变发生后，他转移到哈尔滨并且协助将前清朝皇帝溥仪从天津护送到满洲，让溥仪成为新国家满洲国的傀儡皇帝，甘粕后担任在新首都新京建立民警部队的工作，后来成为民政部警务司司长、协和会中央本部总务部长，掌握国内多个重要职务。在满洲国的统治中，甘粕在