Zehn Tage nach der Kapitulation Japans am 2. September 1945, nachdem er die in seinen Augen notwendigen Vorbereitungen für die durch die Alliierten geforderte Demobilisierung der Truppen unter seinem Kommando getroffen hatte, beging Sugiyama Hajime Suizid. Er schoss sich hierzu an seinem Schreibtisch viermal mit einem Revolver in die Brust. In seinem Haus beging seine Ehefrau ebenfalls Suizid. Sein Grab befindet sich auf dem Friedhof Tama in Fuchū, Tokio.