1942年到1945年，日本军队占领马来亚、北婆罗洲和砂拉越，连同这座岛屿的大部分地区。二次大战日军占据期间，大肆焚毁剩馀的建筑作为报复。盟军的轰炸摧毁了大多数城镇，山打根被夷为平地。山打根曾有一座由日本人所管理的残酷的战俘营，用来关押在北婆罗州的澳大利亚与英国战俘。囚犯遭受惨无人道的待遇，而且盟军轰炸使得日本人将战俘营搬迁到内陆的兰瑙，有260公里之遥。当时所有的战俘犯人数量已减少到2504人，被迫展开恶名昭彰的山打根死亡行军（Sandakan Death March）。几乎所有的战俘都在这场行军中死