På trods af en ny traktat indgået i Berlin i 1926, blev forholdet mellem de to magter gradvist svækket, men først den 22. juni 1941 blev aftalen formelt ophævet, da Tyskland startede Operation Barbarossa.