Sin aún terminar de disfrutar del éxito de "The Innocents" y la gira del álbum, y entre medio de rumores de separación debido a la ya conocida costumbre de Clarke de no grabar más de dos álbumes con una banda, Erasure publicó en noviembre de 1988 el EP (Extended Play) Crackers International que contenía cuatro nuevas canciones, entre ellas Stop! y "Knocking On Your Door", las cuales los llevarían nuevamente a acomodarse en los mejores lugares de los charts; el disco logró el puesto # 2 del Chart del Reino Unido y de pasada le dio a la banda otro gran clásico: "Stop!".