1989 wechselte Mansell zu Ferrari und zeigte neben Gerhard Berger und Alain Prost weiterhin Spitzenleistungen, blieb jedoch ohne Titel. Er gewann das erste Rennen der Saison 1989 in Brasilien und wurde somit der erste Fahrer, der ein Rennen mit der neu entwickelten halbautomatischen Gangschaltung gewinnen konnte. In Ungarn fuhr er ein denkwürdiges Rennen und gewann vom 12. Startplatz aus das Rennen; ansonsten war seine Saison jedoch von der Unzuverlässigkeit der Ferrari geprägt. Beim Rennen in Portugal löste Mansell eine Kontroverse aus, als er verbotenerweise in der Boxengasse den Rückwärtsgang benutzte; darauf wurde ihm wiederholt die schwarze Flagge gezeigt. Mansell ignorierte diese jedoch und kollidierte wenig später mit Ayrton Senna. Trotz seiner Beteuerungen, er habe die schwarze Flagge nicht gesehen, wurde er für den nachfolgenden Grand Prix gesperrt. Nachdem der amtierende Weltmeister Alain Prost im Jahr 1990 von McLaren zu Ferrari wechselte, geriet Mansell zunehmend in die Rolle des zweiten Fahrers. Ursprünglich seit Jahren mit Prost befreundet, konnte er sich im teaminternen Duell nicht durchsetzen und das beiderseitige Verhältnis litt zusehends. Mitte der Saison äußerte sich Prost – wie Jahre zuvor schon Piquet – kritisch über Mansell, was dessen Fähigkeiten beim Testen und Abstimmen betraf. Prost attestierte, bei der Abstimmung eines Autos mitzuarbeiten, sei nicht die Stärke Mansells und er habe 1990 keine Chance auf den Titel; andererseits stufte er Mansell auch ein als einen „extrem schnellen, sehr begabten Mann, der jedes Auto exzellent fahren könne, ein gut abgestimmtes wie auch ein schlecht abgestimmtes“. Der frustrierte Mansell, der sich von Ferrari nicht gleichwertig behandelt fühlte, kündigte bei seinem Heim-Grand Prix in Silverstone zunächst wiederum (nach seiner Sperre 1989 hatte er bereits einmal mit seinem Rücktritt gedroht) sein Karriereende zum Ende der Saison an.