Ashmolean har höjt £ 860.000 för att förvärva J M W Turner's The High Street, Oxford, men hoppas att allmänheten kommer att bidra till den slutliga £ 60000.
På lån från en privat insamling sedan 1997 har det erbjudits nationen i stället för 3,5 miljoner pund arvsskatt.
Direktör Alexander Sturgis beskrev det som "den största målning av staden som någonsin gjorts".
Han tillade: " Vikten av att behålla denna vackra målning i Oxford kan inte överdrivas.
"High Street, Oxford är den unga Turners mest betydelsefulla stadslandskap... om Ashmolean inte förvärvar målningen, kommer det att säljas på den öppna marknaden.
"Alla stora oljemålningar av Turner som har erbjudits på auktion under de senaste åren har köpts av utländska köpare."
Turner skapade målningen av en av Oxfords mest pittoreska gator 1810 efter att ha beställts av Oxford printseller James Wyatt för 100 guineas.
Han målade mer än 30 akvareller av Oxford under sin livstid, och är hedrad med uppfinna nya tekniker i landskapsmålning, såsom att göra himmel och moln ser lysande och uttrycksfull.
Museet har fått ett bidrag på 550.000 pund från Heritage Lottery Fund (HLF) mot målningen, samt 220.000 pund från Konstfonden och 30 000 pund från Ashmoleans vänner och beskyddare.
Stuart McLeod, chef för HLF South East England, sade att det skulle vara "otänkbart" om det inte förblev offentligt i Oxford.
Stephen Deuchar, chef för Konstfonden, sade: "Denna viktigaste bild måste helt enkelt räddas av Ashmolean."
En tidigare kampanj av museet 2012 lyckades hålla Edouard Manets porträtt av Mademoiselle Claus i Storbritannien.
Ett museum har lanserat en insamlingskampanj för att hålla den "största" någonsin målningen av Oxford på utställning i staden.