Australiska gränsstyrkan (ABF) sade att dess tjänstemän skulle kontrollera för visumbedrägeri som en del av en allmän brottsbekämpning som involverar flera byråer.
Men flytten väckte ett skrik från sociala medier, med fruktan för trakasserier och rasprofilering.
Victoriapolisen sa att Operation Fortitude hade ställts in.
En planerad presskonferens ställdes också in efter att omkring 300 personer samlats i hjärtat av Melbourne för att protestera mot operationen, rapporterade The Age.
Det första uttalandet från ABF sade en "diverse team av transport-och brottsbekämpande organ" skulle vara verksamma i Melbourne på fredag och lördag kväll.
"Officers kommer att placeras på olika platser runt CBD talar med någon individ vi korsar vägar med", säger regional befälhavare Don Smith.
"Du måste vara medveten om villkoren för ditt visum; om du begår visumbedrägeri bör du veta att det är bara en tidsfråga innan du fångas ut."
Planen spreds som en löpeld på sociala medier, och det krävdes en snabb protest utanför Flinders Street tågstation.
ABF utfärdade senare ett "klargörande uttalande" om sina planer och sade: "[Vi] kommer inte att stoppa människor slumpmässigt" i Melbourne för att "kontrollera folks tidningar" som rapporteras i media."
ABF stoppar inte människor slumpmässigt på gatorna och siktar inte på ras, religion eller etnicitet.
Polisen har sedan dess ställt in hela multi-agentur-operationen.
"Victoria polisen har tagit ett beslut att inte gå vidare med helgens Operation Fortitude", sade det.
"Vi förstår att det har funnits en hög nivå av samhällsintresse och oro som har beaktats när detta beslut fattas."
Den federala regeringen spenderade $ 10m Australiska ($ 7,7m; Â£4.6m) i branding månader gamla Border Force med en ny hardline bild, lokala medier denna vecka rapporterade.
Det omfattar nya uniformer och skyltar i militär stil på flygplatser och fångläger.
Australiens gränsskyddsmyndighet har väckt upprördhet med ett snabbt tillkännagivande att den skulle utföra visumkontroller på gatorna i Melbourne.