Marshall, som just har anslutit sig till Hull City från Cardiff City, är i kö för att starta söndagens VM kval i Malta.
Den 31-årige spelade i nio av Skottlands 10 Euro 2016 kval och deras två slutet av säsongen vänner.
"För mig, David är nummer ett och han bör förbli nummer ett", sade Rough, som vann 53 Skottland caps.
"Jag är en stor troende när du är nummer ett, om du inte gör något fel, bör du förbli nummer ett.
"Det spelar ingen roll hur bra de andra två är även om de spelar ur deras hud; om du håller den positionen, bör du stanna där tills du gör något fel.
"I den senaste kampanjen, skulle jag säga att David Marshall var vår stjärna man. Han har förmågan att göra internationella räddningar - och viktiga räddningar när det är riktigt trångt.
"Jag tror att han har mognat bortom allt du hade kunnat föreställa dig."
Marshalls flytt till Premier League Hull, efter 280 matcher i sju år i Cardiff, kan påverka den långsiktiga framtiden för McGregor.
Den 34-årige är för närvarande avsides tills förmodligen det nya året efter ryggkirurgi och kan kämpa för att återfå sin plats efter ankomsten av hans Skottland rival.
"Det är inte ett bra problem om du är målvakten som är nummer två", sade Rough, som drabbades av ett liknande öde när Andy Goram gick Hibs och befriade honom från sin första valstatus mot slutet av sin karriär.
"Det är då du måste fatta beslut - 'Vill jag vara här?'. Jag är säker på att Allan skulle behöva titta på den situationen beroende på hur länge det pågick.
"Det är ett stort problem, men en chef kommer att säga att det är ett bra problem.
"Jag är säker på att de två kommer att arbeta tillsammans. Men ju längre du är nummer två, då måste du börja fatta beslut."
Craig Gordon, som är i Skottlands nuvarande trupp som förbereder sig för Malta, har blivit förvisad till Celtics bänk.
Den 33-årige spelade i sina första nio matcher den här säsongen, men nya signering Dorus de Vries fick tröjan för förra lördagens Premiership match mot Aberdeen.
Grov tror Gordon kommer att återta första val status, men inte för nästa veckas Old Firm möte mot Rangers.
"Jag tycker fortfarande att Craig är bra nog och har förmågan att kämpa sig tillbaka in där," sade Rough, 64.
"Men chefen måste välja De Vries mot Rangers. Han har valt honom att spela i förra matchen. Det skulle bara göra alla förvirrade om han inte gjorde det.
"Tyvärr har han fått två veckor på sig att vänja sig vid de sista fyra som kommer att spela framför honom. Men jag tror att det är det som har varit problemet - inte Craigs problem - men Celtics problem; de har inte haft en avgjord tillbaka fyra, inte ens en avgjord två centrala försvarare.
"Jag tror Craigs problem är att han har försökt täcka för folket framför honom och vid det udda tillfället har han blivit upptäckt.
"Craigs största problem är den standard han satte när han gick Celtic - han var otrolig. Det är svårt att hålla den nivån.
"Han måste acceptera att han har tappats, inte för små misstag, eftersom alla förlorar denna typ av mål; han har tappats eftersom chefen sade att den här killen [De Vries] är bättre med bollen vid fötterna. Men jag tror Craig kommer tillbaka."
David Marshall förtjänar att bli målvakt för Skottland trots påståendena från Allan McGregor och Craig Gordon, tror före detta målvakten Alan Rough.