Den brittiska finansiella tillsynsmyndigheten kommer att dela ut böterna till banken i fråga om olämplig hypotekslånerådgivning till kunderna.
FCA förväntas lämna ut ytterligare uppgifter om sitt avgörande på onsdag.
RBS, som ägs till 81 % av den brittiska skattebetalaren, avböjde att lämna synpunkter.
Den senaste boten kommer att bli ännu ett bakslag för verkställande direktören Ross McEwan, vars oroliga bank gjorde en förlust på 8,2 miljarder pund förra året.
RBS har redan ålagts böter på 390 miljoner pund för sin del i skandalen med fastställande av räntorna för Londons interbank (Libor) och har anslagit 3,2 miljarder pund för att kompensera kunderna för felsålda låneförsäkringar.
Royal Bank of Scotland ska bötfällas omkring £ 15m av stadens vakthund Financial Conduct Authority (FCA), BBC har lärt sig.