Milly ga sangundervisning i Kristiania i 1887–1888, og da hun var blitt gift med Ludvig Bergh, opptrådte hun flere ganger sammen med ham, både som sanger og som pianist.