Melba ble født i Richmond i Victoria som den eldste av de syv barna til David Mitchell og hans kone Isabella Ann, født Dow. Mitchell var en skotte som hadde utvandret til Australia i 1852, og fikk suksess innen anleggsbransjen. Melba fikk lære å spille piano og sang offentlig for første gang rundt seksårsalderen. Ho ble utdannet ved en lokal internatskole og deretter på Presbyterian Ladies' College. Hun studerte sang med (en tidligere elev av ) og Pietro Cecchi, en italiensk tenor, som var en respektert lærer i Melbourne. I tenårene forsatte Melba med å opptre på amatørkonserter i Melbourne og området rundt, og hun spilte orgel i kirken. Faren hennes oppfordret henne til å studere musikk, men var sterkt imot at hun skulle bli profesjonell sanger.