Toe Cecil John Rhodes die eerste keer die latere Zimbabwe besoek het, het hy vanaf Beira met die enigste toe bestaande spoor gereis, oor 'n bergreeks tussen Mosambiek en Zimbabwe en neergedaal in die vallei van die Mutarerivier. Daar het hy meer as 160 opkomende myne gesien, bewys vir hom van ongekende mineralerykdom in 'n land wat hy as die hedendaagse El Dorado beskou het. Selfs die naam, wat in 'n inheemse taal "rivier van erts" beteken, was 'n aanduiding van die vroeëre ontginning van minerale hier.
Die eerste dorpie met die naam was van korte duur. Skaars vyf jaar na die stigting is die inwoners meegedeel die smalspoorlyn vanaf Beira sou nie oor die berge tot op Umtali kon kom nie. Daar was 'n meer natuurlike deurgang 18 km suid, en daarom het Cecil John Rhodes voorgestel as die spoorlyn nie na die dorp toe kon kom nie, moes die dorp na die spoorlyn toe kom. Hy het aangebied om 'n nuwe dorpie aan te lê en het erwe aan almal aangebied wat uit die ou Umtali moes trek. Hy het hulle ook vergoeding vir die verhuising betaal. Die nuwe Umtali is in 1896 geskep en die oue aan die bosveld se genade oorgelaat.
Die nuwe ligging tussen granietberge is so asemrowend dat Mutare vandag as een van die mooiste geleë stede in Suider-Afrika beskou word. Die landmeter, Rhys Fairbridge, het wye strate, 'n ruim park en 'n perseel vir 'n aandelebeurs en resiesbaan beplan. Umtali het op 1 Oktober 1971 stadstatus verkry.