Värdarna begränsade Irland till 219-8 från sina 50 overs, Gary Wilson poäng en unbeaten 70 och Ed Joyce lägga 53.
Irland reducerade Zimbabwe till 171-7 innan Razas oslagbara knackning hjälpte dem till seger med en över att undvara.
Den andra matchen äger rum på söndag innan en potentiell beslutsfattare på tisdag.
Paul Stirling (24) och Kevin O'Brien (16) bidrog till ett blygsamt Irland totalt medan John Nyumba (2-35) och Wellington Masakadza (2-45) vardera plockade upp två korgar.
Spinner George Dockrell valde de irländska bowlarna med 2-29.
Irland hoppas kunna avsluta den serie som fortfarande ligger framför Zimbabwe i världsrankningen.
Irländarna startade serien i 10:e och Zimbabwe 11:e, med turisterna har en tvåpunkts fördel jämfört med sina rivaler.
Zimbabwe föll till en 2-1 serie nederlag av Pakistan i Harare förra veckan.
Craig Ervine och Sikandar Raza båda slog 60 som Zimbabwe clinched en två-wicket seger över Irland i den första av tre en-dagars internationella i Harare.