Under Slaget om Berlin nåede Berzarins 5. armé Berlins østlige forstæder den 21. april 1945 som den første sovjetiske armé. Den 24. april udpegede marskal Zjukov Berzarin som kommandør i byen i overensstemmelse med traditionen fra zar-tiden, om at den kommandør, der først når en by også overdrages kommandoen over den. Med Zjukovs bemyndigelse opnåede Berzarin uindskrænket magt over Berlin. Efter kamphandlingerne i Berlin var ophørt begyndte en genopbygning af byen under Berzarins kommando, hvor der blev forsøgt åbnet for vand, elektricitet ligesom den belejrede befolkning manglede mad, vand og andre basale fornødenheder. Den 17. maj 1945 udpegede han Arthur Werner som den første borgmester i Berlin efter krigen.