Trong trận Berlin, Tập đoàn quân xung kích số 5 của Berzarin đã tiến đến vùng ngoại ô phía đông của Berlin vào ngày 21 tháng 4 năm 1945, khiến họ trở thành đơn vị Liên Xô đầu tiên làm được điều này. Vào ngày 24 tháng 4, ông được Nguyên soái Zhukov bổ nhiệm làm chỉ huy thành phố, theo truyền thống của Sa hoàng khi thưởng cho người chỉ huy đầu tiên được quyền chỉ huy thành phố. Bằng "Mệnh lệnh số 1" vào ngày 28 tháng 4, Berzarin nắm giữ mọi quyền lực của chính phủ. Ông đã làm việc để thiết lập lại trật tự ở thủ đô đổ nát của Đức, tạo ra một lực lượng cảnh sát thành phố và cung cấp thực phẩm, nước, khí đốt và điện cho người dân, cũng như mở lại trường học và nhà hát. Vào ngày 17 tháng 5, ông bổ nhiệm Arthur Werner không theo đảng phái làm Thị trưởng đầu tiên thời hậu chiến của Berlin chủ trì chính quyền thành phố dân sự.