Telegin là thành viên của Hội đồng Quốc phòng Moskva trong trận chiến phòng thủ Moskva. Vai trò quan trọng nhất của ông là Ủy viên Hội đồng quân sự phương diện quân, đầu tiên là ở Phương diện quân Sông Don và sau đó là ở Phương diện quân Trung tâm (sau đổi thành Phương diện quân Belorussia 1), nơi ông trở thành cộng sự thân thiết và là bạn của Nguyên soái Zhukov. Telegin đã tham gia các trận chiến ở Stalingrad, Kursk, Dniepr, Belarus, Ba Lan, Pomerania và Berlin. Ông có mặt tại buổi ký kết Văn kiện đầu hàng của Đức và là thành viên của ủy ban có nhiệm vụ xác định hài cốt của Hitler và gia đình Goebbels. Ông từng là phó của Zhukov trong Cụm binh đoàn Liên Xô tại Đức.