Dù lập trường cứng rắn của Andropov trong cuộc nổi dậy tại Hungary năm 1956 và nhiều vụ trục xuất và mưu đồ mà ông phải chịu trách nhiệm trong thời gian lãnh đạo khá dài tại KGB, ông dần được nhiều nhà bình luận coi là một nhà cải cách nhân văn, đặc biệt khi so với tình trạng trì trệ và tham nhũng trong những năm cuối thời kỳ cầm quyền của người tiền nhiệm, Leonid Brezhnev. Andropov, "a throwback to a tradition of Leninist asceticism", hoảng sợ trước tình trạng tham nhũng thời Brezhnev, và đã ra lệnh điều tra và bắt giữ những kẻ tham nhũng trắng trợn nhất. Những cuộc điều tra gây ra tình trạng sợ hãi đến nỗi nhiều thành viên trong nhóm của Brezhnev "shot, gassed or otherwise did away with themselves." Chắc chắn ông được mọi người coi là nghiêng về biện pháp cải cách từ từ và có tính xây dựng hơn Gorbachev; hầu hết các suy đoán tập trung quanh việc liệu Andropov đã có thể cải cách Liên bang Xô viết theo một cách để không dẫn nó tới sự giải tán cuối cùng.