Město bylo založeno v polovině 14. století jako pohraniční pevnost na jihozápadních hranicích Moskevského knížectví. První zmínka o něm pod tímto názvem pochází z roku 1371. Kaluga byla krátce obsazená nacistickým Německem během Bitvy u Moskvy při Operaci Barbarossa. Bylo obsazené od 12. října 1941 do 30. prosince 1941.