Auf dem Festungsberg wurden zwei Ashoka-Edikte aus dem 3. Jahrhundert v. Chr. gefunden. Später befand sich der Ort in Händen der Shatavahanas, dann der Chalukya- und Hoysala-Dynastie sowie des Vijayanagar-Reiches. Wann die Festung ursprünglich erbaut wurde, ist unbekannt, doch fiel sie im Jahr 1786 an Tipu Sultan von Mysore, der sie mit Hilfe französischer Ingenieure erweitern ließ. Im Dritten Mysore-Krieg wurde das Fort Koppal 1790 nach sechsmonatiger Belagerung von den Truppen der Briten und des mit den Briten verbündeten Nizams von Hyderabad erobert. Als Ergebnis des Krieges kam Koppal zu Hyderabad, das während der britischen Kolonialzeit ein nominell unabhängiger Fürstenstaat unter britischer Oberherrschaft war. Ein Jahr nach der indischen Unabhängigkeit wurde Hyderabad 1948 von Indien annektiert. Durch den "States Reorganisation Act" kam Koppal 1956 an den nach den Sprachgrenzen des Kannada geschaffenen Bundesstaat Mysore (1973 umbenannt in Karnataka). Seit 1998 ist Koppal Distrikthauptstadt.