La ciutat s'esmenta per primer cop en una crònica de l'any 1166 amb el nom de Luki. Des del segle , Luki formava part de la República de Nóvgorod. Després de la construcció d'una fortalesa el 1211, Velíkie Luki va obtenir una importància estratègica, per a defensar les aproximacions a Pskov i Nóvgorod. Va ser incorporat al Gran Ducat de Moscou per Ivan II el Gran l'any 1478. Durant la Guerra de Livònia, va tenir un paper important. A la reforma administrativa de 1708 de Pere I el Gran, Velíkie Luki va ser inclòs a la Gubèrnia d'Inguermanlàndia (que des de 1710 s'anomenà Gubèrnia de Sant Petersburg). El 1727, se'n va separar com a part de la nova Gubèrnia de Nóvgorod, i el 1772, a la nova de Pskov, que entre 1777 i 1796 es va anomenar Virregnat de Pskov. Des de 1777, Velíkie Luki va ser la capital del seu propi uiezd, anomenat de Velikolukski. A principis del , es va convertir en un important nus ferroviari a partir de la construcció del tren que connecta Moscou amb Riga.