Gaten ble lenge også kalt Små-Øvregaten. Navnet «Lille Øvregaten» ble offisielt stadfestet i 1857. I 1993 endret Bergen kommune v/navneutvalget gatens navn til ubestemt form: «Lille Øvregate», men i Klagenemda for stedsnavnsaker ble det året etter bestemt at navneutvalget ikke fikk medhold i blant annet navneformen smug og at gate skulle skrives i ubestemt form.