Provinsen ligger nordøst i Tyrkia og grenser til provinsene Gümüşhane i vest, Erzurum i øst, Trabzon og Rize i nord og til Erzincan i sør. Bayburt ble egen provins 21. juni 1989, den var en del av Gümüşhane i årene 1923 til 1989.