Staven ble tidlig et av biskopenes verdighetstegn, på linje med andre tilsvarende symboler for fyrster og andre verdslige makthavere. I liturgisk sammenheng er bispestaven kjent fra det 5. århundre, og den hadde da allerede vært i bruk i andre sammenhenger i lang tid. I katakombene har man funnet bispestaver datert til 4. århundre, dvs. dengang da kristendommen ble offisielt godtatt i det romerske keiserdømmet.