Byens museum har gjenstander fra den romerske fortiden, blant annet deler av den viktigste samlingen av romerske bronsestatuer i Frankrike. En årlig romersk festival i september gjenskaper livet i romerske Bavay.