BERT significa Bidirectional Encoder Representations from Transformers, que en español se conoce como Representaciones de Codificador Bidireccional de Transformadores.