zecafonso/Qwen3-Embedding-0.6B-512

SentenceTransformer based on Qwen/Qwen3-Embedding-0.6B

This is a sentence-transformers model finetuned from Qwen/Qwen3-Embedding-0.6B. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for retrieval.

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: Qwen/Qwen3-Embedding-0.6B
• Maximum Sequence Length: 512 tokens
• Output Dimensionality: 1024 dimensions
• Similarity Function: Cosine Similarity
• Supported Modality: Text

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'transformer_task': 'feature-extraction', 'modality_config': {'text': {'method': 'forward', 'method_output_name': 'last_hidden_state'}}, 'module_output_name': 'token_embeddings', 'architecture': 'Qwen3Model'})
  (1): Pooling({'embedding_dimension': 1024, 'pooling_mode': 'lasttoken', 'include_prompt': True})
  (2): Normalize({})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
queries = [
    '2 - Os parâmetros para o dimensionamento das áreas a ceder para o domínio municipal são os definidos em plano municipal de ordenamento do território ou, supletivamente, naPortaria n.º 216-B/2008, de 3 de março, ou outra que, sobre esta matéria, venha a ser posteriormente aprovada',
]
documents = [
    'Artigo 53.º – Cedências\n1 - Os promotores das operações de loteamento e de outras operações urbanísticas às quais, nos termos do RJUE e do presente Regulamento sejam aplicáveis as disposições relativas a cedências, cedem gratuitamente ao Município parcelas para implantação de espaços verdes públicos e equipamentos de utilização coletiva e as infraestruturas urbanísticas que, de acordo com a lei e a licença ou comunicação prévia, devam integrar o domínio municipal.\n2 - Os parâmetros para o dimensionamento das áreas a ceder para o domínio municipal são os definidos em plano municipal de ordenamento do território ou, supletivamente, naPortaria n.º 216-B/2008, de 3 de março, ou outra que, sobre esta matéria, venha a ser posteriormente aprovada.\n3 - No caso das operações urbanísticas com impacte relevante, para efeitos de determinação das áreas a ceder para o domínio municipal, bem como da compensação a que eventualmente haja lugar nos termos dos artigos seguintes, o respetivo cálculo deve incidir:\ni) No caso de obras de construção, sobre toda a área de construção;\nii) No caso de obras de ampliação ou de obras de reconstrução com preservação de fachada, sobre o aumento de superfície de pavimento relativamente à situação preexistente.\n4 - As áreas destinadas a espaços verdes públicos, equipamentos de utilização coletiva e as infraestruturas urbanísticas devem ainda obedecer aos seguintes requisitos:\na) Integrar-se no desenho urbano existente ou projetado;\nb) Localizar-se em áreas livres de restrições que condicionem a sua utilização;\nc) Dispor, preferencialmente, de acesso e frente para via ou espaço público;\nd) Possuir configuração e dimensão adequadas aos objetivos tipológicos e funcionais pretendidos;',
    'ii) Cinco lugares por cada 100 m2 de área total de construção, quando a área total de construção de serviços for superior a 500 m2.\nf ) Em empreendimentos turísticos, o dimensionamento dos lugares de estacionamento deve observar as disposições das portarias em vigor para o efeito, decorrente da legislação específica;\ng) Em armazém ou indústria, um lugar por cada 150 m2 de área total de construção, devendo ainda ser prevista no interior da parcela de terreno ou prédio, a área necessária às operações de carga e descarga de veículos pesados, bem como ao estacionamento dos mesmos, em número a determinar, caso a caso em função do tipo de indústria ou armazém a instalar;\nh) Deve ainda ser prevista a seguinte proporção para lugares acessíveis a pessoas com mobilidade condicionada:\ni) Um lugar em espaços de estacionamento com uma lotação não superior a 10 lugares;\nii) Dois lugares em espaços de estacionamento com uma lotação compreendida entre 11 e 25 lugares;\niii) Três lugares em espaços de estacionamento com uma lotação compreendida entre 26 e 100 lugares;\niv) Quatro lugares em espaços de estacionamento com uma lotação compreendida entre 101 e 500 lugares;\nv) Um lugar por cada 100 lugares em espaços de estacionamento com uma lotação superior a 500 lugares.\n3 - Para instalação de equipamentos de utilização coletiva, designadamente destinados à satisfação de necessidades nos domínios da saúde, educação, cultura e desporto, deve proceder-se a um estudo de mobilidade e estacionamento que permita definir as necessidades em número de lugares de estacionamento e as condições de acessibilidade.\n4 - A edificabilidade máxima a autorizar em edificações destinadas a estacionamento automóvel (garagens e auto silos) é a que resultar do estrito cumprimento do disposto nos instrumentos de gestão territorial aplicáveis ao local.',
    'Artigo 99.º – Monta-carros\nÉ permitida a aplicação de monta-carros em substituição de rampas nos casos plenamente justificados pela dimensão e geometria do lote ou prédio, e ainda pela impossibilidade de circulação interior, cumprindo-se os seguintes requisitos:\na) Devem servir um parqueamento com capacidade máxima de 50 lugares de estacionamento, distribuídos pelo máximo de três pisos;\nb) Prever a aplicação de 1 monta-carros por cada 25 veículos;\nc) A plataforma deve ter as dimensões mínimas livres de 2,50 metros de largura por 5 metros de comprimento;\nd) Não é admissível a instalação de monta-carros em estabelecimentos para serviço público.\n\nArtigo 100.º – Circulação interior\n1 - A circulação no interior dos pisos de estacionamento deve ser garantida sem recurso a manobras, nos percursos de ligação entre os pisos;\n2 - A largura mínima das faixas de circulação é de:\na) 4,50 metros em estacionamento a 45.º;\nb) 5 metros em estacionamento a 60.º;\nc) 5,50 metros em estacionamento a 90.º;\nd) 4 metros em estacionamento longitudinal;\ne) Devem ser previstas zonas livres, nos locais próximos à entrada/saída das rampas, de modo a permitir a passagem cruzada ou a espera de veículos;\nf ) Os pilares ou outros obstáculos devem ser devidamente sinalizados e protegidos;\ng) O pavimento das rampas e dos pisos deve ser antiderrapante e deve ser previsto um sistema de caleiras que permita a limpeza de óleos.\n(ver documento original)',
]
query_embeddings = model.encode_query(queries)
document_embeddings = model.encode_document(documents)
print(query_embeddings.shape, document_embeddings.shape)
# [1, 1024] [3, 1024]

# Get the similarity scores for the embeddings
similarities = model.similarity(query_embeddings, document_embeddings)
print(similarities)
# tensor([[0.5363, 0.0907, 0.1220]])

Evaluation

Metrics

Information Retrieval

• Datasets: urban-ir-gold-validation-rmue_faro and urban-ir-gold-span-validation-rmue_faro
• Evaluated with InformationRetrievalEvaluator with these parameters:

  {
      "query_prompt": "Instruct: Given a web search query, retrieve relevant passages that answer the query\nQuery:"
  }
  

Metric	urban-ir-gold-validation-rmue_faro	urban-ir-gold-span-validation-rmue_faro
cosine_accuracy@1	0.4545	0.7083
cosine_accuracy@3	0.8182	0.9167
cosine_accuracy@5	0.9091	0.9167
cosine_accuracy@10	0.9091	0.9167
cosine_precision@1	0.4545	0.7083
cosine_precision@3	0.3636	0.3056
cosine_precision@5	0.2364	0.1833
cosine_precision@10	0.1455	0.0917
cosine_recall@1	0.303	0.7083
cosine_recall@3	0.6288	0.9167
cosine_recall@5	0.7197	0.9167
cosine_recall@10	0.8333	0.9167
cosine_ndcg@10	0.6606	0.8398
cosine_mrr@10	0.6394	0.8125
cosine_map@100	0.5761	0.8135

Training Details

Training Dataset

Unnamed Dataset

• Size: 81 training samples
• Columns: anchor, positive, negative_1, and negative_2
• Approximate statistics based on the first 81 samples:

  	anchor	positive	negative_1	negative_2
  type	string	string	string	string
  modality	text	text	text	text
  details	min: 8 tokens mean: 81.36 tokens max: 512 tokens	min: 419 tokens mean: 473.53 tokens max: 491 tokens	min: 302 tokens mean: 468.73 tokens max: 493 tokens	min: 456 tokens mean: 473.94 tokens max: 492 tokens

• Samples:

  anchor	positive	negative_1	negative_2
  Artigo 113º. Critérios de dimensionamento\n\n\n\n1. Todas as novas edificações devem dispor de espaços destinados ao estacionamento de veículos, sendo o número de lugares estabelecido em função dos usos de edifício e da sua dimensão.\n\n\n\n2. Os parâmetros de dimensionamento quer para operações de loteamento quer para operações afins de impacte urbanístico relevante e impacte semelhante a loteamento, deve garantir-se o cumprimento dos seguintes mínimos:	1. O cálculo da área de estacionamento necessária para veículos ligeiros deve obedecer aos seguintes parâmetros: a) Uma área de estacionamento mínima de 11,50 m2 (2,30 m x 5 m) por cada lugar de estacionamento ao ar livre; b) Uma área de construção mínima de 30 m2 por cada lugar de estacionamento em estrutura edificada, em cave ou não, garantindo uma largura mínima disponível de 3,50 m em “boxe”, e de 2,30 metros em lugares de estacionamento, sendo que cada área estacionamento terá que garantir uma profundidade disponível de 5 m; c) As dimensões de garagens fechadas e de lugares de estacionamento que se destinem a cidadãos com mobilidade condicionada devem respeitar as larguras de 4 m e 3,50 m respetivamente, sendo a sua localização a mais próxima dos acessos e obrigatoriamente anexados à habitação acessível. 2. A área de construção a considerar para cada lugar de estacionamento de um veículo pesado deve obedecer aos seguintes parâmetros: a) 75 m2 (5 m x 15 m), à superfíc...	A qualquer situação não prevista nas presentes disposições regulamentares aplica-se o disposto na demais legislação vigente. Artigo 145º. Programas Especiais De Ordenamento Do Território Os planos identificados no número 1 do artigo 4.º apenas revestem instrumentos de planeamento a observar até os mesmos serem transformados em programas. Artigo 146º. Revogações É revogado o Plano Diretor Municipal ratificado pela Resolução de Conselho de Ministros n.º 174/95, de 19 de dezembro, com a entrada em vigor do presente Plano. Artigo 147º. Entrada em vigor e revisão 1. O presente Plano entra em vigor no dia seguinte à sua publicação. 2. O PDM de Faro deve ser objeto de avaliação nos termos da legislação em vigor, devendo proceder-se à sua revisão sempre que tal se demonstre necessário, a qual tem necessariamente que ocorrer sempre que decorridos 10 anos. Revisão do Plano Diretor Municipal Regulamento Município de Faro | lugar do plano, gestão do território e cultura...	c) O conteúdo do contrato de planeamento de NDT não pode substituir o plano na fixação de Revisão do Plano Diretor Municipal Regulamento Município de Faro | lugar do plano, gestão do território e cultura, Lda 63 regras de ocupação, uso e transformação do solo, ou dele prescindir; d) O contrato de planeamento de NDT não pode substituir, nem modificar o regime legal vigente para os atos administrativos que estejam associados ou contemplados no contrato; e) As obrigações de caráter financeiro são estabelecidas em conformidade com as leis e regulamentos aplicáveis às operações urbanísticas e empreendimentos turísticos que integrem o NDT. SECÇÃO III. ESPAÇOS AGRÍCOLAS SUBSECÇÃO I. DE PRODUÇÃO Artigo 65º. Identificação Os espaços agrícolas de produção abrangem áreas com elevada capacidade de uso e aptidão agrícola afetas ou não à Reserva Agrícola Nacional (RAN). Artigo 66º. Regime de Edificabilidade Sem prejuízo do disposto no regime jurídico da reserva agrícola na...
  Qual o n.º mínimo de lugares público de estacionamento consoante a área de construção e uso?	1. O cálculo da área de estacionamento necessária para veículos ligeiros deve obedecer aos seguintes parâmetros: a) Uma área de estacionamento mínima de 11,50 m2 (2,30 m x 5 m) por cada lugar de estacionamento ao ar livre; b) Uma área de construção mínima de 30 m2 por cada lugar de estacionamento em estrutura edificada, em cave ou não, garantindo uma largura mínima disponível de 3,50 m em “boxe”, e de 2,30 metros em lugares de estacionamento, sendo que cada área estacionamento terá que garantir uma profundidade disponível de 5 m; c) As dimensões de garagens fechadas e de lugares de estacionamento que se destinem a cidadãos com mobilidade condicionada devem respeitar as larguras de 4 m e 3,50 m respetivamente, sendo a sua localização a mais próxima dos acessos e obrigatoriamente anexados à habitação acessível. 2. A área de construção a considerar para cada lugar de estacionamento de um veículo pesado deve obedecer aos seguintes parâmetros: a) 75 m2 (5 m x 15 m), à superfíc...	A qualquer situação não prevista nas presentes disposições regulamentares aplica-se o disposto na demais legislação vigente. Artigo 145º. Programas Especiais De Ordenamento Do Território Os planos identificados no número 1 do artigo 4.º apenas revestem instrumentos de planeamento a observar até os mesmos serem transformados em programas. Artigo 146º. Revogações É revogado o Plano Diretor Municipal ratificado pela Resolução de Conselho de Ministros n.º 174/95, de 19 de dezembro, com a entrada em vigor do presente Plano. Artigo 147º. Entrada em vigor e revisão 1. O presente Plano entra em vigor no dia seguinte à sua publicação. 2. O PDM de Faro deve ser objeto de avaliação nos termos da legislação em vigor, devendo proceder-se à sua revisão sempre que tal se demonstre necessário, a qual tem necessariamente que ocorrer sempre que decorridos 10 anos. Revisão do Plano Diretor Municipal Regulamento Município de Faro | lugar do plano, gestão do território e cultura...	c) O conteúdo do contrato de planeamento de NDT não pode substituir o plano na fixação de Revisão do Plano Diretor Municipal Regulamento Município de Faro | lugar do plano, gestão do território e cultura, Lda 63 regras de ocupação, uso e transformação do solo, ou dele prescindir; d) O contrato de planeamento de NDT não pode substituir, nem modificar o regime legal vigente para os atos administrativos que estejam associados ou contemplados no contrato; e) As obrigações de caráter financeiro são estabelecidas em conformidade com as leis e regulamentos aplicáveis às operações urbanísticas e empreendimentos turísticos que integrem o NDT. SECÇÃO III. ESPAÇOS AGRÍCOLAS SUBSECÇÃO I. DE PRODUÇÃO Artigo 65º. Identificação Os espaços agrícolas de produção abrangem áreas com elevada capacidade de uso e aptidão agrícola afetas ou não à Reserva Agrícola Nacional (RAN). Artigo 66º. Regime de Edificabilidade Sem prejuízo do disposto no regime jurídico da reserva agrícola na...
  4 — Em loteamentos, ou operações urbanísticas com impacte semelhante a loteamento, deverão ser previstos, cumulativamente, lugares de estacio- namento público na proporção de 50 % dos lugares privativos exigíveis para as frações habitacionais, em número igual ou superior aos lugares privativos das frações não habitacionais e em dobro dos lugares exigíveis para as frações destinadas a estabelecimentos de restauração e bebidas	indicado na Planta de Ordenamento — Qualificação do Solo enquanto não estiver aprovado o projeto de execução respetivo, sem prejuízo do dis- posto no artigo 13.º do presente Regulamento, referente a preexistências. Artigo 21.º Estacionamento 1 — Nos edifícios para habitação unifamiliar e bifamiliar, deve ser criada uma área de parqueamento equivalente a dois lugares de estacio- namento por fogo no interior do edifício ou parcela de terreno. 2 — Nos edifícios para habitação coletiva, devem ser previstos no interior do edifício ou parcela: a) Um lugar de estacionamento por fogo para fogos com área inferior a 120 m² e dois lugares de estacionamento por fogo para fogos com área igual ou superior a 120 m², no caso de ser conhecida a dimensão dos fogos; b) 1,5 lugares de estacionamento por cada 120 m² de área bruta de cons- trução afeta à habitação, no caso de ser desconhecida a dimensão dos fogos. 3 — Em edifícios ou áreas destinadas a comércio e ou serviços, deve, sem prejuízo do dis...	dades com a disciplina estabelecida pelo presente Plano, referida no número anterior, só pode ocorrer posição favorável à regularização da situação se aquela considerar que se cumprem as seguintes condições cumulativas: a) As atividades, usos e ocupações a regularizar são, tendo em conta a sua localização, compatíveis ou compatibilizáveis com a segurança de pessoas, bens e ambiente, e com os usos dominantes da categoria ou subcategoria de espaço do local em que se situam, nos termos do disposto no artigo 12.º; b) A eventual inobservância dos parâmetros de edificabilidade aplicá- veis ao local não provoca prejuízos inaceitáveis em termos de inserção territorial, tanto no que se refere a sobrecargas ambientais, funcionais e infraestruturais como no respeitante a impactes visuais e paisagísti- cos; c) Seja dado cumprimento às disposições respeitantes a servidões administrativas ou restrições de utilidade pública, eventualmente exis- tentes para o local. ANEXO Republicação do Reg...	a) As obras de edificação se localizem em imóveis classificados ou em vias de classificação e a criação de acesso de viaturas ao seu interior prejudique ou seja incompatível com as características arquitetónicas e arqueológicas passíveis de salvaguarda e valorização; b) As obras de edificação estejam condicionadas às características físicas das parcelas de terreno (geológicas, topográficas, configuração geométrica da parcela, níveis freáticos, segurança de edificações en- volventes e interferência na funcionalidade das infraestruturas) ou do espaço envolvente; c) As edificações que sejam objeto de obras de reconstrução, alte- ração, ampliação ou alteração de uso, quando localizadas em áreas de interesse patrimonial e que não impliquem uma modificação profunda da edificação original. 9 — . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . SECÇÃO V Parque Natural do Alvão (PNAl) Artigo 24.º [...] 1 — A área do Parque Natural do Alv...

• Loss: MultipleNegativesRankingLoss with these parameters:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim",
      "gather_across_devices": false,
      "directions": [
          "query_to_doc"
      ],
      "partition_mode": "joint",
      "hardness_mode": null,
      "hardness_strength": 0.0
  }
  

Evaluation Dataset

Unnamed Dataset

• Size: 44 evaluation samples
• Columns: anchor and positive
• Approximate statistics based on the first 44 samples:

  	anchor	positive
  type	string	string
  modality	text	text
  details	min: 6 tokens mean: 121.25 tokens max: 512 tokens	min: 42 tokens mean: 392.16 tokens max: 495 tokens

• Samples:

  anchor	positive
  Qual a inclinação máxima das rampas em solo urbano e espaço central?	Artigo 98.º – Rampas 1 - As rampas de acesso ao estacionamento no interior dos prédios não podem, em caso algum, ter qualquer desenvolvimento na via ou espaço público, incluindo passeios, devendo ser realizadas de modo a permitir uma boa visibilidade por parte dos condutores que saem do estacionamento. 2 - As rampas devem permitir a fácil inscrição geométrica, sem recurso a manobra. 3 - A largura mínima das rampas é de 3 metros, podendo a largura máxima atingir 9,50 metros em função da capacidade global do parqueamento e da utilização do edifício, a fundamentar em projeto e sujeito a apreciação caso a caso. 4 - A inclinação máxima das rampas não pode ser superior a 18 % e deve ser demonstrada a utilização em condições de segurança dos veículos, recorrendo a diferentes percentagens de inclinação sempre que necessário. 5 - Sempre que a inclinação ultrapasse os 12 %, deve ser prevista curva de transição com a zona de concordância nos pisos, com uma extensão mínima de 3 metros, em situaçõe...
  Qual a largura de circulação nos estacionamentos cobertos?	Artigo 98.º – Rampas 1 - As rampas de acesso ao estacionamento no interior dos prédios não podem, em caso algum, ter qualquer desenvolvimento na via ou espaço público, incluindo passeios, devendo ser realizadas de modo a permitir uma boa visibilidade por parte dos condutores que saem do estacionamento. 2 - As rampas devem permitir a fácil inscrição geométrica, sem recurso a manobra. 3 - A largura mínima das rampas é de 3 metros, podendo a largura máxima atingir 9,50 metros em função da capacidade global do parqueamento e da utilização do edifício, a fundamentar em projeto e sujeito a apreciação caso a caso. 4 - A inclinação máxima das rampas não pode ser superior a 18 % e deve ser demonstrada a utilização em condições de segurança dos veículos, recorrendo a diferentes percentagens de inclinação sempre que necessário. 5 - Sempre que a inclinação ultrapasse os 12 %, deve ser prevista curva de transição com a zona de concordância nos pisos, com uma extensão mínima de 3 metros, em situaçõe...
  Qual a largura de circulação nos estacionamentos cobertos?	Artigo 99.º – Monta-carros É permitida a aplicação de monta-carros em substituição de rampas nos casos plenamente justificados pela dimensão e geometria do lote ou prédio, e ainda pela impossibilidade de circulação interior, cumprindo-se os seguintes requisitos: a) Devem servir um parqueamento com capacidade máxima de 50 lugares de estacionamento, distribuídos pelo máximo de três pisos; b) Prever a aplicação de 1 monta-carros por cada 25 veículos; c) A plataforma deve ter as dimensões mínimas livres de 2,50 metros de largura por 5 metros de comprimento; d) Não é admissível a instalação de monta-carros em estabelecimentos para serviço público. Artigo 100.º – Circulação interior 1 - A circulação no interior dos pisos de estacionamento deve ser garantida sem recurso a manobras, nos percursos de ligação entre os pisos; 2 - A largura mínima das faixas de circulação é de: a) 4,50 metros em estacionamento a 45.º; b) 5 metros em estacionamento a 60.º; c) 5,50 metros em estacionamento a 90.º; ...

• Loss: MultipleNegativesRankingLoss with these parameters:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim",
      "gather_across_devices": false,
      "directions": [
          "query_to_doc"
      ],
      "partition_mode": "joint",
      "hardness_mode": null,
      "hardness_strength": 0.0
  }
  

Training Hyperparameters

Non-Default Hyperparameters

• per_device_train_batch_size: 16
• num_train_epochs: 25.0
• learning_rate: 1e-05
• warmup_steps: 0.2
• optim: adamw_torch
• weight_decay: 0.01
• gradient_accumulation_steps: 2
• bf16: True
• gradient_checkpointing: True
• per_device_eval_batch_size: 16
• remove_unused_columns: False
• prompts: {'anchor': 'Instruct: Given a web search query, retrieve relevant passages that answer the query\nQuery:'}
• batch_sampler: no_duplicates

All Hyperparameters

Click to expand

• per_device_train_batch_size: 16
• num_train_epochs: 25.0
• max_steps: -1
• learning_rate: 1e-05
• lr_scheduler_type: linear
• lr_scheduler_kwargs: None
• warmup_steps: 0.2
• optim: adamw_torch
• optim_args: None
• weight_decay: 0.01
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• optim_target_modules: None
• gradient_accumulation_steps: 2
• average_tokens_across_devices: True
• max_grad_norm: 1.0
• label_smoothing_factor: 0.0
• bf16: True
• fp16: False
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• gradient_checkpointing: True
• gradient_checkpointing_kwargs: None
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• use_liger_kernel: False
• liger_kernel_config: None
• use_cache: False
• neftune_noise_alpha: None
• torch_empty_cache_steps: None
• auto_find_batch_size: False
• log_on_each_node: True
• logging_nan_inf_filter: True
• include_num_input_tokens_seen: no
• log_level: passive
• log_level_replica: warning
• disable_tqdm: False
• project: huggingface
• trackio_space_id: None
• trackio_bucket_id: None
• trackio_static_space_id: None
• per_device_eval_batch_size: 16
• prediction_loss_only: True
• eval_on_start: False
• eval_do_concat_batches: True
• eval_use_gather_object: False
• eval_accumulation_steps: None
• include_for_metrics: []
• batch_eval_metrics: False
• save_only_model: False
• save_on_each_node: False
• enable_jit_checkpoint: False
• push_to_hub: False
• hub_private_repo: None
• hub_model_id: None
• hub_strategy: every_save
• hub_always_push: False
• hub_revision: None
• load_best_model_at_end: False
• ignore_data_skip: False
• restore_callback_states_from_checkpoint: False
• full_determinism: False
• seed: 42
• data_seed: None
• use_cpu: False
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• parallelism_config: None
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• dataloader_prefetch_factor: None
• remove_unused_columns: False
• label_names: None
• train_sampling_strategy: random
• length_column_name: length
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• ddp_static_graph: None
• ddp_backend: None
• ddp_timeout: 1800
• fsdp: None
• fsdp_config: None
• deepspeed: None
• debug: []
• skip_memory_metrics: True
• do_predict: False
• resume_from_checkpoint: None
• warmup_ratio: None
• local_rank: -1
• prompts: {'anchor': 'Instruct: Given a web search query, retrieve relevant passages that answer the query\nQuery:'}
• batch_sampler: no_duplicates
• multi_dataset_batch_sampler: proportional
• router_mapping: {}
• learning_rate_mapping: {}

Training Logs

Epoch	Step	Training Loss	Validation Loss	urban-ir-gold-validation-rmue_faro_cosine_ndcg@10	urban-ir-gold-span-validation-rmue_faro_cosine_ndcg@10
0.3333	1	1.4632	-	-	-
0.6667	2	1.5307	-	-	-
1.0	3	0.8571	0.6592	0.6483	0.7986
1.3333	4	1.7348	-	-	-
1.6667	5	1.5169	-	-	-
2.0	6	0.8525	0.6534	0.6483	0.8033
2.3333	7	1.5385	-	-	-
2.6667	8	1.5145	-	-	-
3.0	9	0.9304	0.6448	0.6483	0.8051
3.3333	10	1.3789	-	-	-
3.6667	11	1.1814	-	-	-
4.0	12	1.3428	0.6369	0.6594	0.8289
4.3333	13	1.4540	-	-	-
4.6667	14	1.1283	-	-	-
5.0	15	0.5440	0.6272	0.6492	0.8289
5.3333	16	1.1467	-	-	-
5.6667	17	0.7506	-	-	-
6.0	18	0.8035	0.6241	0.6635	0.8705
6.3333	19	0.8543	-	-	-
6.6667	20	0.6325	-	-	-
7.0	21	0.6773	0.6261	0.6952	0.8552
7.3333	22	0.7412	-	-	-
7.6667	23	0.6583	-	-	-
8.0	24	0.6145	0.6250	0.6967	0.8244
8.3333	25	0.7235	-	-	-
8.6667	26	0.5390	-	-	-
9.0	27	0.3607	0.6277	0.7036	0.8244
9.3333	28	0.4578	-	-	-
9.6667	29	0.6003	-	-	-
10.0	30	0.2533	0.6253	0.6755	0.8244
10.3333	31	0.5736	-	-	-
10.6667	32	0.5744	-	-	-
11.0	33	0.2819	0.6270	0.6761	0.8244
11.3333	34	0.3341	-	-	-
11.6667	35	0.6039	-	-	-
12.0	36	0.3080	0.6292	0.6734	0.8398
12.3333	37	0.4567	-	-	-
12.6667	38	0.4429	-	-	-
13.0	39	0.2984	0.6317	0.6742	0.8398
13.3333	40	0.4355	-	-	-
13.6667	41	0.4572	-	-	-
14.0	42	0.4414	0.6330	0.6695	0.8398
14.3333	43	0.4350	-	-	-
14.6667	44	0.4592	-	-	-
15.0	45	0.1702	0.6336	0.6679	0.8398
15.3333	46	0.5753	-	-	-
15.6667	47	0.3713	-	-	-
16.0	48	0.3408	0.6338	0.6679	0.8398
16.3333	49	0.2865	-	-	-
16.6667	50	0.5948	-	-	-
17.0	51	0.4032	0.6356	0.6703	0.8398
17.3333	52	0.3576	-	-	-
17.6667	53	0.4848	-	-	-
18.0	54	0.1645	0.6329	0.6671	0.8398
18.3333	55	0.3654	-	-	-
18.6667	56	0.4153	-	-	-
19.0	57	0.3818	0.6359	0.6703	0.8398
19.3333	58	0.3776	-	-	-
19.6667	59	0.4269	-	-	-
20.0	60	0.1800	0.6390	0.6679	0.8398
20.3333	61	0.4194	-	-	-
20.6667	62	0.4392	-	-	-
21.0	63	0.1482	0.6360	0.6664	0.8398
21.3333	64	0.4094	-	-	-
21.6667	65	0.5363	-	-	-
22.0	66	0.1588	0.6386	0.6679	0.8398
22.3333	67	0.4023	-	-	-
22.6667	68	0.4205	-	-	-
23.0	69	0.1985	0.6363	0.6679	0.8398
23.3333	70	0.3223	-	-	-
23.6667	71	0.5365	-	-	-
24.0	72	0.1226	0.6383	0.6615	0.8398
24.3333	73	0.3264	-	-	-
24.6667	74	0.4651	-	-	-
25.0	75	0.3082	0.6370	0.6606	0.8398

Training Time

• Training: 15.9 minutes
• Evaluation: 3.5 minutes
• Total: 19.3 minutes

Framework Versions

• Python: 3.12.11
• Sentence Transformers: 5.5.1
• Transformers: 5.10.2
• PyTorch: 2.12.0+cu130
• Accelerate: 1.13.0
• Datasets: 5.0.0
• Tokenizers: 0.22.2

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss

@misc{oord2019representationlearningcontrastivepredictive,
      title={Representation Learning with Contrastive Predictive Coding},
      author={Aaron van den Oord and Yazhe Li and Oriol Vinyals},
      year={2019},
      eprint={1807.03748},
      archivePrefix={arXiv},
      primaryClass={cs.LG},
      url={https://arxiv.org/abs/1807.03748},
}