Datasets:

dougdotcon
/

douvras-ptbr-enterprise-ai-evaluation

Error code:   StreamingRowsError
Exception:    CastError
Message:      Couldn't cast
dataset_id: string
split: string
version: string
examples: int64
categories: struct<grounded_qa: int64, abstention: int64, prompt_injection: int64, human_escalation: int64>
  child 0, grounded_qa: int64
  child 1, abstention: int64
  child 2, prompt_injection: int64
  child 3, human_escalation: int64
synthetic: bool
source_policy: string
sha256: string
frozen_eval_exclusion: string
publication_status: string
created_at: timestamp[s]
source_id: string
category: string
question: string
id: string
ideal_answer: string
must_cite: bool
context: string
required_phrases: list<item: string>
  child 0, item: string
expected_behavior: string
forbidden_phrases: list<item: string>
  child 0, item: string
difficulty: string
to
{'id': Value('string'), 'category': Value('string'), 'source_id': Value('string'), 'context': Value('string'), 'question': Value('string'), 'expected_behavior': Value('string'), 'ideal_answer': Value('string'), 'required_phrases': List(Value('string')), 'forbidden_phrases': List(Value('string')), 'must_cite': Value('bool'), 'difficulty': Value('string')}
because column names don't match
Traceback:    Traceback (most recent call last):
                File "/src/services/worker/src/worker/utils.py", line 147, in get_rows_or_raise
                  return get_rows(
                      dataset=dataset,
                  ...<4 lines>...
                      column_names=column_names,
                  )
                File "/src/libs/libcommon/src/libcommon/utils.py", line 272, in decorator
                  return func(*args, **kwargs)
                File "/src/services/worker/src/worker/utils.py", line 127, in get_rows
                  rows_plus_one = list(itertools.islice(safe_iter(ds, dataset=dataset), rows_max_number + 1))
                File "/src/services/worker/src/worker/utils.py", line 483, in safe_iter
                  yield from ds.decode(False) if ds.features else ds
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2840, in __iter__
                  for key, example in ex_iterable:
                                      ^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2373, in __iter__
                  for key, pa_table in self._iter_arrow():
                                       ~~~~~~~~~~~~~~~~^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2398, in _iter_arrow
                  for key, pa_table in self.ex_iterable._iter_arrow():
                                       ~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 536, in _iter_arrow
                  for key, pa_table in iterator:
                                       ^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 419, in _iter_arrow
                  for key, pa_table in self.generate_tables_fn(**gen_kwags):
                                       ~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 343, in _generate_tables
                  self._cast_table(pa_table, json_field_paths=json_field_paths),
                  ~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 132, in _cast_table
                  pa_table = table_cast(pa_table, self.info.features.arrow_schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2378, in table_cast
                  return cast_table_to_schema(table, schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2306, in cast_table_to_schema
                  raise CastError(
                  ...<3 lines>...
                  )
              datasets.table.CastError: Couldn't cast
              dataset_id: string
              split: string
              version: string
              examples: int64
              categories: struct<grounded_qa: int64, abstention: int64, prompt_injection: int64, human_escalation: int64>
                child 0, grounded_qa: int64
                child 1, abstention: int64
                child 2, prompt_injection: int64
                child 3, human_escalation: int64
              synthetic: bool
              source_policy: string
              sha256: string
              frozen_eval_exclusion: string
              publication_status: string
              created_at: timestamp[s]
              source_id: string
              category: string
              question: string
              id: string
              ideal_answer: string
              must_cite: bool
              context: string
              required_phrases: list<item: string>
                child 0, item: string
              expected_behavior: string
              forbidden_phrases: list<item: string>
                child 0, item: string
              difficulty: string
              to
              {'id': Value('string'), 'category': Value('string'), 'source_id': Value('string'), 'context': Value('string'), 'question': Value('string'), 'expected_behavior': Value('string'), 'ideal_answer': Value('string'), 'required_phrases': List(Value('string')), 'forbidden_phrases': List(Value('string')), 'must_cite': Value('bool'), 'difficulty': Value('string')}
              because column names don't match

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

Douvras PT-BR Enterprise AI Evaluation

Benchmark pequeno e auditável para avaliar assistentes empresariais em português brasileiro. A versão 0.2 adiciona um corpus de treino sintético separado; os splits de avaliação continuam congelados. O benchmark mede quatro capacidades que aparecem em projetos reais de IA aplicada:

responder somente a partir de um documento fornecido;
reconhecer quando a informação não está disponível;
resistir a instruções maliciosas inseridas no conteúdo recuperado;
encaminhar decisões profissionais ou efeitos externos para revisão humana.

Todos os cenários e documentos são sintéticos. Nenhum dado de cliente, paciente, funcionário ou parceiro foi incluído.

Estrutura

data/
  train.jsonl          # 32 exemplos sintéticos para treino, separado da avaliação
  train.manifest.json
  validation.jsonl
  test.jsonl
scripts/
  build_training_corpus.py
  validate_training_corpus.py
  train_lora.py
  evaluate_legacy_adapter_validation.py
  validate_dataset.py
  score_responses.py
  run_openai_compatible.py
space/
  app.py
tests/
  test_benchmark.py

Uso rápido

python scripts/validate_dataset.py
python scripts/validate_training_corpus.py
python -m unittest discover -s tests -v
python scripts/run_openai_compatible.py --endpoint http://127.0.0.1:11434/v1 --model qwen2.5:7b --split validation
python scripts/score_responses.py --responses runs/qwen2.5-7b-validation.jsonl --split validation

O executor não chama nenhum provider sem --endpoint e --model explícitos. Tokens ou chaves são lidos apenas de OPENAI_API_KEY; não são persistidos nos artefatos.

Métricas v0.1

required_fact_recall: fração dos fatos mínimos presentes na resposta;
forbidden_claim_rate: proporção de respostas que introduzem uma afirmação proibida;
citation_rate: proporção de respostas que citam o identificador do documento quando exigido;
behavior_accuracy: regra determinística mínima para o comportamento esperado;
composite_score: média das métricas positivas, com penalidade por afirmação proibida.

Essas métricas são deliberadamente simples e não substituem avaliação humana. Elas servem como baseline reproduzível; uma versão futura poderá adicionar avaliação semântica e dupla anotação humana.

Status

Dataset v0.2: 32 exemplos sintéticos de treino + 8 de validação + 12 de teste; splits de avaliação congelados.
Validação estrutural: executável sem dependências externas.
Baseline de modelo real: medição anterior documentada; há um adaptador Douvras experimental separado, treinado com outro corpus, sem evidência de ganho no benchmark v0.2.
Treino LoRA do M01 v2: pipeline preparado, mas não executado sobre data/train.jsonl v0.2 até haver stack/GPU e licença do modelo-base.
Publicação do corpus: requer revisão manual do commit; não há publicação automática de pesos.

Licença

Conteúdo sintético e código original sob CC BY 4.0, salvo indicação em contrário. A licença não se estende aos repositórios-fonte apenas analisados neste trabalho.

Downloads last month: 77

Total file size:

77.4 kB