Quantization made by Richard Erkhov.

[Github](https://github.com/RichardErkhov)

[Discord](https://discord.gg/pvy7H8DZMG)

[Request more models](https://github.com/RichardErkhov/quant_request)


polish-qa-v2 - bnb 8bits
- Model creator: https://huggingface.co/radlab/
- Original model: https://huggingface.co/radlab/polish-qa-v2/




Original model description:
---
license: cc-by-4.0
datasets:
- clarin-pl/poquad
language:
- pl
library_name: transformers
---
# Model Card
Extractive Question-Answer model for polish.  Extractive means, that the most relevant 
chunk of the text is returned as answer from the context for the given question.

## Model Details

- **Model name:** `radlab/polish-qa-v2`
- **Developed by:** [radlab.dev](https://radlab.dev)
- **Shared by:** [radlab.dev](https://radlab.dev)
- **Model type:** QA
- **Language(s) (NLP):** PL
- **License:** CC-BY-4.0
- **Finetuned from model:** [sdadas/polish-roberta-large-v2](https://huggingface.co/sdadas/polish-roberta-large-v2)
- **Maxiumum context size:** 512 tokens

## Model Usage

Simple model usage with huggingface library:

```python
from transformers import pipeline

model_path = "radlab/polish-qa-v2"

question_answerer = pipeline(
  "question-answering",
  model=model_path
)

question = "Jakie silniki posiadał okręt?"
context = """Okręt był napędzany przez trzy trzycylindrowe maszyny parowe potrójnego rozprężania, które
napędzały poprzez wały napędowe trzy śruby napędowe (dwie trójskrzydłowe
zewnętrzne o średnicy 4,5 metra i czteroskrzydłową o średnicy 4,2 metra).
Para była dostarczana przez cztery kotły wodnorurkowe typu Marine,
wyposażone łącznie w osiem palenisk i osiem kotłów cylindrycznych,
które miały łącznie 32 paleniska. Ciśnienie robocze kotłów wynosiło 12 at,
a ich łączna powierzchnia grzewcza 3560 m². Wszystkie kotły były opalane węglem,
którego normalny zapas wynosił 650, a maksymalny 1070 ton.
Nominalna moc siłowni wynosiła 13 000 KM (maksymalnie 13 922 KM przy 108 obr./min),
co pozwalało na osiągnięcie prędkości maksymalnej od 17,5 do 17,6 węzła.
Zasięg wynosił 3420 mil morskich przy prędkości 10 węzłów. Zużycie węgla przy mocy 10 000 KM
wynosiło około 11 ton na godzinę, a przy mocy maksymalnej 16 ton na godzinę.
"""

print(
  question_answerer(
    question=question,
    context=context.replace("\n", " ")
  )
)
```

with the sample output:

```json
{
  'score': 0.612459123134613,
  'start': 25,
  'end': 84,
  'answer': ' trzy trzycylindrowe maszyny parowe potrójnego rozprężania,'
}
```


Link to the article on our [blog](https://radlab.dev/2024/04/15/ekstrakcyjne-qa-nasz-model-polish-qa-v2/) in polish.