---

language: 
  - hu
tags:
- text-generation
license: gpl
widget:
- text: "Elmesélek egy történetet a nyelvtechnológiáról."

---

# PULI GPT-3SX

For further details, see [our demo site](https://juniper.nytud.hu/demo/puli).

  - Hungarian GPT-NeoX model (6,7 billion parameter)
  - Trained with EleutherAI's GPT-NeoX [github](https://github.com/EleutherAI/gpt-neox)
  - Dataset: 36,3 billion words
  	
## Limitations

- max_seq_length = 2048


## Citation
If you use this model, please cite the following paper:

```
@inproceedings {yang-gpt3,
    title = {Jönnek a nagyok! GPT-3, GPT-2 és BERT large nyelvmodellek magyar nyelvre},
	booktitle = {XIX. Magyar Számítógépes Nyelvészeti Konferencia (MSZNY 2023)},
	year = {2023},
	publisher = {Szegedi Tudományegyetem},
	address = {Szeged, Hungary},
	author = {Yang, Zijian Győző},
	pages = {0}
}

```