Datasets:
language: | |
- en | |
- es | |
dataset_info: | |
features: | |
- name: text | |
dtype: string | |
splits: | |
- name: train | |
num_bytes: 15401731 | |
num_examples: 9846 | |
- name: test | |
num_bytes: 815439 | |
num_examples: 518 | |
download_size: 9576406 | |
dataset_size: 16217170 | |
configs: | |
- config_name: default | |
data_files: | |
- split: train | |
path: data/train-* | |
- split: test | |
path: data/test-* | |
我是使用notebook练习进行dataset的转换。 | |
如何训练llama-2,是不需要数据转换,直接使用timdettmers/openassistant-guanaco 就可以。 | |
如果是llama-2-chat版本,需要做数据格式转换。转换过程,参考 notebook。 | |
[Llama2-chat-dataset 转换](https://gist.github.com/shake/656d7c10201e4e2aba4cccc40f57d7b3) | |