Update README.md
Browse files
README.md
CHANGED
@@ -6,22 +6,68 @@ language:
|
|
6 |
pipeline_tag: text-generation
|
7 |
library_name: transformers
|
8 |
---
|
9 |
-
Стрела
|
10 |
## Описание от стрелы
|
11 |
Я представляю собой компьютерную программу, которая была разработана для обработки и анализа естественного языка.
|
12 |
Я обладаю способностью понимать, анализировать и обрабатывать естественный язык, что позволяет мне общаться с людьми через различные каналы коммуникации. Моя основная цель - помочь людям в решении задач и предоставить информацию на основе запроса.
|
13 |
Я могу использоваться для различных целей: от автоматической генерации текста, перевода с одного языка на другой или даже создания собственных стихов и песен.
|
14 |
-
## Использование модели
|
15 |
```py
|
16 |
-
|
|
|
17 |
|
18 |
-
|
19 |
-
|
20 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
21 |
### Human:
|
22 |
-
|
23 |
### Assistant:
|
24 |
"""
|
25 |
-
|
26 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
27 |
```
|
|
|
6 |
pipeline_tag: text-generation
|
7 |
library_name: transformers
|
8 |
---
|
9 |
+
Стрела — это мощная языковая модель, созданная для обеспечения высокой скорости работы и качества ответов на слабых устройствах.
|
10 |
## Описание от стрелы
|
11 |
Я представляю собой компьютерную программу, которая была разработана для обработки и анализа естественного языка.
|
12 |
Я обладаю способностью понимать, анализировать и обрабатывать естественный язык, что позволяет мне общаться с людьми через различные каналы коммуникации. Моя основная цель - помочь людям в решении задач и предоставить информацию на основе запроса.
|
13 |
Я могу использоваться для различных целей: от автоматической генерации текста, перевода с одного языка на другой или даже создания собственных стихов и песен.
|
14 |
+
## Использование модели для чата
|
15 |
```py
|
16 |
+
# Импорт библиотек
|
17 |
+
from transformers import AutoTokenizer, AutoModelForCausalLM
|
18 |
|
19 |
+
# Загрузка модели
|
20 |
+
tokenizer = AutoTokenizer.from_pretrained("gai-labs/strela")
|
21 |
+
model = AutoModelForCausalLM.from_pretrained("gai-labs/strela")
|
22 |
+
|
23 |
+
# Промпт системы
|
24 |
+
system_prompt = "You are an AI assistant who gives a helpfull response to whatever human ask of you."
|
25 |
+
|
26 |
+
# Ваш промпт
|
27 |
+
prompt = "Привет!"
|
28 |
+
|
29 |
+
# Шаблон чата
|
30 |
+
chat = f"""### System:
|
31 |
+
{system_prompt}
|
32 |
### Human:
|
33 |
+
{prompt}
|
34 |
### Assistant:
|
35 |
"""
|
36 |
+
|
37 |
+
# Генерация
|
38 |
+
model_inputs = tokenizer([chat], return_tensors="pt")
|
39 |
+
generated_ids = model.generate(**model_inputs, max_new_tokens=64) # Настройте максимальное количество токенов для генерации
|
40 |
+
output = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
|
41 |
+
|
42 |
+
# Очистка выводов от шаблона чата
|
43 |
+
output = output.replace(chat, "")
|
44 |
+
|
45 |
+
# Вывод результатов генерации
|
46 |
+
print(output)
|
47 |
+
```
|
48 |
+
```
|
49 |
+
Привет! Чем могу помочь?
|
50 |
+
```
|
51 |
+
## Использование модели для генерации текста
|
52 |
+
```py
|
53 |
+
# Импорт библиотек
|
54 |
+
from transformers import AutoTokenizer, AutoModelForCausalLM
|
55 |
+
|
56 |
+
# Загрузка модели
|
57 |
+
tokenizer = AutoTokenizer.from_pretrained("gai-labs/strela")
|
58 |
+
model = AutoModelForCausalLM.from_pretrained("gai-labs/strela")
|
59 |
+
|
60 |
+
# Промпт
|
61 |
+
prompt = "ИИ - "
|
62 |
+
|
63 |
+
# Генерация
|
64 |
+
model_inputs = tokenizer([prompt], return_tensors="pt")
|
65 |
+
generated_ids = model.generate(**model_inputs, max_new_tokens=64) # Настройте максимальное количество токенов для генерации
|
66 |
+
output = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
|
67 |
+
|
68 |
+
# Вывод результатов генерации
|
69 |
+
print(output)
|
70 |
+
```
|
71 |
+
```
|
72 |
+
ИИ - это область компьютерных наук и технологий, которая занимается созданием машин, способных "понимать" человека или выполнять задачи с аналогичной логикой, как у людей.
|
73 |
```
|