Blue-kod commited on
Commit
5b3bce8
·
verified ·
1 Parent(s): e7a013b

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +55 -9
README.md CHANGED
@@ -6,22 +6,68 @@ language:
6
  pipeline_tag: text-generation
7
  library_name: transformers
8
  ---
9
- Стрела - большая языковая модель, разработанная с целья достижения большой скорости и качества ответов на слабых устройствах.
10
  ## Описание от стрелы
11
  Я представляю собой компьютерную программу, которая была разработана для обработки и анализа естественного языка.
12
  Я обладаю способностью понимать, анализировать и обрабатывать естественный язык, что позволяет мне общаться с людьми через различные каналы коммуникации. Моя основная цель - помочь людям в решении задач и предоставить информацию на основе запроса.
13
  Я могу использоваться для различных целей: от автоматической генерации текста, перевода с одного языка на другой или даже создания собственных стихов и песен.
14
- ## Использование модели
15
  ```py
16
- from transformers import pipeline
 
17
 
18
- pipe = pipeline("text-generation", model="gai-labs/strela")
19
- chat = """### System:
20
- You are an AI assistant who gives a helpfull response to whatever human ask of you.
 
 
 
 
 
 
 
 
 
 
21
  ### Human:
22
- Привет!
23
  ### Assistant:
24
  """
25
- outputs = pipe(chat, num_return_sequences=1, return_full_text=False)
26
- print(outputs)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
27
  ```
 
6
  pipeline_tag: text-generation
7
  library_name: transformers
8
  ---
9
+ Стрела это мощная языковая модель, созданная для обеспечения высокой скорости работы и качества ответов на слабых устройствах.
10
  ## Описание от стрелы
11
  Я представляю собой компьютерную программу, которая была разработана для обработки и анализа естественного языка.
12
  Я обладаю способностью понимать, анализировать и обрабатывать естественный язык, что позволяет мне общаться с людьми через различные каналы коммуникации. Моя основная цель - помочь людям в решении задач и предоставить информацию на основе запроса.
13
  Я могу использоваться для различных целей: от автоматической генерации текста, перевода с одного языка на другой или даже создания собственных стихов и песен.
14
+ ## Использование модели для чата
15
  ```py
16
+ # Импорт библиотек
17
+ from transformers import AutoTokenizer, AutoModelForCausalLM
18
 
19
+ # Загрузка модели
20
+ tokenizer = AutoTokenizer.from_pretrained("gai-labs/strela")
21
+ model = AutoModelForCausalLM.from_pretrained("gai-labs/strela")
22
+
23
+ # Промпт системы
24
+ system_prompt = "You are an AI assistant who gives a helpfull response to whatever human ask of you."
25
+
26
+ # Ваш промпт
27
+ prompt = "Привет!"
28
+
29
+ # Шаблон чата
30
+ chat = f"""### System:
31
+ {system_prompt}
32
  ### Human:
33
+ {prompt}
34
  ### Assistant:
35
  """
36
+
37
+ # Генерация
38
+ model_inputs = tokenizer([chat], return_tensors="pt")
39
+ generated_ids = model.generate(**model_inputs, max_new_tokens=64) # Настройте максимальное количество токенов для генерации
40
+ output = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
41
+
42
+ # Очистка выводов от шаблона чата
43
+ output = output.replace(chat, "")
44
+
45
+ # Вывод результатов генерации
46
+ print(output)
47
+ ```
48
+ ```
49
+ Привет! Чем могу помочь?
50
+ ```
51
+ ## Использование модели для генерации текста
52
+ ```py
53
+ # Импорт библиотек
54
+ from transformers import AutoTokenizer, AutoModelForCausalLM
55
+
56
+ # Загрузка модели
57
+ tokenizer = AutoTokenizer.from_pretrained("gai-labs/strela")
58
+ model = AutoModelForCausalLM.from_pretrained("gai-labs/strela")
59
+
60
+ # Промпт
61
+ prompt = "ИИ - "
62
+
63
+ # Генерация
64
+ model_inputs = tokenizer([prompt], return_tensors="pt")
65
+ generated_ids = model.generate(**model_inputs, max_new_tokens=64) # Настройте максимальное количество токенов для генерации
66
+ output = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
67
+
68
+ # Вывод результатов генерации
69
+ print(output)
70
+ ```
71
+ ```
72
+ ИИ - это область компьютерных наук и технологий, которая занимается созданием машин, способных "понимать" человека или выполнять задачи с аналогичной логикой, как у людей.
73
  ```