Renato Cardoso Zimmer commited on
Commit
3cb6896
1 Parent(s): ff3efdc

Corrigindo GPT-Super

Files changed (4) hide show
  1. .gitignore +5 -0
  2. app.py +26 -56
  3. docs/Produtos - Vinho Tinto.txt +3 -3
  4. requirements.txt +2 -2
.gitignore ADDED
@@ -0,0 +1,5 @@
 
 
 
 
 
 
1
+
2
+ index.json/vector_store.json
3
+ index.json/index_store.json
4
+ index.json/docstore.json
5
+ index.json/graph_store.json
app.py CHANGED
@@ -1,5 +1,5 @@
1
  # coding=utf8
2
- from gpt_index import SimpleDirectoryReader, GPTListIndex, GPTSimpleVectorIndex, LLMPredictor, PromptHelper
3
  from langchain import OpenAI
4
  import gradio as gr
5
  import random
@@ -9,8 +9,7 @@ import os
9
  from transformers import pipeline
10
  p = pipeline("automatic-speech-recognition")
11
 
12
-
13
- os.environ["OPENAI_API_KEY"] = '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'
14
 
15
  css = """
16
 
@@ -122,28 +121,37 @@ div.user.svelte-17nzccn.svelte-17nzccn {
122
  def transcribe(audio):
123
  text = p(audio)["text"]
124
  return text
125
- def construct_index(directory_path):
126
- max_input_size = 100000000
127
- num_outputs = 4096
128
- max_chunk_overlap = 200000000
129
- chunk_size_limit = 6000000000
130
-
131
- prompt_helper = PromptHelper(max_input_size, num_outputs, max_chunk_overlap, chunk_size_limit=chunk_size_limit)
132
 
133
- llm_predictor = LLMPredictor(llm=OpenAI(temperature=0.0, model_name="gpt-4-32k", max_tokens=num_outputs))
 
134
 
135
  documents = SimpleDirectoryReader(directory_path).load_data()
136
 
137
- index = GPTSimpleVectorIndex.from_documents(documents)
138
- index.save_to_disk('index.json')
 
 
139
 
140
  return index
141
 
142
 
143
- def chatbot(input_text):
 
 
 
 
 
 
 
 
 
144
 
145
- index = GPTSimpleVectorIndex.load_from_disk('index.json')
146
- response = index.query(input_text)
147
  return str(response.response)
148
 
149
  with gr.Blocks(css=css) as demo:
@@ -158,46 +166,8 @@ with gr.Blocks(css=css) as demo:
158
  def respond(message, chat_history):
159
  chat_history.append((message, chatbot(message)))
160
  time.sleep(1)
161
- vetor = []
162
- realPath = str(os.path.dirname(os.path.realpath(__file__)))
163
-
164
- if str(message).upper()=="OLA" or str(message).upper()=="OLÁ" or str(message).upper()=="OI":
165
- vetor = vetor + [((realPath + "\\images\\hippo-apresentacao.mp4",), "")]
166
- elif str(message).upper() == "VINHO CASA DEL RONCO PINOT GRIGIO" :
167
- vetor = vetor + [((realPath + "\\images\\casa-del-ronco-branco.png",), "")]
168
- elif str(message).upper() == "SURVIVOR CHENIN BLANC" :
169
- vetor = vetor + [((realPath + "\\images\\survivor-branco.png",), "")]
170
- vetor = vetor + [((realPath + "\\images\\survivor.mp4",), "")]
171
-
172
- elif str(message).upper() == "VINHO PORTO NOVA VERDE" :
173
- vetor = vetor + [((realPath + "\\images\\porta-nova-branco.jpg",), "")]
174
- vetor = vetor + [((realPath + "\\images\\porta-nova-verde.mp4",), "")]
175
-
176
- elif str(message).upper() == "VINHO QUINTA DO PINTO ARINTO BRANCO" :
177
- vetor = vetor + [((realPath + "\\images\\quinta-pinto-arinto-branco.png",), "")]
178
- elif str(message).upper() == "VINHO 1492 CHARDONNAY" :
179
- vetor = vetor + [((realPath + "\\images\\chardonay-branco.jpg",), "")]
180
- elif str(message).upper() == "ME SUGIRA UM VINHO TINTO BOM COM QUEIJO" :
181
- vetor = vetor + [((realPath + "\\images\\TNT-CABERNET.png",), "")]
182
- vetor = vetor + [((realPath + "\\images\\vinho-queijo.mp4",), "")]
183
-
184
- elif str(message).upper() == "VINHO BOM COM CHOCOLATE" :
185
- vetor = vetor + [((realPath + "\\images\\TNT-CABERNET.png",), "")]
186
- elif str(message).upper() == "VINHO BOM COM PEIXE" :
187
- vetor = vetor + [((realPath + "\\images\\luson-branco.png",), "")]
188
- vetor = vetor + [((realPath + "\\images\\vinho-peixe.mp4",), "")]
189
-
190
- elif str(message).upper() == "VINHAS DO LASSO COLHEITA SELECIONADA" :
191
- vetor = vetor + [((realPath + "\\images\\lasso-colheita-rose.png",), "")]
192
- elif str(message).upper() == "DOM CAMPOS MOSCATEL" :
193
- vetor = vetor + [((realPath + "\\images\\dom-campos-rose.png",), "")]
194
- elif str(message).upper() == "BECAS ROSE MEIO SECO" :
195
- vetor = vetor + [((realPath + "\\images\\becas-rose.png",), "")]
196
- elif str(message).upper() == "PORTA DA RAVESSA" :
197
- vetor = vetor + [((realPath + "\\images\\luson-branco.png",), "")]
198
-
199
-
200
- return "", chat_history+vetor
201
 
202
  # clear.click(lambda:None, None, gpt, queue=False,)
203
  msg.submit(respond, [msg, gpt], [msg,gpt])
 
1
  # coding=utf8
2
+ from llama_index import load_index_from_storage, SimpleDirectoryReader, readers, GPTVectorStoreIndex,StorageContext, ServiceContext, LLMPredictor, PromptHelper
3
  from langchain import OpenAI
4
  import gradio as gr
5
  import random
 
9
  from transformers import pipeline
10
  p = pipeline("automatic-speech-recognition")
11
 
12
+ os.environ["OPENAI_API_KEY"]
 
13
 
14
  css = """
15
 
 
121
  def transcribe(audio):
122
  text = p(audio)["text"]
123
  return text
124
+ def construct_index(directory_path):
125
+ num_outputs = 2000
126
+
127
+ prompt_helper = PromptHelper(context_window=3900, num_output=256, max_chunk_overlap=20, chunk_size_limit=1024)
 
 
 
128
 
129
+ llm_predictor = LLMPredictor(llm=OpenAI(temperature=0.0, model_name="gpt-3.5-turbo-16k", max_tokens=num_outputs))
130
+
131
 
132
  documents = SimpleDirectoryReader(directory_path).load_data()
133
 
134
+ service_context = ServiceContext.from_defaults(llm_predictor=llm_predictor, prompt_helper=prompt_helper)
135
+ index = GPTVectorStoreIndex.from_documents(documents, service_context=service_context, prompt_helper=prompt_helper)
136
+
137
+ index.storage_context.persist(persist_dir='index.json')
138
 
139
  return index
140
 
141
 
142
+ def chatbot(input_text):
143
+ num_outputs = 4097
144
+
145
+ prompt_helper = PromptHelper(context_window=3900, num_output=256, max_chunk_overlap=20, chunk_size_limit=1024)
146
+ llm_predictor = LLMPredictor(llm=OpenAI(temperature=0.0, model_name="gpt-3.5-turbo-16k", max_tokens=num_outputs))
147
+ service_context = ServiceContext.from_defaults(llm_predictor=llm_predictor, prompt_helper=prompt_helper)
148
+ storage_context = StorageContext.from_defaults(persist_dir='index.json')
149
+
150
+ # load index
151
+ index = load_index_from_storage(storage_context)
152
 
153
+ query_engine = index.as_query_engine(service_context=service_context, verbose=True, response_mode="compact")
154
+ response = query_engine.query(input_text)
155
  return str(response.response)
156
 
157
  with gr.Blocks(css=css) as demo:
 
166
  def respond(message, chat_history):
167
  chat_history.append((message, chatbot(message)))
168
  time.sleep(1)
169
+
170
+ return "", chat_history
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
171
 
172
  # clear.click(lambda:None, None, gpt, queue=False,)
173
  msg.submit(respond, [msg, gpt], [msg,gpt])
docs/Produtos - Vinho Tinto.txt CHANGED
@@ -20,7 +20,7 @@ premiação: 91 Pontos - James Suckling 2017, Safra 201590 Pontos - Descorchados
20
  Compre em: https://www.hippo.com.br/produtos/detalhe/1348/vinho-santa-ema-gran-reserva-cabernet-sauvignon-gf-750-ml, Link para compra: https://www.hippo.com.br/produtos/detalhe/1348/vinho-santa-ema-gran-reserva-cabernet-sauvignon-gf-750-ml.
21
 
22
 
23
- VINHO SANTA EMA 750ML RESERVA CARMENE, Descrição: VINHO SANTA EMA 750ML RESERVA CARMENE, Código Interno: 3051, Categoria: Bebidas \ Vinhos \ Tintos, Fornecedor: DOMAZZI IMPORTACAO E EXPORTACAO LTDA, Vinícola: SANTA EMA, Código de barras: 7804319009241, Código EAN: 7804319009241, Vinho: Santa Ema,
24
  tipo: Tinto,
25
  uva: Carmenere,
26
  volume: 750 Ml,
@@ -33,7 +33,7 @@ premiação: 90 Pontos - La Cav 2016, Vintage 2015,
33
  Compre em: https://www.hippo.com.br/produtos/detalhe/1350/vinho-santa-ema-reserva-carmenere-gf-750-ml, Link para compra: https://www.hippo.com.br/produtos/detalhe/1350/vinho-santa-ema-reserva-carmenere-gf-750-ml.
34
 
35
 
36
- VINHO SANTA EMA 750ML RESERVA CABERNE, Descrição: VINHO SANTA EMA 750ML RESERVA CABERNE, Código Interno: 3052, Categoria: Bebidas \ Vinhos \ Tintos, Fornecedor: DOMAZZI IMPORTACAO E EXPORTACAO LTDA, Vinícola: SANTA EMA, Código de barras: 7804319003508, Código EAN: 7804319003508, Vinho: Santa Ema,
37
  tipo: Tinto,
38
  uva: 60% Cabernet Sauvignon E 40% Merlot,
39
  volume: 750 Ml,
@@ -66,7 +66,7 @@ VINHO MESSIAS 750ML PORTO RUBY, Descrição: VINHO MESSIAS 750ML PORTO RUBY, Có
66
  Compre em: https://www.hippo.com.br/produtos/detalhe/6711/vinho-messias-do-porto-ruby-gf-750-ml, Link para compra: https://www.hippo.com.br/produtos/detalhe/6711/vinho-messias-do-porto-ruby-gf-750-ml.
67
 
68
 
69
- VINHO SANTA EMA 750ML RESERVA CABERNE, Descrição: VINHO SANTA EMA 750ML RESERVA CABERNE, Código Interno: 4934, Categoria: Bebidas \ Vinhos \ Tintos, Fornecedor: DOMAZZI IMPORTACAO E EXPORTACAO LTDA, Vinícola: SANTA EMA, Código de barras: 7804319003003, Código EAN: 7804319003003, Vinho: Santa Ema,
70
  tipo: Tinto,
71
  uva: Cabernet Sauvignon,
72
  volume: 750 Ml,
 
20
  Compre em: https://www.hippo.com.br/produtos/detalhe/1348/vinho-santa-ema-gran-reserva-cabernet-sauvignon-gf-750-ml, Link para compra: https://www.hippo.com.br/produtos/detalhe/1348/vinho-santa-ema-gran-reserva-cabernet-sauvignon-gf-750-ml.
21
 
22
 
23
+ VINHO SANTA EMA 750ML RESERVA CARMENERE, Descrição: VINHO SANTA EMA 750ML RESERVA CARMENERE, Código Interno: 3051, Categoria: Bebidas \ Vinhos \ Tintos, Fornecedor: DOMAZZI IMPORTACAO E EXPORTACAO LTDA, Vinícola: SANTA EMA, Código de barras: 7804319009241, Código EAN: 7804319009241, Vinho: Santa Ema,
24
  tipo: Tinto,
25
  uva: Carmenere,
26
  volume: 750 Ml,
 
33
  Compre em: https://www.hippo.com.br/produtos/detalhe/1350/vinho-santa-ema-reserva-carmenere-gf-750-ml, Link para compra: https://www.hippo.com.br/produtos/detalhe/1350/vinho-santa-ema-reserva-carmenere-gf-750-ml.
34
 
35
 
36
+ VINHO SANTA EMA 750ML RESERVA CABERNET SAUVIGNON, Descrição: VINHO SANTA EMA 750ML RESERVA CABERNET SAUVIGNON, Código Interno: 3052, Categoria: Bebidas \ Vinhos \ Tintos, Fornecedor: DOMAZZI IMPORTACAO E EXPORTACAO LTDA, Vinícola: SANTA EMA, Código de barras: 7804319003508, Código EAN: 7804319003508, Vinho: Santa Ema,
37
  tipo: Tinto,
38
  uva: 60% Cabernet Sauvignon E 40% Merlot,
39
  volume: 750 Ml,
 
66
  Compre em: https://www.hippo.com.br/produtos/detalhe/6711/vinho-messias-do-porto-ruby-gf-750-ml, Link para compra: https://www.hippo.com.br/produtos/detalhe/6711/vinho-messias-do-porto-ruby-gf-750-ml.
67
 
68
 
69
+ VINHO SANTA EMA 750ML RESERVA CABERNET SAUVIGNON, Descrição: VINHO SANTA EMA 750ML RESERVA CABERNER SAUVIGNON, Código Interno: 4934, Categoria: Bebidas \ Vinhos \ Tintos, Fornecedor: DOMAZZI IMPORTACAO E EXPORTACAO LTDA, Vinícola: SANTA EMA, Código de barras: 7804319003003, Código EAN: 7804319003003, Vinho: Santa Ema,
70
  tipo: Tinto,
71
  uva: Cabernet Sauvignon,
72
  volume: 750 Ml,
requirements.txt CHANGED
@@ -5,7 +5,7 @@ transformers~=4.28.1
5
  sox
6
  sentencepiece
7
  scipy
8
- gpt-index~=0.5.27
9
  PyPDF2
10
  imap_tools
11
- langchain~=0.0.127
 
5
  sox
6
  sentencepiece
7
  scipy
8
+ gpt-index~=0.6.27
9
  PyPDF2
10
  imap_tools
11
+ langchain~=0.0.202