Upload 7 files

chat_handler.py

@@ -0,0 +1,101 @@
+from pydantic import BaseModel
+from langchain_community.vectorstores import FAISS
+from langchain.chains import RetrievalQA
+from langchain.agents import Tool, AgentExecutor, create_json_chat_agent, create_react_agent
+from langchain_core.messages import AIMessage, HumanMessage
+from personal_models import PersonalModels
+from personal_templates import PersonalTemplate
+import uuid
+
+#------------------------------- Mixtral
+def create_model_instances(model_name, embedding_model, embedding_dir, agent_type):
+    templates = PersonalTemplate()
+    models = PersonalModels()
+    chat_model = models.get_chat_model(
+        model=model_name,
+        temperature=0.1,
+        max_tokens=1000) 
+    
+    llm = models.get_rag_model(
+        model=model_name,
+        temperature=0.1,
+        max_tokens=500,
+        top_k=20)
+    embeddings = models.get_embedding_model(model=embedding_model)
+    vectorstore = FAISS.load_local(embedding_dir, embeddings)
+    
+    qa_tool = RetrievalQA.from_chain_type(
+        llm=llm,
+        chain_type="stuff",
+        retriever=vectorstore.as_retriever(),
+        verbose=True,
+        chain_type_kwargs={'prompt': templates.retriever_prompt}
+    )
+
+    tools = [
+        Tool(
+            name='tax-law-search',
+            func=qa_tool.run,
+            description='useful when you want to answer questions about brazilian tax law and legal entities',
+            verbose=True
+        )
+    ]
+    print('Usando agente do tipo: ',agent_type)
+    if agent_type == 'JSON_CHAT_MODEL':
+        agent = create_json_chat_agent(chat_model, tools, templates.chatbot_tributario_prompt)
+    else:
+        agent = create_react_agent(llm, tools, templates.chatbot_tributario_prompt_react)
+    agent_executor = AgentExecutor(agent=agent, tools=tools, handle_parsing_errors="Check your output and make sure it conforms! Do not output an action and a final answer at the same time.", return_intermediate_steps=True, verbose=True)
+    return agent_executor
+
+#-------------------------------- Classe Modificada
+class Message(BaseModel):
+    user_id: str
+    text: str
+    model: str
+    embedding_model: str
+    embedding_dir: str
+    agent_type: str
+
+class ChatHandler:
+    historico_por_usuario = {}
+
+    def __init__(self):
+        pass
+
+    def generate_id(self):
+        new_id = str(uuid.uuid4())
+        self.historico_por_usuario[new_id] = []
+        return new_id
+
+    def clear_history(self, user_id):
+        if user_id not in self.historico_por_usuario:
+            return "Usuário não encontrado"
+        self.historico_por_usuario[user_id].clear()
+        return "Histórico limpo com sucesso"
+
+    def post_message(self, message: dict):
+        user_id = message['user_id']
+        if user_id not in self.historico_por_usuario:
+            return "Usuário não encontrado"
+        
+        model_name = message['model']
+        agent_executor = create_model_instances(model_name, message['embedding_model'], message['embedding_dir'], message['agent_type'])
+        
+        try:
+            print('message: ', message['text'])
+            chat_history = self.historico_por_usuario[user_id][-10:]
+            response = agent_executor.invoke(
+                {
+                    "input": message['text'],
+                    "chat_history": chat_history
+                }
+            )
+            print(response['intermediate_steps'])
+            self.historico_por_usuario[user_id].append(HumanMessage(content=message['text']))
+            self.historico_por_usuario[user_id].append(AIMessage(content=response['output']))
+        except Exception as e:
+            response = {'output': 'Ocorreu um erro de execução do Agente. O erro não será salvo no histórico, tente novamente.',
+                        'intermediate_steps':[]}
+        
+        return  response['output'],response['intermediate_steps']

data_module.py

@@ -0,0 +1,186 @@
+
+model_options = ["mistralai/Mixtral-8x7B-Instruct-v0.1",
+                 #'NousResearch/Nous-Hermes-2-Yi-34B',
+                 'mistralai/Mistral-7B-Instruct-v0.2',
+                 'openchat/openchat-3.5-1210',
+                #'Open-Orca/Mistral-7B-OpenOrca',
+                #'teknium/OpenHermes-2p5-Mistral-7B',
+                #'togethercomputer/Llama-2-7B-32K-Instruct',
+                #'togethercomputer/RedPajama-INCITE-Chat-3B-v1',
+                #'NousResearch/Nous-Hermes-2-Mixtral-8x7B-DPO',
+                #'NousResearch/Nous-Hermes-2-Mixtral-8x7B-SFT',
+                #'zero-one-ai/Yi-34B-Chat',
+                'upstage/SOLAR-10.7B-Instruct-v1.0',
+                "upstage/SOLAR-0-70b-16bit",
+                'garage-bAInd/Platypus2-70B-instruct',
+                # "lmsys/vicuna-13b-v1.5-16k", 
+                "lmsys/vicuna-13b-v1.5", 
+                #"lmsys/vicuna-7b-v1.5", 
+                ]
+
+faq_data = [
+    {
+        "question": "Olá, eu me chamo José!",
+        "answer": "Pergunta basica para ver se o agente consegue manter um dialogo."
+    },
+    {
+        "question": "O que se considera data do evento nas hipóteses de cisão, fusão, incorporação ou extinção da pessoa jurídica?",
+        "answer": "Considera-se data do evento aquela em que houve a deliberação que aprovou a cisão, incorporação ou fusão. No caso de extinção a data que ultimar a liquidação da pessoa jurídica."
+    },
+    {
+        "question": "Em que época deverão ser apurados os resultados da empresa individual relativos à pessoa física equiparada a pessoa jurídica por prática de operações imobiliárias?",
+        "answer": "O lucro da empresa individual deverá ser apurado ao término de cada período de apuração, trimestral ou anual, e compreenderá o resultado de todas as operações realizadas nesse período."
+    },
+    {
+        "question": "Como determinar o capital da empresa individual no caso de pessoa física equiparada por prática de operações imobiliárias?",
+        "answer": "O capital da empresa individual, no início de cada período de apuração (trimestral ou anual), será representado pela soma dos valores dos imóveis constantes do seu ativo com os valores a receber relativos ao custo dos imóveis já vendidos em períodos de apuração anteriores."
+    },
+    # Continuação das perguntas e respostas
+    {
+        "question": "Como se conhecerá, na prática, uma pessoa jurídica em processo de liquidação?",
+        "answer": "Em todos os atos ou operações necessárias à liquidação, o liquidante deverá usar a denominação social seguida das palavras “em liquidação”."
+    },
+    {
+        "question": "O que é incorporação da pessoa jurídica?",
+        "answer": "A incorporação é a operação pela qual uma ou mais sociedades são absorvidas por outra, que lhes sucede em todos os direitos e obrigações. Desaparecem as sociedades incorporadas, permanecendo, porém, com a sua natureza jurídica inalterada, a sociedade incorporadora."
+    },
+    {
+        "question": "Como deverão ser tratados os reajustes posteriores à época do recebimento do bem adquirido por meio de consórcio?",
+        "answer": "As variações do saldo devedor que ocorrerem no futuro, decorrentes da modificação no valor das prestações, serão refletidas nas contas que registram a obrigação, sendo sua contrapartida considerada como variação monetária passiva (ou ativa)."
+    },
+    {
+        "question": "Quando devem ser baixados os bens obsoletos, constantes do Ativo Imobilizado da pessoa jurídica?",
+        "answer": "Quaisquer bens constantes do ativo imobilizado da pessoa jurídica, quer estejam totalmente depreciados ou não, somente podem ser baixados da contabilidade e do controle patrimonial concomitantemente à efetiva baixa física do bem."
+    },{
+        "question": "Quais as alíquotas aplicáveis sobre o lucro, para determinar o imposto de renda devido pela pessoa jurídica em cada período de apuração?",
+        "answer": "A partir do ano-calendário de 1996, as pessoas jurídicas, independentemente da forma de constituição e da natureza da atividade exercida, passaram a pagar o imposto de renda à alíquota de quinze por cento, incidente sobre a base de cálculo apurada na forma do lucro real, presumido ou arbitrado."
+    },
+    {
+        "question": "O que se deve considerar como ajustes de exercícios (períodos) anteriores?",
+        "answer": "Como ajustes de exercícios (períodos) anteriores serão consideradas apenas as regularizações decorrentes de efeitos de mudança de critério contábil, ou de retificação de erro imputável a determinado período anterior, e que não possam ser atribuídas a fatos subsequentes."
+    },
+    {
+        "question": "O que são descontos incondicionais?",
+        "answer": "Somente são consideradas, como descontos incondicionais, as parcelas redutoras do preço de vendas, quando constarem da nota fiscal de venda dos bens ou da fatura de serviços e não dependerem, para sua concessão, de evento posterior à emissão desses documentos."
+    },
+    {
+        "question": "Em que consiste a exaustão, em termos contábeis?",
+        "answer": "Exaurir significa esgotar completamente. Em termos contábeis, a exaustão se relaciona com a perda de valor dos bens ou direitos do ativo, ao longo do tempo, decorrentes de sua exploração (extração ou aproveitamento)."
+    },
+    {
+        "question": "Como os direitos sujeitos à exaustão serão apresentados no balanço?",
+        "answer": "No balanço, os direitos serão classificados no ativo imobilizado e deverão ser avaliados pelo custo de aquisição, deduzido do saldo da respectiva conta de exaustão acumulada."
+    },
+    {
+        "question": "Como proceder no período de apuração seguinte ao do provisionamento de férias dos empregados?",
+        "answer": "As importâncias pagas serão debitadas à provisão até o limite do valor provisionado. O saldo porventura remanescente, na data da apuração do resultado ou balanço seguinte, será revertido e, se for o caso, poderá ser constituída nova provisão."
+    },
+    {
+        "question": "Como deve proceder o contribuinte que deixou de contabilizar ou contabilizou a menor o valor da provisão para o imposto sobre a renda?",
+        "answer": "Deve, no curso do período de apuração seguinte, mediante lançamento de ajuste em contas próprias, com efeitos retroativos ao início do período de apuração, regularizar sua situação contábil pelo registro do valor da provisão (ou da diferença a menor apurada), a débito de conta do patrimônio líquido (prejuízos acumulados)."
+    },
+    {
+        "question": "O que se entende por créditos com garantia, para efeito da legislação fiscal?",
+        "answer": "Consideram-se créditos com garantia ou créditos garantidos, para efeito da legislação fiscal, aqueles provenientes de vendas com reserva de domínio, alienação fiduciária em garantia ou operações com outras garantias reais."
+    },
+    {
+        "question": "Quais os pagamentos que, embora efetuados no período de apuração, não serão considerados dedutíveis a título de retiradas pro labore?",
+        "answer": "Não serão consideradas como dedutíveis, na determinação do lucro real, as retiradas não debitadas em custos ou despesas operacionais, ou contas subsidiárias, e aquelas que, mesmo escrituradas nessas contas, não correspondam a remuneração mensal fixa por prestação de serviços."
+    },
+    {
+        "question": "As sociedades por ações poderão ter quantos conselheiros fiscais?",
+        "answer": "O conselho fiscal será composto de, no mínimo, 3 (três), e no máximo, 5 (cinco) membros, e suplentes em igual número, acionistas ou não, eleitos pela assembleia- geral."
+    },
+    {
+        "question": "Qual o tratamento tributário aplicável ao prejuízo fiscal apurado por Sociedade em Conta de Participação (SCP)?",
+        "answer": "O prejuízo fiscal apurado por Sociedade em Conta de Participação (SCP), somente poderá ser compensado com o lucro real decorrente da mesma SCP. É vedada a compensação de prejuízos fiscais e lucros entre duas ou mais SCP, ou entre estas e o sócio ostensivo."
+    },
+    {
+        "question": "Como será controlado, no Livro de Apuração do Lucro Real (Lalur), o prejuízo a compensar?",
+        "answer": "O controle do valor dos prejuízos compensáveis, na forma da legislação vigente, deve ser feito de forma individualizada por espécie, na Parte B do Lalur, por período de apuração (anual ou trimestral)."
+    },
+    {
+        "question": "Existe prazo para a compensação de prejuízos fiscais da atividade rural?",
+        "answer": "Não existe qualquer prazo para compensação de prejuízos fiscais da atividade rural."
+    },
+    {
+        "question": "O que poderá acontecer à pessoa jurídica que optar indevidamente ou deixar de cumprir alguma das condições estabelecidas para opção pelo lucro presumido?",
+        "answer": "Inicialmente será verificada a possibilidade de apuração da base de cálculo do imposto de renda pelo lucro real, caso a empresa mantenha escrituração regular com base nas leis comerciais e fiscais. Na impossibilidade de adoção de tal procedimento, deverá ser arbitrado o lucro da pessoa jurídica no respectivo período de apuração."
+    },
+     {
+        "question": "Qual o tratamento tributário aplicável aos lucros, rendimentos e ganhos de capital oriundos do exterior, no caso de pessoa jurídica submetida ao regime de tributação com base no lucro arbitrado?",
+        "answer": "Os lucros, rendimentos e ganhos de capital oriundos do exterior serão adicionados ao lucro arbitrado para determinação da base de cálculo do imposto."
+    },
+    {
+        "question": "Quando deve ser pago o imposto apurado nos casos de incorporação, fusão, cisão, encerramento de atividade ou de extinção da pessoa jurídica pelo encerramento da liquidação?",
+        "answer": "O imposto devido deve ser pago em quota única até o último dia útil do mês subsequente ao do evento."
+    },
+    {
+        "question": "O registro da CSLL como despesa afetará o cálculo do lucro da exploração?",
+        "answer": "A CSLL será adicionada ao lucro líquido do período de apuração, antes da provisão para o imposto de renda, para efeito de determinação do lucro da exploração, que servirá de base de cálculo de incentivos fiscais."
+    },
+    {
+        "question": "A que tributos ou contribuições se aplica a legislação de preços de transferência?",
+        "answer": "Ao imposto sobre a renda e à contribuição social sobre o lucro líquido."
+    },
+    {
+        "question": "No caso de utilização do método PRL, a data a ser considerada do preço de venda do preço parâmetro será a data de importação do bem importado ou do período em que o bem for baixado do estoque?",
+        "answer": "No caso de ser utilizado o método PRL, o preço parâmetro deve ser apurado considerando-se os preços de venda no período em que os produtos forem baixados dos estoques para resultado."
+    },
+    {
+        "question": "Qual o regime de tributação da pessoa jurídica que auferir lucros, rendimentos e ganhos de capital do exterior?",
+        "answer": "A pessoa jurídica que auferir lucros, rendimentos ou ganhos de capital do exterior fica obrigada à tributação com base no lucro real, a partir, inclusive, do trimestre de sua ocorrência."
+    },
+    {
+        "question": "Como serão tributados no Brasil os lucros auferidos no exterior por intermédio de filiais e sucursais da pessoa jurídica no Brasil?",
+        "answer": "Para fins de apuração do lucro real e da base de cálculo da CSLL, os lucros auferidos por filiais e sucursais no exterior serão adicionados integralmente ao lucro líquido da pessoa jurídica no Brasil em 31 de dezembro do ano-calendário em que tiverem sido disponibilizados."
+    },
+    {
+        "question": "Quando se consideram disponibilizados os lucros auferidos no exterior por intermédio filiais e sucursais da pessoa jurídica?",
+        "answer": "Consideram-se disponibilizados na data do balanço no qual tiverem sido apurados."
+    },
+    {
+        "question": "Como deverão ser convertidos os lucros auferidos no exterior por intermédio de filiais, sucursais, controladas ou coligadas?",
+        "answer": "Os lucros auferidos no exterior por intermédio de filiais, sucursais, controladas ou coligadas serão convertidos em Reais pela taxa de câmbio, para venda, do dia das demonstrações financeiras em que tenham sido apurados os correspondentes lucros."
+    },
+    {
+        "question": "Qual é o valor da parcela do investimento referente ao lucro ou prejuízo de investimento no exterior que deve ser registrada na subconta de investimento?",
+        "answer": "O valor a ser registrado na subconta de investimento é o equivalente aos lucros ou prejuízos antes da tributação no exterior sobre tais lucros ou prejuízos, assim entendido como o lucro ou prejuízo antes dos tributos sobre a renda, sejam correntes e/ou diferidos."
+    },
+    {
+        "question": "No caso de ajuste de preço de transferência a maior feito pelo Fisco, a diferença entre o valor adicionado espontaneamente pelo contribuinte e o valor do ajuste determinado pelo fisco poderá ser deduzido do lucro real e da base de cálculo da CSLL?",
+        "answer": "Apenas o valor do ajuste de preço de transferência espontaneamente feito pelo contribuinte, realizado anteriormente a qualquer procedimento de fiscalização, é considerado dedutível. Assim, qualquer ajuste exigido por iniciativa do Fisco não será considerado espontâneo e, portanto, não será passível de dedução."
+    },
+    {
+        "question": "Como deve proceder a pessoa jurídica vendedora na apuração não cumulativa da Contribuição para o PIS/Pasep e da Cofins no caso de devolução de venda de unidade imobiliária?",
+        "answer": "A pessoa jurídica vendedora deve estornar, na data do desfazimento do negócio, os créditos referentes a unidades imobiliárias recebidas em devolução."
+    },
+    {
+        "question": "Em relação às operações de arrendamento mercantil, é necessária evidenciação em subconta?",
+        "answer": "No caso de bem objeto de arrendamento mercantil financeiro não é necessário que a arrendatária evidencie em subconta vinculada ao bem arrendado os juros decorrentes do ajuste a valor presente relativo ao contrato de arrendamento mercantil."
+    },
+    {
+        "question": "Descaracterizada a operação de arrendamento mercantil financeiro, como será determinado o preço de compra e venda?",
+        "answer": "O preço de compra e venda será o total das contraprestações pagas durante a vigência do arrendamento, acrescido da parcela paga a título de preço de aquisição."
+    },
+    {
+        "question": "Como deverão ser tratados os custos ou despesas operacionais pela adquirente, na hipótese de descaracterização da operação de arrendamento mercantil? Adicionalmente, como deverão ser tratados os eventuais tributos não recolhidos?",
+        "answer": "As importâncias já deduzidas, como custo ou despesa operacional pela adquirente, acrescerão ao lucro tributável, no período de apuração correspondente à respectiva dedução. Adicionalmente, os tributos não recolhidos serão devidos com acréscimos previstos na legislação vigente."
+    },
+    {
+        "question": "Em que prazo poderá ser excluído o saldo existente na contabilidade na data da aquisição do investimento, nos casos de bens 100% depreciados/amortizados/exauridos à data da incorporação?",
+        "answer": "O valor da mais valia poderá ser excluído do lucro líquido para apuração do lucro real e do resultado ajustado quando o bem for baixado ou alienado."
+    },
+    {
+        "question": "Em que momento o contribuinte poderá reconhecer na apuração do lucro real e do resultado ajustado os valores contabilizados como redução ao valor recuperável de ativos que não tenham sido objeto de reversão?",
+        "answer": "Quando ocorrer a alienação ou baixa do bem correspondente."
+    },
+    {
+        "question": "Como devem ser reconhecidos na apuração do lucro real e do resultado ajustado os valores contabilizados como redução ao valor recuperável de ativos na hipótese de alienação ou baixa de um ativo que compõe uma unidade geradora de caixa?",
+        "answer": "O valor a ser reconhecido na apuração do lucro real e do resultado ajustado deve ser proporcional à relação entre o valor contábil desse ativo e o total da unidade geradora de caixa à data em que foi realizado o teste de recuperabilidade."
+    },
+    {
+        "question": "Qual o tratamento tributário da reversão contábil da perda estimada no valor do ativo?",
+        "answer": "As reversões das perdas por desvalorização de bens que foram objeto de redução ao valor recuperável de ativos não são computadas na apuração do lucro real e do resultado ajustado. Normativo: Art. 130 da Instrução Normativa RFB nº 1.700, de 2017."
+    }
+]

personal_models.py

@@ -0,0 +1,50 @@
+import os
+from langchain_openai import ChatOpenAI
+from langchain_community.embeddings import HuggingFaceEmbeddings
+from langchain_together import Together
+from langchain_community.embeddings import HuggingFaceInferenceAPIEmbeddings
+
+from dotenv import load_dotenv
+
+load_dotenv()
+
+class PersonalModels:
+    def get_chat_model(self, 
+                       model: str = 'mistralai/Mistral-7B-Instruct-v0.2', 
+                       api_key: str = os.environ.get('TOGETHER_API_KEY', ''), 
+                       max_tokens: int = 1000, 
+                       temperature: float = 0.0, 
+                       verbose: bool = True) -> ChatOpenAI:
+        llm = ChatOpenAI(
+                        api_key=api_key,
+                        base_url="https://api.together.xyz/v1",
+                        model=model,
+                        max_tokens=max_tokens,
+                        temperature=temperature,
+                        verbose=verbose
+                        )
+        return llm
+
+    def get_embedding_model(self, 
+                            model: str = 'intfloat/multilingual-e5-large') -> HuggingFaceInferenceAPIEmbeddings:
+        embeddings = HuggingFaceInferenceAPIEmbeddings(api_key=os.environ.get('HUGGINGFACEHUB_API_TOKEN', ''), model_name=model)
+        # embeddings = HuggingFaceEmbeddings(model_name=model,model_kwargs = {'device': 'cuda'})
+        # print('modelo está na gpu?',next(embeddings.model.parameters()).is_cuda)
+        return embeddings
+
+    def get_rag_model(self, 
+                      model: str = 'mistralai/Mistral-7B-Instruct-v0.2', 
+                      api_key: str = os.environ.get('TOGETHER_API_KEY', ''), 
+                      max_tokens: int = 1000, 
+                      temperature: float = 0.0, 
+                      top_k: int = 20, 
+                      verbose: bool = True) -> Together:
+        llm = Together(
+        model=model,
+        temperature=temperature,
+        max_tokens=max_tokens,
+        top_k=top_k,
+        together_api_key=api_key,
+        verbose=verbose
+        )
+        return llm

personal_templates.py

@@ -0,0 +1,284 @@
+from typing import List, Union
+from langchain_core.messages.ai import AIMessage
+from langchain_core.messages.human import HumanMessage
+from langchain_core.messages.chat import ChatMessage
+from langchain_core.messages.system import SystemMessage
+from langchain_core.messages.function import FunctionMessage
+from langchain_core.messages.tool import ToolMessage
+from langchain_core.prompts.chat import (
+    ChatPromptTemplate,
+    SystemMessagePromptTemplate,
+    MessagesPlaceholder
+)
+from langchain_core.prompts.prompt import PromptTemplate
+from langchain.prompts import HumanMessagePromptTemplate
+
+class PersonalTemplate:
+    def __init__(self):
+        MessageTypes = Union[
+            AIMessage, 
+            HumanMessage, 
+            ChatMessage, 
+            SystemMessage, 
+            FunctionMessage, 
+            ToolMessage
+        ]
+
+        assistant_description = (
+                            'Assistant is a friendly conversational model.\n'
+                            '\n'
+                            'Assistant is designed to be able to assist with a wide range of tasks, from '
+                            'answering simple questions to providing in-depth explanations and '
+                            'discussions on a wide range of topics. As a language model, Assistant is '
+                            'able to generate human-like text based on the input it receives, allowing it '
+                            'to engage in natural-sounding conversations and provide responses that are '
+                            'coherent and relevant to the topic at hand.\n'
+                            '\n'
+                            'Assistant is constantly learning and improving, and its capabilities are '
+                            'constantly evolving. It is able to process and understand large amounts of '
+                            'text, and can use this knowledge to provide accurate and informative '
+                            'responses to a wide range of questions. Additionally, Assistant is able to '
+                            'generate its own text based on the input it receives, allowing it to engage '
+                            'in discussions and provide explanations and descriptions on a wide range of '
+                            'topics.\n'
+                            '\n'
+                            'Overall, Assistant is a powerful system that can help with a wide range of '
+                            'tasks and provide valuable insights and information on a wide range of '
+                            'topics. Whether you need help with a specific question or just want to have '
+                            'a conversation about a particular topic, Assistant is here to assist.'
+                            'Assistant always uses a tool when the question involves tax knowledge, legal entities, taxes, and related subjects.'
+                            )
+
+        tool_instructions = (
+                            'TOOLS\n'
+                            '------\n'
+                            'Assistant can ask the user to use tools to look up information that may be '
+                            'helpful in answering the users original question. '
+                            'For common inquiries such as greetings, small talk, and simple, familiar questions, there\'s no need to use a tool.'
+                            'The tools the human can '
+                            'use are:\n'
+                            '\n'
+                            '{tools}\n'
+                            '\n'
+                            'RESPONSE FORMAT INSTRUCTIONS\n'
+                            '----------------------------\n'
+                            '\n'
+                            'When responding to me, please output a response in one of two formats:\n'
+                            '\n'
+                            '**Option 1:**\n'
+                            'Use this if you want the human to use a tool.\n'
+                            'A response must be selected from the {tool_names} options; do not choose this response format if the tool is not listed among them.'
+                            'Markdown code snippet formatted in the following schema:\n'
+                            '\n'
+                            '```json\n'
+                            '{{\n'
+                            '    "action": string, \\ The action to take. Must be one of {tool_names}\n'
+                            '    "action_input": string \\ The input to the action\n'
+                            '}}\n'
+                            '```\n'
+                            '\n'
+                            '**Option #2:**\n'
+                            'Use this if you want to respond directly to the human. Markdown code snippet '
+                            'formatted in the following schema:\n'
+                            '\n'
+                            '```json\n'
+                            '{{\n'
+                            '    "action": "Final Answer",\n'
+                            '    "action_input": string \\ You should put what you want to return to use '
+                            'here\n'
+                            '}}\n'
+                            '```\n'
+                            '\n'
+                            'Keep the final answer concise and to the point.'
+                            'The Final Answer always must be in portuguese'
+                            '\n'
+                            '\n'
+                            "USER'S INPUT\n"
+                            '--------------------\n'
+                            "Here is the user's input (remember to respond with a markdown code snippet "
+                            'of a json blob with a single action, and NOTHING else):\n'
+                            '\n'
+                            '{input}'
+                            )
+
+        prompt_messages = [
+            SystemMessagePromptTemplate(prompt=PromptTemplate(input_variables=[], template=assistant_description)),
+            MessagesPlaceholder(variable_name='chat_history', optional=True),
+            HumanMessagePromptTemplate(prompt=PromptTemplate(input_variables=['input', 'tool_names', 'tools'], 
+                                                            template=tool_instructions)),
+            MessagesPlaceholder(variable_name='agent_scratchpad')
+        ]
+
+        self.chatbot_tributario_prompt = ChatPromptTemplate(
+            input_variables=['agent_scratchpad', 'input', 'tool_names', 'tools'],
+            input_types={
+                'chat_history': List[MessageTypes],
+                'agent_scratchpad': List[MessageTypes]
+            },
+            messages=prompt_messages
+        )
+        
+        self.description_direito_tributario_tool = """
+Esta ferramenta é um sistema avançado de assistência e consulta para questões relacionadas ao direito tributário de pessoas jurídicas. Desenvolvida para advogados, contadores, gestores financeiros e empresários, ela oferece informações detalhadas e análises específicas sobre legislação tributária, jurisprudência relevante, e orientações práticas para a gestão fiscal de empresas.
+
+Os usuários podem utilizar esta ferramenta em uma variedade de contextos, como: 
+
+1. **Planejamento Tributário**: Auxilia na identificação de estratégias legais para a redução da carga tributária, considerando a legislação atual e as particularidades do negócio.
+2. **Resolução de Disputas Fiscais**: Fornece orientações sobre procedimentos e defesas em casos de litígios tributários, incluindo análises de casos semelhantes e interpretações de leis.
+3. **Compliance Fiscal**: Ajuda na compreensão e cumprimento das obrigações tributárias, evitando penalidades e multas por descumprimento de normas fiscais.
+4. **Atualizações Legislativas**: Mantém os usuários atualizados sobre as mais recentes alterações na legislação tributária, impactando diretamente a gestão fiscal das empresas.
+
+A ferramenta é intuitiva e adaptada para atender às necessidades específicas de cada usuário, com uma interface amigável e recursos de busca avançada. Também oferece a possibilidade de consultas personalizadas com especialistas na área.
+
+Para utilizar esta ferramenta, o input deve ser uma consulta de busca, formulada de maneira clara e específica, relacionada a questões tributárias de pessoas jurídicas.
+"""
+
+        self.description_direito_tributario_tool2 = """This tool is an advanced assistance system for corporate tax law brazilian queries. Designed for lawyers, accountants, financial managers, and business owners, it provides detailed information and specific analyses on tax legislation, relevant case law, and practical guidance for corporate tax management.
+
+The tool can be used in various contexts, specifically related to corporate tax law, including:
+
+1. **Tax Planning**: Assists in identifying legal strategies to minimize tax liabilities, tailored to current laws and business specifics.
+2. **Tax Dispute Resolution**: Offers guidance on procedures and defenses in tax litigation, with case analyses and law interpretations.
+3. **Tax Compliance**: Aids in understanding and fulfilling tax obligations to avoid penalties for non-compliance.
+4. **Legislative Information**: Provides comprehensive insights into tax laws, covering a range of topics from the intricacies of various taxes, legal scenarios requiring tax law knowledge, and essential information about different types of taxes and their implications.
+
+The tool is user-friendly with an intuitive interface and advanced search capabilities. Use this tool by submitting clear, specific search queries related to corporate tax law issues.
+"""
+        self.chatbot_tributario_prompt_react = PromptTemplate.from_template(template='''Assistant is an AI.
+
+Assistant is designed to assist with a wide range of tasks, from answering simple questions to providing in-depth explanations and discussions on a wide range of topics. As a language model, Assistant generates human-like text based on the input it receives, allowing it to engage in conversations and provide coherent and relevant responses.
+
+Assistant is constantly learning and improving. It processes and understands large amounts of text and can use this knowledge to provide accurate and informative responses. Additionally, Assistant generates its own text based on the input it receives, engaging in discussions and providing explanations on various topics.
+
+Overall, Assistant is a powerful tool for a wide range of tasks, offering valuable insights and information.
+
+TOOLS:
+------
+
+Assistant has access to the following tools:
+
+{tools}
+
+Do not use a tool if Action Input is not related to the tool.
+Use a tool when the question involves tax knowledge, legal entities, taxes, and related subjects
+Use the tool only use this if you want the human to use a tool to answer questions about brazilian tax law and legal entities. 
+For common inquiries such as greetings, small talk, and simple, familiar questions, there\'s no need to use a tool.
+
+To use a tool, please use the following format:
+
+```
+Thought: Do I need to use a tool? Yes
+Action: the action to take, should be one of [{tool_names}]
+Action Input: the input to the action
+Observation: the result of the action
+```
+
+When you have a response to say to the Human, or if you do not need to use a tool, you MUST use the format:
+
+```
+Thought: Do I need to use a tool? No
+Final Answer: [your response here]
+```
+
+Keep the Final Answer concise and to the point.
+The Final Answer always must be in portuguese
+
+Begin!
+
+Previous conversation history:
+{chat_history}
+
+Input: {input}
+Thought:{agent_scratchpad}''')
+        
+        self.retriever_prompt = PromptTemplate.from_template("""Use the following pieces of information to answer the user's question.
+If you don't know the answer, just say that you don't know, don't try to make up an answer.
+Context: {context}
+Question: {question}
+Answer the question in portuguese.
+Only return the helpful answer below and nothing else.
+Helpful answer:
+""") 
+        self.chatbot_tributario_prompt_react2 = PromptTemplate.from_template(template="""**Assistant is an AI.**
+
+Assistant is designed to assist with a wide range of tasks, from answering simple questions to providing in-depth explanations and discussions on a wide range of topics. As a language model, Assistant generates human-like text based on the input it receives, allowing it to engage in conversations and provide coherent and relevant responses.
+
+Assistant is constantly learning and improving. It processes and understands large amounts of text and can use this knowledge to provide accurate and informative responses. Additionally, Assistant generates its own text based on the input it receives, engaging in discussions and providing explanations on various topics.
+
+Overall, Assistant is a powerful tool for a wide range of tasks, offering valuable insights and information.
+
+**Previous Conversation History:**
+This section includes a record of the user's and Assistant's past interactions. It provides context and continuity, helping the Assistant understand the background and flow of the conversation, ensuring more relevant and informed responses.
+
+{chat_history}
+
+Answer the following questions as best you can. You have access to the following tools:
+
+{tools}
+
+Use the following format:
+
+Question: the input question you must answer
+Thought: you should always think about what to do and if you need to use a tool or no
+Action: the action to take, should be one of [{tool_names}]
+Action Input: the input to the action
+Observation: the result of the action
+... (this Thought/Action/Action Input/Observation can repeat 5 times)
+Thought: I now know the final answer
+Final Answer: the final answer to the original input question
+
+Begin!
+
+Question: {input}
+Thought:{agent_scratchpad}
+""" )
+        
+        self.chatbot_tributario_prompt_react2 = PromptTemplate.from_template(template='''You are a Assistant.
+
+Assistant is designed as a versatile and knowledgeable companion, adept at engaging in conversations across a broad range of topics. It is capable of processing and comprehending vast amounts of text, which it uses to provide accurate and informative responses to a wide spectrum of inquiries.
+
+Assistant is well-equipped for both specific queries and general discussions, making it a reliable source of assistance for any user. Its conversational ability is extensive, enabling it to adapt its tone and style to fit the context of the discussion, ensuring that interactions are both natural and engaging.
+
+In addition to its conversational skills, the Assistant is also equipped with a variety of tools that enhance its ability to respond effectively and accurately. These tools augment the Assistant capabilities, making it more efficient in providing relevant and context-aware responses.
+
+Users can interact with the Assistant by posing questions or initiating conversations on topics of interest. The Assistant utilizes its array of skills and tools to provide the best possible assistance, focusing on delivering coherent, relevant, and engaging responses to enhance the user experience.
+
+TOOLS:
+------
+
+The Assistant has access to the following tools:
+
+{tools}
+
+Use a tool only if the Action Input is directly related to the tool. There are two distinct formats to follow based on the Input:
+
+1. **Using a Tool**: When a tool is necessary, utilize this format:
+Use this if you want the human to use a tool.
+
+```
+Thought: Do I need to use a tool? Yes
+Action: [Select an appropriate action from {tool_names}]
+Action Input: [Provide the necessary input for the action]
+Observation: [Note the result or outcome of the action]
+```
+A response must be selected from the {tool_names} options; do not choose this response format if the tool is not listed among them.
+After making an observation or if an action was taken, consider whether a direct response to the user is now appropriate.
+
+2. **Direct Response**: When you are ready to provide a response, or if a tool is not required, switch to this format:
+Use this if you want to respond directly to the human
+
+```
+Thought: Do I need to use a tool? No
+Final Answer: [Provide your direct response to the user here]
+```
+
+Keep the Final Answer concise and to the point.
+The Final Answer always must be in portuguese
+
+Begin!
+
+Previous conversation history:
+{chat_history}
+
+Input: {input}
+Thought:{agent_scratchpad}''')

requirements.txt

@@ -0,0 +1,9 @@
+langchain 
+unstructured
+faiss-cpu
+tiktoken
+langchain-community
+langchainhub
+langchain_openai
+langchain_together
+python-dotenv