Spaces:
Sleeping
Sleeping
File size: 3,835 Bytes
184a47b |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 |
from langchain.prompts import PromptTemplate
from langchain.chains import RetrievalQA
from langchain.vectorstores import Chroma
import sys
sys.path.append("../")
from qa_chain.model_to_llm import model_to_llm
from qa_chain.get_vectordb import get_vectordb
import sys
import re
class QA_chain_self():
""""
不带历史记录的问答链
- model：调用的模型名称
- temperature：温度系数，控制生成的随机性
- top_k：返回检索的前k个相似文档
- file_path：建库文件所在路径
- persist_path：向量数据库持久化路径
- appid：星火需要输入
- api_key：所有模型都需要
- Spark_api_secret：星火秘钥
- Wenxin_secret_key：文心秘钥
- embeddings：使用的embedding模型
- embedding_key：使用的embedding模型的秘钥（智谱或者OpenAI）
- template：可以自定义提示模板，没有输入则使用默认的提示模板default_template_rq
"""
#基于召回结果和 query 结合起来构建的 prompt使用的默认提示模版
default_template_rq = """使用以下上下文来回答最后的问题。如果你不知道答案，就说你不知道，不要试图编造答
案。最多使用三句话。尽量使答案简明扼要。总是在回答的最后说“谢谢你的提问！”。
{context}
问题: {question}
有用的回答:"""
def __init__(self, model:str, temperature:float=0.0, top_k:int=4, file_path:str=None, persist_path:str=None, appid:str=None, api_key:str=None, Spark_api_secret:str=None,Wenxin_secret_key:str=None, embedding = "openai", embedding_key = None, template=default_template_rq):
self.model = model
self.temperature = temperature
self.top_k = top_k
self.file_path = file_path
self.persist_path = persist_path
self.appid = appid
self.api_key = api_key
self.Spark_api_secret = Spark_api_secret
self.Wenxin_secret_key = Wenxin_secret_key
self.embedding = embedding
self.embedding_key = embedding_key
self.template = template
self.vectordb = get_vectordb(self.file_path, self.persist_path, self.embedding,self.embedding_key)
self.llm = model_to_llm(self.model, self.temperature, self.appid, self.api_key, self.Spark_api_secret,self.Wenxin_secret_key)
self.QA_CHAIN_PROMPT = PromptTemplate(input_variables=["context","question"],
template=self.template)
self.retriever = self.vectordb.as_retriever(search_type="similarity",
search_kwargs={'k': self.top_k}) #默认similarity，k=4
# 自定义 QA 链
self.qa_chain = RetrievalQA.from_chain_type(llm=self.llm,
retriever=self.retriever,
return_source_documents=True,
chain_type_kwargs={"prompt":self.QA_CHAIN_PROMPT})
#基于大模型的问答 prompt 使用的默认提示模版
#default_template_llm = """请回答下列问题:{question}"""
def answer(self, question:str=None, temperature = None, top_k = 4):
""""
核心方法，调用问答链
arguments:
- question：用户提问
"""
if len(question) == 0:
return ""
if temperature == None:
temperature = self.temperature
if top_k == None:
top_k = self.top_k
result = self.qa_chain({"query": question, "temperature": temperature, "top_k": top_k})
answer = result["result"]
answer = re.sub(r"\\n", '<br/>', answer)
return answer
|