File size: 2,227 Bytes
2f29ee2 ee5d3c7 2f29ee2 bbea41a 2f29ee2 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 |
import pickle
import numpy as np
from sentence_transformers import SentenceTransformer
from scipy.spatial.distance import cosine
import gradio as gr
from openai import OpenAI
client=OpenAI()
model = SentenceTransformer("quanthome/paraphrase-multilingual-MiniLM-L12-v2")
# Funkcja do znajdowania najbardziej podobnych tekst贸w
def find_similar(text, vector_map, model, top_n=5):
query_embedding = model.encode([text])[0]
similarities = []
for key, embedding in vector_map.items():
similarity = 1 - cosine(query_embedding, embedding) # 1 - cosine distance gives similarity
similarities.append((key, similarity))
# Sortowanie po podobie艅stwie malej膮co
similarities = sorted(similarities, key=lambda x: x[1], reverse=True)
return similarities[:top_n]
# Odczytanie s艂ownika z pliku
with open('vector_map.pkl', 'rb') as f:
vector_map = pickle.load(f)
# Przyk艂adowe wyszukiwanie
def szukaj(query_text, history):
top_n_results = find_similar(query_text, vector_map, model, top_n=2)
context=''
for text, similarity in top_n_results:
context=context+text
jaczat=client.chat.completions.create(
model='gpt-4o-mini',
temperature=0.0,
max_tokens=1024,
messages=[
{'role': 'system',
'content': 'Jeste艣 asystentk膮 koordynator贸w dost臋pno艣ci i masz na imi臋 Ally. Odpowiadasz rzetelnie i mi艂o na pytania zadawane przez u偶ytkownik贸w. Nie musisz odpowiada膰 na wulgarne i chamskie uwagi.'+context},
{'role': 'user',
'content': query_text}
]
)
return jaczat.choices[0].message.content
demo=gr.ChatInterface(
fn=szukaj,
theme=gr.themes.Monochrome(),
autofocus=True,
title='Ally - asystentka koordynator贸w dost臋pno艣ci',
description='Ally ch臋tnie odpowie na Twoje pytania i w膮tpliwo艣ci dotycz膮ce dost臋pno艣ci architektonicznej i zada艅 os贸b koordynuj膮cych dost臋pno艣膰 w organizacji. Poniewa偶 Ally jest oparta o model sztucznej inteligencji, to mo偶e si臋 myli膰, chocia偶 na pewnorzadziej, ni偶 cz艂owiek.',
submit_btn='Zapytaj',
clear_btn=None,
retry_btn=None,
undo_btn=None,
show_progress='minimal',
).launch() |