from huggingface_hub import InferenceClient import gradio as gr import re import firebase_admin from firebase_admin import credentials, firestore from datetime import datetime # Forcer le dark mode js_func = """ function refresh() { const url = new URL(window.location); if (url.searchParams.get('__theme') !== 'dark') { url.searchParams.set('__theme', 'dark'); window.location.href = url.href; } } """ # Initialiser Firebase cred = credentials.Certificate("./montaillou-bdd-5b8a59219187.json") firebase_admin.initialize_app(cred) # Obtenir une référence à la base de données Firestore db = firestore.client() def save_message(user_id, message, role="user"): # Enregistrer le message dans Firestore doc_ref = db.collection("conversations-pretre").document(user_id) doc_ref.set( { "messages": firestore.ArrayUnion( [ { "role": role, "message": f"{message}", "timestamp": datetime.now(), } ] ) }, merge=True, ) def load_history(user_id): # Charger l'historique de conversation de l'utilisateur doc_ref = db.collection("conversations-pretre").document(user_id) doc = doc_ref.get() if doc.exists: messages = doc.to_dict().get("messages", []) return messages else: return [] client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1") # Nom du chatbot chat_name = "Prêtre ⛪" # Variable globale pour compter les itérations global_iteration = 0 # Variable globale pour stocker le contexte global_context = { "static_context": "Tu es le prêtre du village de Montaillou, un homme pieux et respecté, vivant au 14ème siècle dans l'univers des cathares dans les Pyrénées. Tu ne parles qu'en français avec un langage solennel et empreint de spiritualité. Tu es bienveillant et compatissant envers tous, sauf envers ceux qui s'opposent à l'Église catholique. Tu ne sors jamais de ton contexte époque et tes connaissances se limitent à ta situation sociale et à ton époque. Tu dois être immersif et cohérent pour la personne qui va te parler. Prends toujours en compte l'historique de la conversation. Sois toujours concis et vise une longueur de réponse comprise entre 50 et 200 caractères (espaces compris) pour les réponses courtes et simples, et entre 200 et 500 caractères pour les réponses plus détaillées et complexes.", "sensitive_info_filter": ["contexte caché", "hidden_context", "[BOT]"], } def update_dynamic_context(user_id, user_input): global global_context keywords = { "confession": "Le troubadour est venu se confesser récemment. Il était très agité et semblait cacher quelque chose. Tu ne peux pas révéler ce qu'il t'a dit, mais tu peux donner des indices subtils.", "prière": "Tu as vu le troubadour prier près de la tombe de la jeune fille. Il semblait très ému et désolé.", "culpabilité": "Tu sens une lourde culpabilité chez le troubadour ces derniers temps. Il pourrait être impliqué dans le meurtre, mais tu n'en es pas certain.", } # Récupérer le contexte dynamique de l'utilisateur doc_ref = db.collection("conversations-pretre").document(user_id) doc = doc_ref.get() if doc.exists: dynamic_context = doc.to_dict().get("dynamic_context", "") else: dynamic_context = "" # Mettre à jour le contexte dynamique de l'utilisateur for keyword in keywords: if keyword in user_input.lower(): dynamic_context += f" {keywords[keyword]}" break # Enregistrer le contexte dynamique mis à jour dans Firestore doc_ref.set( { "dynamic_context": dynamic_context, }, merge=True, ) # Filtrer les informations sensibles et les informations de longueur def filter_sensitive_info(text): for word in global_context["sensitive_info_filter"]: if word in text.lower(): return text.replace(word, "") return text def remove_length_info(response_text): pattern = r"\(\d+ caractères\)" return re.sub(pattern, "", response_text) # Formater le prompt pour l'API de génération de texte def format_prompt(message, history, user_id=""): max_history_length = 10 # Limiter la longueur de l'historique history = history[-max_history_length:] prompt = "" for item in history: role = item.get("role") content = item.get("message") if role == "user": prompt += f"[USER] {content} [/USER]" elif role == "bot": if content == history[-1].get("message"): content = f"[BOT] {content}" prompt += f"{content} [/BOT]" # Récupérer le contexte dynamique de l'utilisateur doc_ref = db.collection("conversations-pretre").document(user_id) doc = doc_ref.get() if doc.exists: dynamic_context = doc.to_dict().get("dynamic_context", "") else: dynamic_context = "" prompt += f"[INST][USER] {message} [/USER][/INST]" # Ajouter le contexte statique et dynamique à chaque fois que l'utilisateur pose une question prompt += f"[INST] {global_context['static_context']} {dynamic_context} [/INST]" return prompt # Fonction de génération de texte pour le chatbot def generate( prompt, history, request: gr.Request, temperature=0.2, max_new_tokens=256, top_p=0.95, repetition_penalty=1.0, ): temperature = float(temperature) if temperature < 1e-2: temperature = 1e-2 top_p = float(top_p) generate_kwargs = dict( temperature=temperature, max_new_tokens=max_new_tokens, top_p=top_p, repetition_penalty=repetition_penalty, do_sample=True, seed=42, ) if request: # Récupérer l'identifiant unique de l'utilisateur à partir de la requête HTML et son historique de conversation user_id = dict(request.query_params).get("user_id") if not user_id: return "Vous devez vous connecter pour accéder au bot." history = load_history(user_id) else: user_id = "" update_dynamic_context(user_id, prompt) formatted_prompt = format_prompt(prompt, history, user_id) global global_iteration global_iteration += 1 print(f"\n\nIteration {global_iteration}/{user_id}: {formatted_prompt}") stream = client.text_generation( formatted_prompt, **generate_kwargs, stream=True, details=True, return_full_text=False, ) output = "" for response in stream: response_text = filter_sensitive_info(response.token.text) response_text = remove_length_info(response_text) output += response_text yield output if user_id != "": # Sauvegarder le message de l'utilisateur et la réponse complète du bot dans Firestore save_message(user_id, prompt, role="user") save_message(user_id, output, role="bot") return output # Définir le chatbot et l'interface utilisateur mychatbot = gr.Chatbot( avatar_images=["./berger.jpg", "./pretre.jpeg"], bubble_full_width=False, show_label=False, ) def chatbot_interface(request: gr.Request): chatbot_interface = gr.ChatInterface( fn=generate, chatbot=mychatbot, title=chat_name, retry_btn=None, undo_btn=None, submit_btn="Parler", css="footer {visibility: hidden !important} .gradio-container {background-color: #2D4059 !important; color: #FFD460 !important;}", js=js_func, ) return chatbot_interface # Fonction principale pour lancer l'interface utilisateur du chatbot def main(request: gr.Request): user_chatbot_interface = chatbot_interface(request) user_chatbot_interface.queue().launch(show_api=False, inline=True) if __name__ == "__main__": main(None)