app.py

from huggingface_hub import InferenceClient
import gradio as gr
import re
import random
import string
import firebase_admin
from firebase_admin import credentials, firestore
from datetime import datetime

# Forcer le dark mode
js_func = """
function refresh() {
    const url = new URL(window.location);

    if (url.searchParams.get('__theme') !== 'dark') {
        url.searchParams.set('__theme', 'dark');
        window.location.href = url.href;
    }
}
"""

# Initialiser Firebase
cred = credentials.Certificate("./montaillou-bdd-5b8a59219187.json")
firebase_admin.initialize_app(cred)

# Obtenir une référence à la base de données Firestore
db = firestore.client()


def save_message(user_id, message, role="user"):
    # Enregistrer le message dans Firestore
    doc_ref = db.collection("conversations-guerisseuse").document(user_id)
    doc_ref.set(
        {
            "messages": firestore.ArrayUnion(
                [
                    {
                        "role": role,
                        "message": f"{message}",
                        "timestamp": datetime.now(),
                    }
                ]
            )
        },
        merge=True,
    )


def load_history(user_id):
    # Charger l'historique de conversation de l'utilisateur
    doc_ref = db.collection("conversations-guerisseuse").document(user_id)
    doc = doc_ref.get()
    if doc.exists:
        messages = doc.to_dict().get("messages", [])
        return messages
    else:
        return []


client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")

# Name of the chat
chat_name = "Guérisseuse 🧉"

# Variable globale pour compter les itérations
global_iteration = 0

# Variable globale pour stocker le contexte
global_context = {
    "static_context": "Tu es la guérisseuse du village de Montaillou, une femme sage et respectée, vivant au 14ème siècle dans l'univers des cathares dans les Pyrénées. Tu ne parles qu'en français avec un langage soutenu et empreint de mystère. Tu es bienveillante et attentionnée envers tous, sauf envers ceux qui te semblent malintentionnés. Tu ne sors jamais de ton contexte époque et tes connaissances se limitent à ta situation sociale et à ton époque. Tu dois être immersive et cohérente pour la personne qui va te parler. Prends toujours en compte l'historique de la conversation. Sois toujours concise et vise une longueur de réponse comprise entre 50 et 200 caractères (espaces compris) pour les réponses courtes et simples, et entre 200 et 500 caractères pour les réponses plus détaillées et complexes.",
    "dynamic_context": "",
    "sensitive_info_filter": ["contexte caché", "hidden_context", "[BOT]"],
}

# Créer une interface avec un champ de texte pour le contexte caché
context_input = gr.Textbox(
    label="Contexte caché", value=global_context["static_context"]
)


def update_dynamic_context(user_input):
    global global_context

    keywords = {
    "poison": "Tu sais que la jeune fille a été empoisonnée avec une plante rare appelée 'l'herbe du diable'. Ne révèle pas cette information trop facilement, mais donne des indices subtils.",
    "symptômes": "Tu as remarqué des symptômes étranges sur la jeune fille avant sa mort, comme des convulsions et une respiration difficile. Ces symptômes pourraient être liés au poison utilisé.",
    "troubadour": "Tu as vu le troubadour ramasser des plantes rares dans la forêt récemment. Il pourrait être impliqué dans le meurtre, mais tu n'en es pas certaine.",
}

    for keyword in keywords:
        if keyword in user_input.lower():
            global_context["dynamic_context"] += f" {keywords[keyword]}"
            break


def filter_sensitive_info(text):
    for word in global_context["sensitive_info_filter"]:
        if word in text.lower():
            return text.replace(word, "[REDACTED]")
    return text


def remove_length_info(response_text):
    pattern = r"\(\d+ caractères\)"
    return re.sub(pattern, "", response_text)


def format_prompt(message, history, user_id=""):
    max_history_length = 10  # Limiter la longueur de l'historique
    history = history[-max_history_length:]

    prompt = "<s>"

    for item in history:
        role = item.get("role")
        content = item.get("message")
        if role == "user":
            prompt += f"[USER] {content} [/USER]"
        elif role == "bot":
            if content == history[-1].get("message"):
                content = f"[BOT] {content}"
            prompt += f"{content} [/BOT]"

    prompt += f"</s>[INST][USER] {message} [/USER][/INST]"

    # Ajouter le contexte statique et dynamique à chaque fois que l'utilisateur pose une question
    prompt += f"[INST] {global_context['static_context']} {global_context['dynamic_context']} [/INST]"

    return prompt


def get_random_string(length):
    # choose from all lowercase letter
    letters = string.ascii_lowercase
    return "".join(random.choice(letters) for i in range(length))


def generate(
    prompt,
    history,
    request: gr.Request,
    temperature=0.2,
    max_new_tokens=256,
    top_p=0.95,
    repetition_penalty=1.0,
):
    temperature = float(temperature)
    if temperature < 1e-2:
        temperature = 1e-2
    top_p = float(top_p)

    generate_kwargs = dict(
        temperature=temperature,
        max_new_tokens=max_new_tokens,
        top_p=top_p,
        repetition_penalty=repetition_penalty,
        do_sample=True,
        seed=42,
    )

    if request:
        # Récupérer l'identifiant unique de l'utilisateur à partir de la requête HTML et son historique de conversation
        user_id = dict(request.query_params).get("user_id")
        if not user_id:
            return "Vous devez vous connecter pour accéder au bot."
        history = load_history(user_id)
    else:
        user_id = ""

    update_dynamic_context(prompt)

    formatted_prompt = format_prompt(prompt, history, user_id)
    global global_iteration
    global_iteration += 1
    print(f"\n\nIteration {global_iteration}/{user_id}: {formatted_prompt}")

    stream = client.text_generation(
        formatted_prompt,
        **generate_kwargs,
        stream=True,
        details=True,
        return_full_text=False,
    )
    output = ""

    for response in stream:
        response_text = filter_sensitive_info(response.token.text)
        response_text = remove_length_info(response_text)
        output += response_text
        yield output

    if user_id != "":
        # Sauvegarder le message de l'utilisateur et la réponse complète du bot dans Firestore
        save_message(user_id, prompt, role="user")
        save_message(user_id, output, role="bot")

    return output


mychatbot = gr.Chatbot(
    avatar_images=["./berger.jpg", "./pretre.jpeg"],
    bubble_full_width=False,
    show_label=False,
)


def chatbot_interface(request: gr.Request):
    chatbot_interface = gr.ChatInterface(
        fn=generate,
        chatbot=mychatbot,
        title=chat_name,
        retry_btn=None,
        undo_btn=None,
        submit_btn="Parler",
        css="footer {visibility: hidden !important} .gradio-container {background-color: #2D4059 !important; color: #FFD460 !important;}",
        js=js_func
    )
    return chatbot_interface


def main(request: gr.Request):
    user_chatbot_interface = chatbot_interface(request)
    user_chatbot_interface.queue().launch(show_api=False,inline=True)


if __name__ == "__main__":
    main(None)