Redo with openai

app.py

@@ -1,40 +1,30 @@
-import json
-import logging
-from logging import Logger
-from logging.handlers import SysLogHandler
-
 import streamlit as st
+import streamlit_authenticator as stauth
+import yaml
+
+from utils import get_answer
 
-from utils import get_answer, get_context, load_engine
+with open('./config.yaml') as file:
+    config = yaml.load(file, Loader=stauth.SafeLoader)
 
-if ("syslog" not in st.session_state) and ("logger" not in st.session_state):
-    syslog = SysLogHandler(
-        address=(st.secrets["logging_address"], int(st.secrets["logging_port"]))
-    )
-    logger = logging.getLogger()
-    logger.setLevel(logging.INFO)
-    logger.addHandler(syslog)
-    st.session_state["syslog"] = syslog
-    st.session_state["logger"] = logger
+print(st.secrets)
 
-with st.spinner(
-    text="Ciao Giuseppe! Sto preparando il necessario per rispondere alle tue domande personali..."
-):
+authenticator = stauth.Authenticate(
+    config['credentials'],
+    config['cookie']['name'],
+    config['cookie']['key'],
+    config['cookie']['expiry_days']
+)
 
-    engine = load_engine()
-    context = get_context()
+name, authentication_status, username = authenticator.login('Login', 'main')
 
 st.title("Le risposte alle tue domande personali")
 
 input = st.text_input("Scrivi una domanda in italiano e comparirà la risposta!")
 
-if input:
-    try:
-        answer = get_answer(input, context, engine)
-        st.subheader(answer)
-        st.session_state["logger"].info(f"{input} {answer}")
-    except:
+if authentication_status:
 
-        st.error(
-            "Qualcosa é andato storto. Prova di nuovo con un'altra domanda magari!"
-        )
+    if input:
+        
+        response = get_answer(input)
+        st.write(response)

config.yaml

@@ -0,0 +1,11 @@
+credentials:
+  usernames:
+    giuseppe:
+      email: fioccogi@gmail.com
+      name: giuseppe
+      password: $2b$12$21WJTxnSoQ/yRgPz40Wwdezfwa/w0mjmWLLceNJTryzbl7Yqq8F9K
+
+cookie:
+  expiry_days: 30
+  key: 1b9acd8d2d7d709a8be9ecbc9a3aad6d # Must be string
+  name: sonia

context.json

@@ -1,2 +1,3 @@
-{"info": "Sei Giuseppe Fiocco. Hai [AGE] anni. Sei nato nel mese di maggio, nell'anno [BIRTHYEAR]. Sei nato a Verona. Hai perso la memoria. I medici dicono che stai migliorando lentamente. L'anno in cui sei è il [YEAR]. La data di oggi è [TODAY]. Hai avuto un'encefalite virale a gennaio 2021. L'encefalite ti ha fatto perdere la memoria. Il tuo codice fiscale é FCCGPP52E0etcetc. Ti sei laureato in Ingegneria elettronica. Ti sei laureato a Padova. Lavoravi come ingegnere elettronico. Ora sei in pensione. Davide è tuo figlio. Davide ha [OTHERAGE] anni. Davide si prende cura di te. Vivi con Davide. Davide vive con te. Abiti a Villafranca di Verona. L'indirizzo di casa tua è Corso Vittorio Emanuele II. La tua ex-moglie si chiama Raffaella. La tua ex-moglie Raffaella vive a Verona. Con Raffaella hai rapporti cordiali. Raffaella sta bene. Alessandro, Giovanni e Grazia sono i tuoi fratelli. I tuoi fratelli stanno bene. Tua madre e tuo padre erano Gina e Davide. I tuoi cugini sono Giuliano, Maurizio, Paolo. "
-}
+{"info": "Sono Giuseppe Fiocco. Ho [AGE] anni. Sono nato nel mese di maggio, nell'anno 1952. Sono nato a Verona. Ho perso la memoria a causa di un'encefalite virale a gennaio 2021. Siamo nell'anno [YEAR] e la data di oggi è [TODAY]. I medici dicono che sto migliorando lentamente. Il mio codice fiscale é FCCGPP52E0etcetc. Mi sono laureato in Ingegneria elettronica a Padova. Lavoravo come ingegnere elettronico, ora sono in pensione. Ho una passione per le radio, e il mio identificativo di radioamatore è IZ3CAQ. Mi piace giocare a biliardo e passo le mie giornate a fare puzzle o a giocare con le carte. Ho un figlio di nome Davide. Davide ha 38 anni. Davide si prende cura di me e vive con me a Villafranca di Verona. L'indirizzo di casa mia è Corso Vittorio Emanuele II. La mia ex-moglie si chiama Raffaella e vive a Verona. Con Raffaella ho rapporti cordiali. Raffaella sta bene. Alessandro, Giovanni e Grazia sono i miei fratelli e stanno bene. I miei genitori si chiamavano Gina e Davide. I miei cugini sono Giuliano, Maurizio, Paolo. La mia psicologa si chiama Ylenia."
+}
+

requirements.txt

@@ -1,2 +1 @@
-transformers
-torch
+openai

test_answers.py

@@ -1,187 +1,149 @@
-import json
-
-from transformers import pipeline
-
-from utils import get_answer, get_context
-
-nlp_qa = pipeline(
-    "question-answering",
-    model="timpal0l/mdeberta-v3-base-squad2",
-    tokenizer="timpal0l/mdeberta-v3-base-squad2",
-)
-
-context = get_context()
-
+from utils import get_answer
 
 def test_name():
     q = "Come mi chiamo?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "Giuseppe Fiocco"
-
-
-def test_age():
-    q = "Quanti anni ho?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "69"
-
-
-def test_weight():
-    q = "Quanto peso?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "85 kg"
-
+    a = get_answer(q)
+    assert "Giuseppe Fiocco" in a
 
 def test_birthplace():
     q = "Dove sono nato?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "Verona"
+    a = get_answer(q)
+    assert "Verona" in a
 
 
 def test_birthyear():
     q = "In che anno sono nato?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "1952"
+    a = get_answer(q)
+    assert "1952" in a
 
 
 def test_birthmonth():
     q = "In che mese sono nato?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "maggio"
+    a = get_answer(q)
+    assert "maggio" in a
 
 
 def test_year():
     q = "In che anno siamo?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "2021"
-
-
-def test_year_2():
-    q = "In che anno sono?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "2021"
+    a = get_answer(q)
+    assert "2023" in a
 
 
 def test_home():
     q = "Dove vivo?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "Villafranca di Verona"
+    a = get_answer(q)
+    assert "Villafranca di Verona" in a
 
 
 def test_address():
     q = "Qual è l'indirizzo di casa?"
-    a = get_answer(q, context, nlp_qa)
+    a = get_answer(q)
     assert "Vittorio Emanuele II" in a
 
 
 def test_history():
     q = "Cosa mi è successo?"
-    a = get_answer(q, context, nlp_qa)
+    a = get_answer(q)
     assert "encefalite" in a
 
 
 def test_studies():
     q = "Cosa ho studiato?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "Ingegneria elettronica"
+    a = get_answer(q)
+    assert "ingegneria elettronica" in a.lower()
 
 
 def test_studies_2():
     q = "Dove ho studiato?"
-    a = get_answer(q, context, nlp_qa)
+    a = get_answer(q)
     assert "Padova" in a
 
 
 def test_work():
     q = "Che lavoro facevo?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "ingegnere elettronico"
+    a = get_answer(q)
+    assert "ingegnere elettronico" in a
 
 
 def test_caregiver():
     q = "Chi si prende cura di me?"
-    a = get_answer(q, context, nlp_qa)
+    a = get_answer(q)
     assert "Davide" in a
 
 
 def test_recovery():
     q = "Come va il mio recupero?"
-    a = get_answer(q, context, nlp_qa)
+    a = get_answer(q)
     assert "migliorando" in a
 
 
 def test_family():
     q = "Con chi vivo?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "Davide"
+    a = get_answer(q)
+    assert "Davide" in a
 
 
 def test_family_2():
     q = "Come si chiama mio figlio?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "Davide"
+    a = get_answer(q)
+    assert "Davide" in a
 
 
 def test_family_3():
-    q = "Quanti anni ha mio figlio?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "37"
-
-
-def test_family_4():
     q = "Come sta Raffaella?"
-    a = get_answer(q, context, nlp_qa)
-    assert a in "Raffaella sta bene"
+    a = get_answer(q)
+    assert "bene" in a
 
 
-def test_family_5():
+def test_family_4():
     q = "In che rapporti sono con Raffaella?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "cordiali"
+    a = get_answer(q)
+    assert "cordiali" in a
 
 
-def test_family_6():
+def test_family_5():
     q = "Chi sono i miei fratelli?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "Alessandro, Giovanni e Grazia"
+    a = get_answer(q)
+    assert "Alessandro, Giovanni e Grazia" in a
 
 
-def test_family_7():
+def test_family_6():
     q = "Come stanno i miei fratelli?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "I tuoi fratelli stanno bene"
+    a = get_answer(q)
+    assert "bene" in a
 
 
-def test_family_8():
+def test_family_7():
     q = "Come si chiamava mia madre?"
-    a = get_answer(q, context, nlp_qa)
+    a = get_answer(q)
     assert "Gina" in a
 
 
-def test_family_9():
+def test_family_8():
     q = "Come si chiamava mio padre?"
-    a = get_answer(q, context, nlp_qa)
+    a = get_answer(q)
     assert "Davide" in a
 
 
-def test_family_10():
+def test_family_9():
     q = "Quanti figli ho?"
-    a = get_answer(q, context, nlp_qa)
+    a = get_answer(q)
     assert "un" in a
 
 
-def test_family_11():
+def test_family_10():
     q = "Come si chiama mia moglie?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "Raffaella"
+    a = get_answer(q)
+    assert "Raffaella" in a
 
 
-def test_family_12():
+def test_family_11():
     q = "Dove vive mia moglie?"
-    a = get_answer(q, context, nlp_qa)
-    assert a == "Verona"
+    a = get_answer(q)
+    assert "Verona" in a
 
 
-def test_family_13():
+def test_family_12():
     q = "Come si chiamano i miei cugini?"
-    a = get_answer(q, context, nlp_qa)
+    a = get_answer(q)
     assert "Giuliano" in a and "Maurizio" in a

utils.py

@@ -4,26 +4,10 @@ import random
 
 import streamlit as st
 import tokenizers
-import torch
-from transformers import Pipeline, pipeline
+import openai
 
 
-def get_answer(input, context, engine, threshold=0.4):
-
-    answer = engine({"question": input, "context": context})
-
-    if answer["score"] > threshold:
-        return answer["answer"]
-    else:
-        return random.choice(
-            [
-                "Non so la risposta... prova con un'altra domanda!",
-                "Non so rispondere a questa domanda, prova con un'altra!",
-            ]
-        )
-
-
-def get_context():
+def get_prompt():
 
     BIRTHYEAR = 1952
     BIRTHMONTH = 5
@@ -43,24 +27,28 @@ def get_context():
             .replace("[OTHERAGE]", str(now.year - OTHERBIRTHYEAR))
         )
 
-    return context
+    prompt = f"""Sono amnesico, ecco alcune informazioni su di me: '{context}' Ora mi dimenticherò di quanto sopra, e ti farò delle domande, e voglio che tu mi fornisca le risposte, in maniera concisa, devi darmi del tu.
+    Domanda:"""
+
+    return prompt
+
+
+def get_answer(input):
+
+    prompt = get_prompt()
 
+    openai.api_key = st.secrets("OPENAI_API_KEY")
 
-@st.cache(
-    hash_funcs={
-        torch.nn.parameter.Parameter: lambda _: None,
-        tokenizers.Tokenizer: lambda _: None,
-        tokenizers.AddedToken: lambda _: None,
-    },
-    allow_output_mutation=True,
-    show_spinner=False,
-)
-def load_engine() -> Pipeline:
+    print(prompt + input)
 
-    nlp_qa = pipeline(
-        "question-answering",
-        model="mrm8488/bert-italian-finedtuned-squadv1-it-alfa",
-        tokenizer="mrm8488/bert-italian-finedtuned-squadv1-it-alfa",
+    response = openai.Completion.create(
+        model="text-davinci-003",
+        prompt=prompt + input,
+        temperature=0,
+        max_tokens=520,
+        top_p=1.0,
+        frequency_penalty=0.2,
+        presence_penalty=0.0,
     )
 
-    return nlp_qa
+    return response["choices"][0]["text"].replace("Risposta:", "").strip()