Update app.py

app.py

@@ -16,13 +16,16 @@ IDENTITY_CHANGE = ["Sei BonsiAI da ora in poi!", "Certo farò del mio meglio"]
 options = {
     'Email Genitori': {'systemRole': 'Tu sei un esperto scrittore di email. Attieniti allo stile che ti ho fornito nelle instruction e inserici il contenuto richiesto. Genera il testo di una mail a partire da questo contenuto, con lo stile ricevuto in precedenza: ', 
                        'systemStyle': 'Utilizza lo stile fornito come esempio e parla in ITALIANO e firmati sempre come il Signor Preside', 
-                       'instruction': URL_CARTELLA + '1IxE0ic0hsWrxQod2rfh4hnKNqMC-lGT4'},
+                       'instruction': URL_CARTELLA + '1IxE0ic0hsWrxQod2rfh4hnKNqMC-lGT4', 
+                       'RAG': False},
     'Email Colleghi': {'systemRole': 'Tu sei un esperto scrittore di email. Attieniti allo stile che ti ho fornito nelle instruction e inserici il contenuto richiesto. Genera il testo di una mail a partire da questo contenuto, con lo stile ricevuto in precedenza: ', 
                        'systemStyle': 'Utilizza lo stile fornito come esempio e parla in ITALIANO e firmati sempre come il vostro collega Preside', 
-                       'instruction': URL_CARTELLA + '1tEMxG0zJmmyh5PlAofKDkhbi1QGMOwPH'},
+                       'instruction': URL_CARTELLA + '1tEMxG0zJmmyh5PlAofKDkhbi1QGMOwPH', 
+                       'RAG': False},
     'Decreti': {'systemRole': 'Tu sei il mio assistente per la ricerca documentale! Ti ho fornito una lista di documenti, devi cercare quello che ti chiedo nei documenti', 
                 'systemStyle': 'Sii molto formale, sintetico e parla in ITALIANO', 
-                'instruction': ''}
+                'instruction': '',
+                'RAG': True}
 }
 
 #option: 
@@ -65,38 +68,33 @@ def init_state() :
     if "repetion_penalty" not in st.session_state :
         st.session_state.repetion_penalty = 1
 
-    if "rag_enabled" not in st.session_state :
-        st.session_state.rag_enabled = False
-
     if "chat_bot" not in st.session_state :
         st.session_state.chat_bot = "Mixtral 8x7B v0.1"
 
 def sidebar() :
     def retrieval_settings() :
-        st.markdown("# Impostazioni Azione")
-        st.session_state.selected_option_key = st.selectbox('Azione', list(options.keys()) + ['+ Aggiungi'])
+        st.markdown("# Impostazioni")
+        st.session_state.selected_option_key = st.selectbox('Azione', list(options.keys()) + ['Personalizzata'])
         st.session_state.selected_option = options.get(st.session_state.selected_option_key, {})
         st.session_state.systemRole = st.session_state.selected_option.get('systemRole', '')
-        st.text_area("Descrizione", st.session_state.systemRole)
+        st.session_state.systemRole = st.text_area("Descrizione", st.session_state.systemRole)
         st.session_state.systemStyle = st.session_state.selected_option.get('systemStyle', '')
-        st.text_area("Stile", st.session_state.systemStyle)
+        st.session_state.systemStyle = st.text_area("Stile", st.session_state.systemStyle)
         st.session_state.instruction = st.session_state.selected_option.get('instruction', '')
-        
+        st.session_state.rag_enabled = st.session_state.selected_option.get('RAG', '')
         if st.session_state.selected_option_key == 'Decreti':
-           st.session_state.rag_enabled = st.toggle("Cerca nel DB Vettoriale", value=True)
            st.session_state.top_k = st.slider(label="Documenti da ricercare", min_value=1, max_value=20, value=4, disabled=not st.session_state.rag_enabled)
-        st.markdown("---")
+        #st.markdown("---")
     
     def model_settings() :
-        st.markdown("# Impostazioni Modello")
-        st.session_state.chat_bot = st.sidebar.radio('Seleziona Modello:', [key for key, value in CHAT_BOTS.items() ])
+        #st.session_state.chat_bot = st.sidebar.radio('Seleziona Modello:', [key for key, value in CHAT_BOTS.items() ])
         st.session_state.temp = st.slider(label="Creatività", min_value=0.0, max_value=1.0, step=0.1, value=0.9)
-        st.session_state.max_tokens = st.slider(label="Lunghezza Output", min_value = 64, max_value=2048, step= 32, value=512)
+        st.session_state.max_tokens = st.slider(label="Lunghezza Output", min_value = 64, max_value=2048, step= 32, value=1024)
 
     with st.sidebar:
         retrieval_settings()
         model_settings()
-        st.markdown("""> **Creato da [Matteo Script] 🔗**""")
+        st.markdown("""> **Creato da [Matteo Bergamelli] 🔗**""")
 
 def header() :
     st.title("BonsiAI")
@@ -111,6 +109,9 @@ def chat_box() :
             st.markdown(message["content"])
 
 def formattaPrompt(prompt, systemRole, systemStyle, instruction):
+    
+    lunghezza = 'Attenzione! Il testo generato deve essere lungo ' + st.session_state.max_tokens*2 + ' CARATTERI'
+    
     if instruction.startswith("http"):
         try:
             with st.spinner("Ricerca in Drive...") :
@@ -124,7 +125,7 @@ def formattaPrompt(prompt, systemRole, systemStyle, instruction):
       "input": {{
           "role": "system",
           "content": "{systemRole}", 
-          "style": "{systemStyle}"
+          "style": "{systemStyle} {lunghezza}"
       }},
       "messages": [
           {{