Update modules/text_analysis/discourse_analysis.py

modules/text_analysis/discourse_analysis.py

@@ -8,30 +8,31 @@ import matplotlib.pyplot as plt
 import pandas as pd
 import numpy as np
 import logging
+import io
+import base64
+from collections import Counter, defaultdict
+import logging
+
 
+logging.basicConfig(level=logging.INFO)
 logger = logging.getLogger(__name__)
 
+
 from .semantic_analysis import (
     create_concept_graph,
     visualize_concept_graph,
     identify_key_concepts
 )
 
+
 from .stopwords import (
     get_custom_stopwords,
     process_text,
     get_stopwords_for_spacy
 )
 
-#####################
-# Define colors for grammatical categories
-POS_COLORS = {
-    'ADJ': '#FFA07A', 'ADP': '#98FB98', 'ADV': '#87CEFA', 'AUX': '#DDA0DD',
-    'CCONJ': '#F0E68C', 'DET': '#FFB6C1', 'INTJ': '#FF6347', 'NOUN': '#90EE90',
-    'NUM': '#FAFAD2', 'PART': '#D3D3D3', 'PRON': '#FFA500', 'PROPN': '#20B2AA',
-    'SCONJ': '#DEB887', 'SYM': '#7B68EE', 'VERB': '#FF69B4', 'X': '#A9A9A9',
-}
 
+#####################
 POS_TRANSLATIONS = {
     'es': {
         'ADJ': 'Adjetivo', 'ADP': 'Preposición', 'ADV': 'Adverbio', 'AUX': 'Auxiliar',
@@ -53,6 +54,13 @@ POS_TRANSLATIONS = {
         'NOUN': 'Nom', 'NUM': 'Nombre', 'PART': 'Particule', 'PRON': 'Pronom',
         'PROPN': 'Nom Propre', 'SCONJ': 'Conjonction de Subordination', 'SYM': 'Symbole',
         'VERB': 'Verbe', 'X': 'Autre',
+    },
+    'pt': {
+        'ADJ': 'Adjetivo', 'ADP': 'Preposição', 'ADV': 'Advérbio', 'AUX': 'Auxiliar',
+        'CCONJ': 'Conjunção Coordenativa', 'DET': 'Determinante', 'INTJ': 'Interjeição',
+        'NOUN': 'Substantivo', 'NUM': 'Número', 'PART': 'Partícula', 'PRON': 'Pronome',
+        'PROPN': 'Nome Próprio', 'SCONJ': 'Conjunção Subordinativa', 'SYM': 'Símbolo',
+        'VERB': 'Verbo', 'X': 'Outro',
     }
 }
 
@@ -77,10 +85,29 @@ ENTITY_LABELS = {
         "Inventions": "lightgreen",
         "Dates": "lightyellow",
         "Concepts": "lightpink"
+    },
+    'pt': {
+        "Pessoas": "lightblue",
+        "Lugares": "lightcoral",
+        "Invenções": "lightgreen",
+        "Datas": "lightyellow",
+        "Conceitos": "lightpink"
     }
 }
 
+#################
 
+def fig_to_bytes(fig, dpi=100):
+    """Convierte una figura de matplotlib a bytes."""
+    try:
+        buf = io.BytesIO()
+        fig.savefig(buf, format='png', dpi=dpi, bbox_inches='tight')  # Sin compression
+        buf.seek(0)
+        return buf.getvalue()
+    except Exception as e:
+        logger.error(f"Error en fig_to_bytes: {str(e)}")
+        return None
+        
 #################
 def compare_semantic_analysis(text1, text2, nlp, lang):
     """
@@ -161,9 +188,17 @@ def create_concept_table(key_concepts):
 
 
 ##########################################################        
+
 def perform_discourse_analysis(text1, text2, nlp, lang):
     """
     Realiza el análisis completo del discurso
+    Args:
+        text1: Primer texto a analizar
+        text2: Segundo texto a analizar
+        nlp: Modelo de spaCy cargado
+        lang: Código de idioma
+    Returns:
+        dict: Resultados del análisis con gráficos convertidos a bytes
     """
     try:
         logger.info("Iniciando análisis del discurso...")
@@ -174,98 +209,59 @@ def perform_discourse_analysis(text1, text2, nlp, lang):
             
         if not nlp:
             raise ValueError("Modelo de lenguaje no inicializado")
-            
-        # Realizar análisis comparativo
-        try:
-            fig1, fig2, key_concepts1, key_concepts2 = compare_semantic_analysis(
-                text1, text2, nlp, lang
-            )
-        except Exception as e:
-            logger.error(f"Error en el análisis comparativo: {str(e)}")
-            raise
-
-        # Crear tablas de resultados
-        try:
-            table1 = create_concept_table(key_concepts1)
-            table2 = create_concept_table(key_concepts2)
-        except Exception as e:
-            logger.error(f"Error creando tablas de conceptos: {str(e)}")
-            raise
-
-        result = {
-            'graph1': fig1,
-            'graph2': fig2,
-            'key_concepts1': key_concepts1,
-            'key_concepts2': key_concepts2,
-            'table1': table1,
-            'table2': table2,
-            'success': True
-        }
         
-        logger.info("Análisis del discurso completado exitosamente")
-        return result
-
-    except Exception as e:
-        logger.error(f"Error en perform_discourse_analysis: {str(e)}")
-        return {
-            'success': False,
-            'error': str(e)
-        }
-    finally:
-        plt.close('all')  # Asegurar limpieza en todos los casos
-
-#################################################################
-def create_concept_table(key_concepts):
-    """
-    Crea una tabla de conceptos clave con sus frecuencias
-    Args:
-        key_concepts: Lista de tuplas (concepto, frecuencia)
-    Returns:
-        pandas.DataFrame: Tabla formateada de conceptos
-    """
-    try:
-        df = pd.DataFrame(key_concepts, columns=['Concepto', 'Frecuencia'])
-        df['Frecuencia'] = df['Frecuencia'].round(2)
-        return df
-    except Exception as e:
-        logger.error(f"Error en create_concept_table: {str(e)}")
-        raise
-
-#################
-def perform_discourse_analysis(text1, text2, nlp, lang):
-    """
-    Realiza el análisis completo del discurso
-    Args:
-        text1: Primer texto a analizar
-        text2: Segundo texto a analizar
-        nlp: Modelo de spaCy cargado
-        lang: Código de idioma
-    Returns:
-        dict: Resultados del análisis
-    """
-    try:
         # Realizar análisis comparativo
         fig1, fig2, key_concepts1, key_concepts2 = compare_semantic_analysis(
             text1, text2, nlp, lang
         )
+        
+        logger.info("Análisis comparativo completado, convirtiendo figuras a bytes...")
+
+        # Convertir figuras a bytes para almacenamiento
+        graph1_bytes = fig_to_bytes(fig1)
+        graph2_bytes = fig_to_bytes(fig2)
+        
+        logger.info(f"Figura 1 convertida a {len(graph1_bytes) if graph1_bytes else 0} bytes")
+        logger.info(f"Figura 2 convertida a {len(graph2_bytes) if graph2_bytes else 0} bytes")
+
+        # Verificar que las conversiones fueron exitosas antes de continuar
+        if not graph1_bytes or not graph2_bytes:
+            logger.error("Error al convertir figuras a bytes - obteniendo 0 bytes")
+            # Opción 1: Devolver error
+            raise ValueError("No se pudieron convertir las figuras a bytes")
 
         # Crear tablas de resultados
         table1 = create_concept_table(key_concepts1)
         table2 = create_concept_table(key_concepts2)
 
-        return {
-            'graph1': fig1,
-            'graph2': fig2,
+        # Cerrar figuras para liberar memoria
+        plt.close(fig1)
+        plt.close(fig2)
+
+        result = {
+            'graph1': graph1_bytes,  # Bytes en lugar de figura
+            'graph2': graph2_bytes,  # Bytes en lugar de figura
+            'combined_graph': None,  # No hay gráfico combinado por ahora
             'key_concepts1': key_concepts1,
             'key_concepts2': key_concepts2,
             'table1': table1,
             'table2': table2,
             'success': True
         }
+        
+        logger.info("Análisis del discurso completado y listo para almacenamiento")
+        return result
 
     except Exception as e:
         logger.error(f"Error en perform_discourse_analysis: {str(e)}")
+        # Asegurar limpieza de recursos
+        plt.close('all')
         return {
             'success': False,
             'error': str(e)
-        }
+        }
+    finally:
+        # Asegurar limpieza en todos los casos
+        plt.close('all')
+
+#################################################################