ITAMA-DataSet / README.md
MarceDiaz's picture
Create README.md
8bb5582
|
raw
history blame
3.04 kB

Extracción de datos de Reddit

Se descargaron todos los titulos de los hilos de algunas comunidades de Reddit entre marzo del 2017 y enero del 2022:

Comunidad N° de hilos
AskRedditespanol 28072
BOLIVIA 4935
PERU 20735
argentina 214986
chile 69077
espanol 39376
mexico 136984
preguntaleareddit 37300
uruguay 55693
vzla 42909

Etiquetas

Se etiquetaron manualmente algunos de los hilos para marcar AMA vs No AMA: Se etiquetaron 757 hilos (AMA: 290, No AMA: 458), siguiendo una estrategia de query by committee. En el archivo etiqueta_ama.csv se puede revisar esto.

Con estos 757 hilos se ejecuto un algoritmo de label spreading para identificar los hilos AMA restantes, esto dío un total de 3519 hilos. En el archivo autoetiquetado_ama.csv se puede revisar esto.

Para identificar las profesiones de las personas que realizaron lo hilos se utilizó la siguiente lista: https://raw.githubusercontent.com/davoclavo/adigmatangadijolachanga/master/profesiones.txt

Para lograr abarcar todas las posibilidades, se agregaron tanto las versiones que terminaban en "a" como en "o".

Luego se agruparon las profesiones similares, para lograr un numero similar de hilos por profesión, para lo que se utilizo el siguiente diccionario:

sinonimos = {
    'sexologo': 'psicologo',

    'enfermero': 'medico',
    'farmaceutico': 'medico',
    'cirujano': 'medico',
    'doctor': 'medico',

    'radiologo': 'medico',
    
    'dentista': 'odontologo',
    'matron': 'medico',
    'patologo': 'medico',
    'educador': 'profesor',
    'maestro': 'profesor',
    'programador': 'ingeniero',
    'informatico': 'ingeniero',
    'juez': 'abogado',
    'fiscal': 'abogado',
    'oficial': 'abogado',
    'astronomo': 'ciencias',
    'fisico': 'ciencias',
    'ecologo': 'ciencias',
    'filosofo': 'ciencias',
    'biologo': 'ciencias',
    'zoologo': 'ciencias',
    'quimico': 'ciencias',
    'matematico': 'ciencias',
    'meteorologo': 'ciencias',
    'periodista': 'humanidades',
    'dibujante': 'humanidades',
    'fotografo': 'humanidades',
    'traductor': 'humanidades',
    'presidente': 'jefe',
    'gerente': 'jefe'
} 

Se descargaron todos los comentarios de los hilos AMA que contenian algunas de estas profesiones y luego se agruparon estos comentarios de tal forma que quedaran solamente los comentarios que incluian algún signo de pregunta y que tuviesen una respuesta del autor del hilo, formando un par de pregunta respuesta.

Finalmente, se mantuvieron todas las profesiones que contenian más de 200 pares de pregunta respuesta, las que incluyen alrededor de 3000 pares pregunta respuesta. En el archivo qa_corpus_profesion.csv se puede revisar esto.