Detecção de notícias falsas usando técnicas de deep learning

GUARISE, L. Detecção de notícias falsas usando técnicas de deep learning. 2019. 49 f. Monografia (Graduação) – Instituto de Ciências Matemáticas e de Computação (ICMC/USP), São Carlos – SP. With the democratization of communications provided by the massive use of social networks, rise a problem that seems to be able to influence many and make changes at the current social course. The large increase in the amount of false news and the staggering sharing of this news over the network. Due to the large number of news, and its speed of propagation through the network, the review of all this content by qualified professionals becomes infactible. One of the most promising ways to combat the spread of fake news is by automating the detection of this kind of content, in other words the ability to classify the content as true or not without human interaction. Several efforts to build algorithms capable of making this classification already exist, some from various researchers and others even from companies like Google and Facebook. The use of machine learning algorithms and more specifically the use of deep learning seems promising to resolve the issue due to its ability to recognize semantic patterns that escape the average reader, which may indicate whether or not the news is true. In addition, the advancement of techniques and algorithms for the creation of words embeddings contributes to a better performance of neural networks on natural language processing related tasks. This project explores the use of deep learning models to build a classifier on the truth of news.The hierarchical attention networks, or HAN, was chosen by the author. This model creates an effective representation of a given text and, unlike other network architectures, allows the visualization of output data. A heat map gives an indication of why the label is chosen, highlighting the words and sentences considered most important for classification. This project also uses pre-trained models for the creation of vectorized words, using the Word2vec algorithm. After construction the model was trained and evaluated based on a pre-labelled news database. Key-words: Fake News, Deep Learning, HAN, Natural Language Process, Word2Vec. LISTA DE ILUSTRAÇÕES Figura 1 – Atributos chaves para a definição de fake news . 24 Figura 2 – Exemplo de Arquitetura de Rede Neural Artificial Simples . 25 Figura 3 – Exemplo de Arquitetura de Rede Neural Recorrente Simples . 26 Figura 4 – Exemplo de Arquitetura de Rede Neural Recorrente Bidirecional . 27 Figura 5 – Exemplo de Arquitetura da Rede LSTM . 28 Figura 6 – Modelo Encoder Decoder para tradução sem (superior) e com (inferior) mecanismo de atenção . 29 Figura 7 – Modelo de arquitetura de aprendizado profundo Rede de hierarquia de atenção. 30 Figura 8 – Projeções dos vetores de word embeddings para visualização de alguma propriedades matemáticas. 31 Figura 9 – Exemplo de notícia falsa presente na base de dados. 35 Figura 10 – Diagrama das camadas do modelo. 37 Figura 11 – Sumário das camadas do modelo emitido pelo Keras. 38 Figura 12 – Valores da função de perda do modelo em relação as épocas de treinamento, em azul valores para o conjunto de treinamento e em vermelho para o conjunto de validação. 39 Figura 13 – Acurácia do modelo em relação as épocas de treinamento, em azul valores para o conjunto de treinamento e em vermelho para o conjunto de validação. 39 Figura 14 – Mapa de calor obtido com os pesos de atenção para as palavras e as frases em uma notícia falsa com predição correta. 41 Figura 15 – Mapa de calor obtido com os pesos de atenção para as palavras e as frases em uma notícia verdadeira com predição correta mas imprecisa. 41 Figura 16 – Mapa de calor obtido com os pesos de atenção para as palavras e as frases em uma notícia verdadeira com predição correta e precisa . 42