Título: Construção de um Modelo Baseado em Transformer para Extração de Relações de Doenças Induzidas por Substâncias Químicas
Autores: Cristian Enrique Muñoz Villalobos, Ricardo Tanscheit, Leonardo Aldredo Forero Mendoza
Resumo: A extração da relação Químico-Doença em documentos de texto é uma tarefa desafiadora na área biomédica. Esta tarefa pode compreender interações complexas descritas em mais de uma frase. Trabalhos recentes na área de extração de relações concentram-se na solução deste problema, identificando interações entre entidades presentes em frases diferentes. As abordagens baseadas em Deep Learning modelam estes relacionamentos usando camadas especializadas no aprendizado de representações de forma hierárquica, evitando a dependência de uma sofisticada engenharia de atributos, propensa a erros. Este trabalho propõe um conjunto de mecanismos sobre um módulo transformer; o aprendizado de características dentro do transformer foi aprimorado usando uma representação de palavras baseada em caracteres, um bloco residual convolutivo e um módulo de tempo de computação adaptativa. Mostra-se que o modelo proposto supera os resultados de outras abordagens por redes neurais.
Palavras-chave: Deep Learning, Biomedicine, Universal Transformer, Name Entity Recognition, Relation Extraction.
Páginas: 7
Código DOI: 10.21528/CBIC2019-117
Artigo em pdf: CBIC2019-117.pdf
Arquivo BibTeX: CBIC2019-117.bib