Título: Estimação do Número de Neurônios Ocultos da Rede MLP Usando Kernel PCA
Autores: Jackson Ponte, Guilherme Barreto
Resumo: A rede perceptron multicamadas (MLP, multilayer perceptron) é uma importante arquitetura clássica de redes neurais artificiais, que encontra aplicação em diversos problemas complexos de classificação de padrões e aproximação de funções. Apesar do seu amplo uso, sabe-se que o desempenho dessa rede é fortemente dependente do número de neurônios ocultos escolhido, sendo a estimação deste hiperparâmetro responsável por boa parte do tempo gasto no projeto de arquiteturas baseadas na rede MLP. Isto posto, neste artigo introduzimos uma nova técnica para estimar de forma rápida o número de neurônios ocultos da rede MLP usando KPCA (kernel principal componentes analysis). Esta técnica é aplicada a três conjuntos de variáveis de estado, a saber, (i) saídas dos neurônios ocultos, (ii) erros retropropagados, e (iii) gradientes locais dos erros retropropagados, com o objetivo de reduzir o nível de redundância da informação carregada por estas variáveis. Uma avaliação comparativa abrangente do método proposto usando quatro conjuntos de dados reais e um conjunto artificial é levada a cabo neste artigo tendo como alvo problemas de classificação de de padrões. Os resultados iniciais ora reportados indicam claramente um desempenho superior da técnica proposta em comparação a uma versão anteriormente proposta que usa técnicas lineares.
Palavras-chave: Estimação de modelo; classificação de padrões; métodos de kernel; análise de componentes principais; rede MLP.
Páginas: 8
Código DOI: 10.21528/CBIC2019-69
Artigo em pdf: CBIC2019-69.pdf
Arquivo BibTeX: CBIC2019-69.bib