UNIVERSIDADEFEDERALDORIOGRANDEDOSUL ESCOLADEENGENHARIA PROGRAMADEPO´S-GRADUAC¸A˜OEMENGENHARIADEPRODUC¸A˜O Joa˜oHenriqueFerreiraFlores ˜ COMPARAC¸AO DE MODELOS MLP/RNA E MODELOS ´ ˜ BOX-JENKINS EM SERIES TEMPORAIS NAO LINEARES PortoAlegre 2009 Joa˜oHenriqueFerreiraFlores ˜ COMPARAC¸AO DE MODELOS MLP/RNA E MODELOS ´ ˜ BOX-JENKINS EM SERIES TEMPORAIS NAO LINEARES Dissertac¸a˜o submetida ao Programa de Po´s- Graduac¸a˜o em Engenharia de Produc¸a˜o da Universidade Federal do Rio Grande do Sul como requisito parcial a` obtenc¸a˜o do t´ıtulo de Mestre em Engenharia de Produc¸a˜o, modalidade Acadeˆmica, na a´rea de concentrac¸a˜o em Sistemas de Qualidade. Orientadora: LianeWerner,Dra. PortoAlegre 2009 Joa˜oHenriqueFerreiraFlores Comparac¸a˜odemodelosMLP/RNAemodelosBox-Jenkinsemse´riestemporaisna˜o lineares Estadissertac¸a˜ofoijulgadaadequadaparaaobtenc¸a˜odot´ıtulodeMestreemEngenhariade Produc¸a˜onamodalidadeAcadeˆmicaeaprovadaemsuaformafinalpeloOrientadorepela BancaExaminadoradesignadapeloProgramadePo´s-Graduac¸a˜oemEngenhariadeProduc¸a˜o daUniversidadeFederaldoRioGrandedoSul. Prof. LianeWerner,Dra. OrientadoraPPGEP/UFRGS Prof. Fla´vioSansonFogliatto,Ph.D. CoordenadorPPGEP/UFRGS BancaExaminadora: ProfessorJose´ LuisDuarteRibeiro,Dr. ProfessorPauloMartinsEngel,Dr. ProfessoraBa´rbaraPatriciaOlbermannPasini,Dra. Dedicato´ria Aominhaorientadora,Prof. LianeWerner,peloaux´ılionaconfecc¸a˜odestetrabalho,aminha fam´ıliapeloapoioincondicionaleaminhanoivapelapacieˆncia. AGRADECIMENTOS Queroagradecerprimeiramenteaminhafam´ılia. MeupaiJoa˜oAlcidesFlores,minhama˜e, Dulcy Ferreira Flores, minha irma˜, Manuela Ferreira Flores e meu sobrinho, Ce´sar Milanez Neto. Seu apoio foi fundamental para a continuidade deste trabalho. Agradec¸o tambe´m a minhanoiva,PatriceZeidlerBasso,pelapacieˆnciaededicac¸a˜o. Desejoagradecertambe´m,emespecial,aminhaorientadora,ProfessoraLianeWerner,por meapresentarocaminhoeteracreditoemmimdurantetodoomestrado. Agradec¸otambe´maos integrantesdoProgramadePo´s-Graduac¸a˜oemEngenhariadeProduc¸a˜odaUniversidadeFede- raldoRioGrandedoSul,seusprofessores,colaboradoresecolegas. Mesmoqueindiretamente, muitosforamosquecontribu´ıramparaestetrabalho. Por fim, quero agradecer a banca examinadora, seus comenta´rios, cr´ıticas e sugesto˜es, que so´ engrandecem este trabalho. Agradecer tambe´m ao restante de meus familiares, por me pro- porcionarmomentosdealegriaduranteestetempo. RESUMO Acapacidadedepreverresultadosfuturos,aoseanalisarumase´riededados,e´ umaimportante ferramenta para o planejamento de qualquer empresa ou indu´stria. Pore´m, a literatura oferece muitas opc¸o˜es de ferramentas e modelos estat´ısticos que permitem obter estas previso˜es. Cada qualcomsuascaracter´ısticaserecomendac¸o˜es. Dentreestesmodelos,destacam-seosmodelos deBoxeJenkins,eosmodelosdeRedesNeuraisArtificiais(RNA)-comdestaqueaosmodelos de perceptron de mu´ltiplas camadas (MLP). Estas duas diferentes abordagens sa˜o comparadas nesta dissertac¸a˜o com relac¸a˜o a sua capacidade de obter previso˜es acuradas em se´ries de dados na˜olinearesquantoasuame´dia. Asabordagensforamcomparadasutilizando-sease´riemensal do´ındicedeproduc¸a˜of´ısicaindustrialdoEstadodoRioGrandedoSul. Bemcomoase´rieanual demanchassolares,sendoasegundautilizadacomocaso-controleparaascomparac¸o˜es,devido ao fato de que as suas propriedades ja´ foram amplamente estudadas. No estudo da se´rie do ´ındice de produc¸a˜o f´ısica mensal, os modelos de Box e Jenkins obtiveram melhor rendimento. Na se´rie das manchas solares foram os modelos MLP que se destacaram. Desta forma, na˜o e´ poss´ıvel afirmar se alguma das abordagens e´ superior - tratando-se de se´ries de dados na˜o linearesquantoasuame´dia. Palavras-chave: RNA.MLP.Box-Jenkins. ARIMA.Se´riestemporais. ABSTRACT Thecapacitytopreviewfutureoutcomesonthetimeseriesanalysisisanimportanttoolforany business and industry planning. However, the literature offers many options on statistical tools and models which allow to obtain these forecasts. Each one with their features and recommen- dations. In these models, the Box and Jenkins and Artificial Neural Networks (ANN) models, with the multilayer perceptron (MLP) highlighted, stand out. These two different approaches are compared in this thesis related to the capacity to obtain accurate forecasts in mean related non-linear time series analysis. These approaches were compared using the monthly physical production index of Rio Grande do Sul time series and the sunspot series, being the second one used as a case-control to the comparisons, due the fact of its properties are already widely studied. In the monthly physical production index series study, the Box and Jenkins models obtained better efficiency. In the sunspot series, the MLP models were highlighted. So, it isn’t possible to affirm if any of the approaches is superior, in the case of mean related non-linear timeseries. Keywords: ANN.MLP.Box-Jenkins. ARIMA.Timeseries. LISTADEFIGURAS Figura1 Representac¸a˜oesquema´ticadoalgoritmoBox-Jenkins . . . . . . . . . . . . . 32 Figura2 ExemplodefacdeummodeloAR(2) . . . . . . . . . . . . . . . . . . . . . . 35 Figura3 ExemplodefacpdeummodeloAR(2) . . . . . . . . . . . . . . . . . . . . . 35 Figura4 ExemplodefacdeummodeloMA(2) . . . . . . . . . . . . . . . . . . . . . . 36 Figura5 ExemplodefacpdeummodeloMA(2) . . . . . . . . . . . . . . . . . . . . . 36 Figura6 ExemplodefacdeummodeloARIMA(1,1,1) . . . . . . . . . . . . . . . . . 38 Figura7 ExemplodefacpdeummodeloARIMA(1,1,1) . . . . . . . . . . . . . . . . . 38 Figura8 ExemplodefacdeummodeloARMA(2,2) . . . . . . . . . . . . . . . . . . . 39 Figura9 ExemplodefacpdeummodeloARMA(2,2) . . . . . . . . . . . . . . . . . . 39 Figura10Modelona˜olineardeumneuroˆnio . . . . . . . . . . . . . . . . . . . . . . . . 45 Figura11Arquiteturaderedealimentadaadiantedecamadau´nica . . . . . . . . . . . . 47 Figura12Arquiteturaderedealimentadadiretamentecommu´ltiplascamadas . . . . . . 48 Figura13Arquiteturaderederecorrente . . . . . . . . . . . . . . . . . . . . . . . . . . 49 Figura14Arquiteturaderederecorrentecomcamadaocultaelac¸osdeauto-realimentac¸a˜o 49 Figura15ArquiteturadeummodeloMLP3-4-2-1 . . . . . . . . . . . . . . . . . . . . . 56 Figura16FluxodesinaisnosneuroˆniosdeummodeloMLP . . . . . . . . . . . . . . . 57 Figura17Fluxogramadametodologiautilizada . . . . . . . . . . . . . . . . . . . . . . 60 Figura18FluxogramadametodologiautilizadanamodelagemMLP/RNA . . . . . . . . 65 Figura19Se´rie do ´ındice de produc¸a˜o f´ısica industrial mensal do RS - base me´dia/2002=100 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74 Figura20Se´rie do logaritmo do ´ındice de produc¸a˜o f´ısica industrial mensal do RS-baseme´dia/2002=100 . . . . . . . . . . . . . . . . . . . . . . . . . . . 75 Figura21Se´riedonu´merodemanchassolares-periodicidadeanual . . . . . . . . . . . 76 Figura22facdase´riedo´ındicedeproduc¸a˜of´ısica-lagemanos(1=12meses) . . . . . 79 Figura23facpdase´riedo´ındicedeproduc¸a˜of´ısica-lagemanos(1=12meses) . . . . 79 Figura24facdosres´ıduosdomodeloSARIMA(5,1,2)x(2,1,1) -lagemanos 12 (1=12meses) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80 Figura25facp dos res´ıduos do modelo SARIMA(5,1,2)x(2,1,1) - lag em 12 anos(1=12meses) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80 Figura26Gra´ficodase´riedo´ındicedeproduc¸a˜oedomodeloSARIMA(5,1,2)x(2,1,1) 12 ajustado . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81 Figura27Gra´ficodase´riedo´ındicedeproduc¸a˜oedomodeloMLP(12,5,1)ajustado . . . 83 Figura28Gra´ficodase´riedo´ındicedeproduc¸a˜oedomodeloSARIMA(5,1,2)x(2,1,1) 12 ajustado,compreviso˜es . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84 Figura29facdase´riedolog-´ındicedeproduc¸a˜o-lagemanos(1=12meses) . . . . . . 85 Figura30facpdase´riedolog-´ındicedeproduc¸a˜o-lagemanos(1=12meses) . . . . . 85 Figura31facdosres´ıduosdomodeloSARIMA(6,1,2)x(1,1,0) -lagemanos 12 (1=12meses) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87 Figura32facp dos res´ıduos do modelo SARIMA(6,1,2)x(1,1,0) - lag em 12 anos(1=12meses) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87 Figura33Gra´ficodase´riedolog-´ındicedeproduc¸a˜oedomodeloSARIMA(6,1,2)x(1,1,0) 12 ajustado . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 88 Figura34Gra´ficodase´riedolog-´ındicedeproduc¸a˜oedomodeloMLP(6,14,1)ajustado 89 Figura35Gra´ficodase´riedolog-´ındicedeproduc¸a˜oedomodeloSARIMA(6,1,2)x(1,1,0) 12 ajustado,compreviso˜es . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91 Figura36facdase´riedasmanchassolares-lagemanos . . . . . . . . . . . . . . . . . 92 Figura37facpdase´riedasmanchassolares-lagemanos . . . . . . . . . . . . . . . . . 92 Figura38facdosres´ıduosdomodeloARMA(3,5)-lagemanos(1=12meses) . . . . . 93 Figura39facpdosres´ıduosdomodeloARMA(3,5)-lagemanos(1=12meses) . . . . 94 Figura40Gra´ficodase´riedasmanchassolaresedomodeloARMA(3,5)ajustado . . . . 94 Figura41Gra´ficodase´riedasmanchassolaresedomodeloMLP(6,25,1)ajustado . . . . 96 Figura42Gra´fico da se´rie das manchas solares e do modelo MLP(6,25,1) ajus- tado,compreviso˜es . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98