You are on page 1of 118

CURSO APLICADO DE ESTATSTICA

Disciplina de Tpicos Especiais para Engenharia Qumica UFPR

UNIVERSIDADE FEDERAL DO PARANA


Dr. GEORGES KASKANTZIS NETO

---- Dr. Georges Kaskantzis Neto ----

Em homenagem ao meu tio Nikolas, irmo da minha me, que faleceu recentemente, tendo findado a sua misso de bravo paraquedista do Rei Constantino II da Grcia.

~1~

---- Dr. Georges Kaskantzis Neto ----

PROLEGMENOS
Esta apostila foi elaborada visando a realizao da disciplina de Tpicos Especiais para os alunos da Engenharia Qumica do Setor de Tecnologia da Universidade Federal do Paran. O objetivo da disciplina revisar os conceitos bsicos da estatstica descrita, aplicando-os na investigao de um caso real de emborcamento naval acontecido no ano de 2011, na Baa da Babitonga de So Francisco do Sul, do Estado de Santa Catarina, BR. Os objetivos especficos so o aprimoramento da formao profissional dos graduandos da UFPR e a capacitao destes, na anlise sistemtica de questes que envolvam os recursos naturais O autor da apostila o professor doutor Georges Kaskantzis Neto, funcionrio pblico federal lotado no departamento de Engenharia Qumica da UFPR, desde de o ano de 2001. A apostila foi elaborada no perodo de Janeiro a Fevereiro do ano de 2104. O contedo da apostila a ser descrito contempla os conceitos e as tcnicas usuais da estatstica bsica descritiva, os conceitos de probabilidade, as distribuies tericas das funes de probabilidade e os testes de hipteses das mdias, das varincias, das propores e a tcnica ANOVA.

~2~

---- Dr. Georges Kaskantzis Neto ----

LISTA DE TABELAS
TABELA 1. BALANO DE MASSA DOS PRODUTOS DO EMBORCAMENTO TABELA 2. COMPOSIO DA MISTURA DOS LEOS DE PETRLEO. TABELA 3. RESULTADOS DA CAMPANHA DE AMOSTRAGEM REALIZADA PELOS TCNICOS 11 12 13

TABELA 4. CLASSIFICAO DAS VARIVEIS RELATIVAS AO EMBORCA22 MENTO. TABELA 5. OBSERVAES COM AS QUAIS OBTIVERAM-SE AS FREQUNCIAS TABELA 6. ESTATSTICAS DA AMOSTRA DE COMPONENTES AMBIENTAIS TABELA 7. ESTATSTICAS DOS VALORES DAS SOMAS DAS CONCENTRAES DOS COMPOSTO CONTAMINANTES EM FUNO DAS CLASSES AMBIENTAIS TABELA 8. CONCENTRAES GLOBAIS DOS GRUPOS DE COMPOSTOS OBSERVADOS NAS AMOSTRAS DAS CLASSES DE COMPONENTES AMBIENTAIS. 26 27

41

42

TABELA 9. DISTRIBUIO PERCENTUAL DOS VALORES DAS CONCENTRAES DOS COMPOSTOS HIDROCARBONETOS E METAIS EM FUN42 O DAS CLASSES DE COMPONENTES AMBIENTAIS ATINGIDOS PELO ACIDENTE NAVAL. TABELA 10. TABELA DA DISTRIBUIO NORMAL PADRO P (Z < z). TABELA 11. TABELA DA DISTRIBUIO NORMAL PADRO P (Z < z). TABELA 12. TABELA DA DISTRIBUIO DE t STUDENT [WIKIPDIA, 2014] 60 61 62

TABELA 13. TABELA DA DISTRIBUIO DE CHI-QUADRADO [WIKIPDIA, 63 2014] TABELA 14. MEDIDAS EXPERIMENTAIS DO pH das solues TABELA 15. RESULTADO DA PESAGEM DE CONTAMINANTES IDENTIFICADOS NAS FRUTAS IMPORTADAS PELOS AGENTES DE FISCALIZAO DO IBAMA. TABELA 16. DIFERENAS DAS PESAGENS EXECUTADAS POR TCNICOS 92

96

96

~3~

---- Dr. Georges Kaskantzis Neto ----

LISTA DE FIGURAS
FIGURA 1. DETALHE DAS EMBARCAES ENVOLVIDAS NO ACIDENTE. FIGURA 2. GRUPOS DE COMPOSTOS QUMICOS DEFINIDOS EM FUNO DO NMERO DE SUBSTNCIA DE CADA GRUPO E DA CONCENTRAO MDIA. FIGURA 3. NMERO DE AMOSTRAS COLETADAS EM FUNO DOS LOCAIS DE COLETA E DAS CLASSES DE COMPONENTES FIGURA 4. DISTRIBUIO DA MASSA E DA FRAO PERCENTUAL DOS GRUPOS DE COMPOSTOS QUMICOS QUE FORAM DEFINIDOS NO ESTUDO DO DERRAME. FIGURA 5. HISTOGRAMA DOS VALORES DO LOGARITMOS DAS CONCENTRAES DOS GRUPOS DOS COMPOSTOS OBSERVADOS NOS COMPONENTES AMBIENTAIS ATINGIDOS PELA MISTURA OLEOSA. FIGURA 6. HISTOGRAMA DAS FREQUNCIAS DE OCORRNCIA DAS CLASSES DE COMPONENTES AMBIENTAIS NA AMOSTRA DOS VALORES DAS CONCENTRAES DE COMPOSTOS QUMICOS OBSERVADOS NOS TESTES ANALTICOS FIGURA 7. MOSAICO DOS HISTOGRAMAS DAS FREQUNCIAS DOS VALORES DO LOGARTMO DAS CONCENTRAES DE BTEX E HEP OBSERVADAS NAS AMOSTRAS DE COMPONENTES AMBIENTAIS INVESTIGADOS NA POCA DOS FATOS FIGURA 8. MOSAICO DOS HISTOGRAMAS DAS FREQUNCIAS DOS VALORES DO LOGARTMO DAS CONCENTRAES DE HPA E DE METAIS OBSERVADAS NAS AMOSTRAS DE COMPONENTES INVESTIGADOS NA POCA DOS FATOS. FIGURA 9. ESTATSTICAS DOS COMPOSTOS BTEX NA MISTURA OLEOSA FIGURA 10. ESTATSTICAS DOS COMPOSTOS HEP NA MISTURA OLEOSA FIGURA 11. ESTATSTICAS DOS COMPOSTOS HPA NA MISTURA OLEOSA FIGURA 12. ESTATSTICAS DO GRUPO DOS METAIS NA MISTURA OLEOSA FIGURA 13. ESTATSTICAS DOS BTEX NOS COMPONENTES AMBIENTAIS FIGURA 14. ESTATSTICAS DOS HEP NOS COMPONENTES AMBIENTAIS FIGURA 15. ESTATSTICAS DOS HPA NOS COMPONENTES AMBIENTAIS FIGURA 16. ESTATSTICAS DOS METAIS NOS COMPONENTES AMBIENTAIS FIGURA 17. FUNO DISTRIBUIO DE PROBABILIDADES POR LINHAS FIGURA 18. FUNO PROBABILIDADE REPRESENTADA POR PONTOS 10 17

18

19

27

28

29

30

37 37 38 38 39 39 40 40 47 48

~4~

---- Dr. Georges Kaskantzis Neto ---FIGURA 19. FUNO PROBABILIDADE NORMAL E SUAS ESTATSTICAS FIGURA 20. CURVA DA DISTRIBUIO NORMAL DE PROBABILIDADES. FIGURA 21. PECULIARIDADES DA FUNO NORMAL DE DISTRIBUIO DE FREQUNCIAS FIGURA 22. MOSAICO DE GRFICOS INDICANDO AS CURVA DA DISTRIBUIO LOGNORMAL E LOGNORMAL ACUMULADA. FIGURA 23. FUNES DE DISTRIBUIO DE PROBABILIDADES RESPECTIVAMENTE BINOMIAL, t STUDENT e WEIBUL [WIKIPEDIA, 20013 FIGURA 24. MOSAICO DOS GRFICOS DAS DISTRIBUIES DOS VALORES DO DIMETRO DAS PEAS DEFEITUOSAS E DA ESTATSTICA PONTUAO Z FIGURA 25. DISTRIBUIO DAS CLASSES DOS COMPOSTOS QUMICOS QUE FORMARAM A MISTURA OLEOSA EM VIRTUDE DO ACIDENTE NAVAL. FIGURA26. VARIABILIDADE DA CONCENTRAO DOS GRUPOS DE COMPOSTOS QUMICOS DA MISTURA OLEOSA DERRAMA NO ACIDENTE. FIGURA 27. CONTRIBUIES DOS GRUPOS COMBINADOS DOS COMPOSTOS DA MISTURA OLEOSA DERRAMADA NO ACIDENTE NAVAL FIGURA 28. HISTOGRAMA DA DISTRIBUIO DE FREQUNCIAS DOS COMPONENTES AMBIENTAIS ALTERADOS PELA MISTURA DE LEOS FORMADA FIGURA 29. DISTRIBUIO DAS CLASSES E COMPONENTES AMBIENTAIS FIGURA 30. VARIABILIDADE DAS CONCENTRAES DAS CLASSES DE COMPONENTES AMBIENTAIS ATINGIDOS NO ACIDENTE NAVAL FIGURA 31. VARIABILIDADE DOS VALORES DAS CONCENTRAES OBSERVADAS NOS TESTES DE LABORATRIO NAS AMOSTRAS DOS COMPONENTES AMBIENTAIS COLETADAS NA POCA DOS FATOS. FIGURA 32. Regies de rejeio da hiptese nula do primeiro e segundo caso em funo da hiptese alternativa escolhida. Os grficos esto associados as hipteses alternativas a, b e c. FIGURA 33. DETALHE DA REGIO DE REJEIO DA HIPTESE NULA FIGURA 34. DISTRIBUIO NORMAL DE PROBABILIDADE DO EXEMPLO APRESENTADO 48 57 57

58

59

69

74

75

76

77 78 79

79

85

87 87

~5~

---- Dr. Georges Kaskantzis Neto ----

SUMRIO
- PROLEGMENOS - LISTA DE TABELAS - LISTA DE FIGURAS - SUMRIO 1. INTRODUO 2. RESUMO DO ACIDENTE 3. CONCEITOS DE ESTATSTICA DESCRITIVA 3.1. CLASSIFICAO DAS VARIVEIS, 21 3.2. DISTRIBUIO DE FREQUNCIAS, 22 3.3. ANLISE DAS FREQUNCIAS, 24 3.4. MEDIDAS DE TENDNCIA CENTRAL, 31 3.5. MEDIDAS DE DISPERSO, 32 3.6. MEDIDAS DE DISTRIBUIO, 33 3.6.1 CURTOSE, 34 3.7. ESTATSTICAS DAS AMOSTRAS, 35 3.7.1. ESTATSTICAS DOS GRUPOS DE COMPOSTOS, 36 3.7.2. ESTATSTICAS DAS CLASSES DE COMPONENTES, 39 4. FUNO PROBABILIDADE 4.1. CONCEITOS, 44 4.1.2. FUNO DE PROBABILIDADE DISCRETA, 44 4.1.3. FUNO DE PROBABILIDADE ACUMULADA, 44 4.1.4. FUNO DENSIDADE DE PROBABILIDADE, 45

~6~

---- Dr. Georges Kaskantzis Neto ---4.1.5. GRFICOS DE DISTRIBUIO DE PROBABILIDADE, 47 4.2 ESTATSTICAS BSICAS, 48 4.2.1. ESPERANA, MDIA OU VALOR ESPERADO, 49 4.2.2. VARINCIA OU DISPERSO, 49 4.2.3. VARIVEIS ALEATRIA DISCRETAS, 50 4.2.4. VARIVEIS ALEATRIAS CONTNUAS, 51 5. DISTRIBUIES TERICAS DE PROBABILIDADES 5.1. DISTRIBUIES DISCRETAS DE PROBABILIDADES, 52 5.2. DISTRIBUIES CONTNUAS DE PROBABILIDADES, 53 5.3. DISTRIBUIES DE PROBABILIADES DADOS, 64 5.4 DISTRIBUIES DE PROBABILIDADES DE AMOSTRAS, 72 6. TESTES DE HIPTESES 6.1. HIPTESES ESTATSTICAS, 80 6.2. HIPTESE NULA E ALTERNATIVA, 80 6.3. REGIES DE REJEIO DE HIPTESES, 81 6.4 ERROS DO TIPO I E DO TIPO II, 81 6.5. NVEL DE SIGNIFICNCIA, 82 6.6. TESTE UNILATERAL E BILATERAL, 82 6.7. CURVA CARACTERSTICA DE OPERAO, 82 6.8. SISTEMTICA DE EXECUO DO TESTE DE HIPTESE, 83 6.9. TESTE PARA A MDIA POPULACIONAL, 83 6.10. TESTE DA DIFERENA DE MDIAS POPULACIONAIS, 89 6.11. TESTES PARA A VARINCIA POPULACIONAL, 97

~7~

---- Dr. Georges Kaskantzis Neto ---6.12. TESTE PARA A IGUALDADE DE DUAS VARINCIAS, 100 6.13. TESTE DA IGUALDADE DE K (K>2) VARINCIAS, 101 6.14. TESTE PARA A PROPORO POPULACIONAL, 103 6.15. TESTE DA DIFERENA ENTRE DUAS PROPORES, 105 7. ANLISE DE VARINCIA 7.1. VARINCIA TOTAL, 108 7.2. VARINCIA ENTRE AMOSTRAS, 109 7.3. VARINCIA RESIDUAL, 109 7.4. ROTEIRO DO TESTE, 110 7.5. QUADRO ANOVA, 110 8. TESTE DE HIPTESES PARA AS AMOSTRAS 8.1 TESTE PARA AS MDIAS, 113 8.2. TESTE PARA A DIFERENA ENTRE AS MDIAS, 115

~8~

---- Dr. Georges Kaskantzis Neto ----

1. INTRODUO
A investigao de acidentes ambientais, em geral, envolve uma grande quantidade de informaes. As tcnicas estatsticas, quando utilizadas de forma correta asseguram a confiabilidade e a qualidade dos resultados, como, por exemplo, aqueles produzidos na anlise tcnica de ecossistemas afetados por contaminaes. Neste texto apresentam-se os conceitos da estatstica bsica descritiva que so aplicados no estudo de um acidente ocorrido no ano de 2011. Trata-se da contaminao de ecossistemas da Baa da Barbilonga do Estado de Santa Catarina, a qual teria sido, supostamente oriunda do emborcamento de um empurrador e de uma barcaa. O objetivo foi investigar a hiptese da contaminao dos ecossistemas da Babitonga decorrente do acidente naval. Com este propsito realizaram a determinao e comparao das estatsticas de duas amostras. A primeira amostra o conjunto dos valores das concentraes dos compostos qumicos derivados de petrleos, os quais formaram uma mistura oleosa que se dispersou no ambiente. A segunda amostra o conjuntos dos valores das concentraes dos compostos na mistura observados, nos testes de laboratrio realizados nas amostras de componentes ambientais atingidos pelos leos derramados, no acidente naval.

~9~

---- Dr. Georges Kaskantzis Neto ----

2. RESUMO DO ACIDENTE
O emborcamento investigado aconteceu no final do ms de Janeiro do ano de 2008, nas proximidades do porto de So Francisco do Sul, no Estado de Santa Catarina. Em virtude das condies desfavorveis do tempo, no dia dos fatos, o empurrado e a barcaa emborcaram, tendo sido derramados no mar, cerca de, 124 m3 de leos combustveis, lubrificantes e resduos de petrleo. Na FIGURA 1 indicam-se as embarcaes envolvidas no evento e na TABELA 1apresentam-se os compostos de petrleos derramados no mar.

FIGURA 1. DETALHE DAS EMBARCAES ENVOLVIDAS NO ACIDENTE.

Os leos derivados de petrleos despejados no mar atingiram: praias; mangues; marismas; costes; cultivos de ostras mariscos e mexilhes; crustceos; a ictiofauna e outros recursos naturais.

~ 10 ~

---- Dr. Georges Kaskantzis Neto ---TABELA 1. BALANO DE MASSA DOS PRODUTOS DO EMBORCAMENTO Produtos Volume (m3) W Dmdia (kg/m3) Massa (kg) leo pesado leo diesel leo lubrificante leos residuais Total 90,0 13,8 13,5 7,0 124,30 0,7241 0,1110 0,1086 0,0563 1,0000 967,7 850,0 903,0 893,0 943,45 87.097,5 11.730,0 12.190,5 6.251,0 117269,0

Com base nas fichas de segurana dos produtos comerciais identificaram-se as substncias qumicas que constituem os leos de petrleo. Adotando uma base clculo foi definida a composio da mistura oleosa, a qual se encontra apresentada na TABELA 2. Empregando os laudos das anlises de laboratrio das amostras coletadas na campanha de monitoramento da contaminao, determinaram-se os de componentes ambientais afetados, os quais se encontram apresentados na TABELA 3. Inspecionando os dados das citadas tabelas pode-se notar que a mistura oleosa originada na ocasio do acidente era formada por hidrocarbonetos aromticos (BTEX - 7,76%); hidrocarbonetos pesados (HEP - 80,92%), hidrocarbonetos poliaromticos (HPA - 3,97%) e metais pesados (METAIS - 7,34%). A grande quantidade de metais pesados presentes na mistura oleosa oriunda dos leos residuais, dos leos pesados e do leo martimo (IFO 180), pois estes hidrocarbonetos so os resduos do Da destilao vcuo dos petrleos.

~ 11 ~

---- Dr. Georges Kaskantzis Neto ---TABELA 2. COMPOSIO DA MISTURA DOS LEOS DE PETRLEO. COMPOSTO GRUPO C (mg/g) Frao W Benzeno Tolueno Etilbenzeno m, p - Xilenos o-Xileno C10 C12 C14 C16 C18 C20 C22 C24 C26 C28 Benzo(k)fluoranteno Benzo(b)fluoranteno Benzo(a)pireno Fluoranteno Benzo(a)antraceno Criseno Acenaftileno Antraceno Fluoreno Pireno Acenafteno Naftalenos Fenantreno Indeno(1,2,3-cd) pireno Dibenzo (a, h) antraceno Benzo(ghi)perileno Arsnio Cadmio Chumbo Cobre Cromo Mercrio Nquel Zinco BTEX BTEX BTEX BTEX BTEX HEP HEP HEP HEP HEP HEP HEP HEP HEP HEP HPA HPA HPA HPA HPA HPA HPA HPA HPA HPA HPA HPA HPA HPA HPA HPA METAIS METAIS METAIS METAIS METAIS METAIS METAIS METAIS 2,444E-04 1,111E-03 4,422E-03 5,329E-04 7,812E-04 5,400E-03 4,800E-03 7,100E-03 8,000E-03 6,000E-03 9,600E-03 9,700E-03 9,800E-03 4,900E-03 8,600E-03 3,900E-06 1,280E-06 2,170E-06 4,650E-05 5,080E-05 5,530E-05 5,740E-05 1,552E-04 1,933E-04 2,234E-04 2,282E-04 6,830E-04 6,848E-04 2,483E-04 3,483E-04 6,483E-04 5,200E-05 2,600E-05 2,600E-05 1,600E-04 2,600E-04 5,200E-05 1,310E-03 4,820E-03 2,68E-03 1,22E-02 4,84E-02 5,84E-03 8,55E-03 5,91E-02 5,26E-02 7,77E-02 8,76E-02 6,57E-02 1,05E-01 1,06E-01 1,07E-01 5,37E-02 9,42E-02 4,27E-05 1,40E-05 2,38E-05 5,09E-04 5,56E-04 6,06E-04 6,29E-04 1,70E-03 2,12E-03 2,45E-03 2,50E-03 7,48E-03 7,50E-03 2,72E-03 3,81E-03 7,10E-03 5,69E-04 2,85E-04 2,85E-04 1,75E-03 2,85E-03 5,69E-04 1,43E-02 5,28E-02

BTEX Benzeno + Tolueno + Etilbenzeno + Xilenos; HPA hidrocarbonetos poliaromticos, PHE hidrocarbonetos extraveis de petrleo.

~ 12 ~

---- Dr. Georges Kaskantzis Neto ----

TABELA 3. RESULTADOS DA CAMPANHA DE AMOSTRAGEM REALIZADA PELOS TCNICOS


ID 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 Tipo de Amostra Raiz de mangue Raiz de mangue Raiz de mangue Raiz de mangue Raiz de mangue Raiz de mangue Marisma folha Marisma folha Marisma folha Marisma folha Marisma folha Marisma folha Marisma folha Marisma folha Marisma raiz Marisma raiz Marisma raiz Marisma raiz Marisma raiz Marisma raiz Marisma raiz Marisma raiz Mangue preto Ponto de Amostragem 4 4 8 8 5 5 3 3 8 8 5 5 4 4 3 3 8 8 5 5 4 4 3 Classe MG MG MG MG MG MG MR MR MR MR MR MR MR MR MR MR MR MR MR MR MR MR MG BTXE (mg g-1) 0.00E+00 0.00E+00 1.24E-04 0.00E+00 0.00E+00 0.00E+00 4.33E-04 1.99E-04 1.74E-04 2.03E-04 2.91E-04 3.30E-04 1.11E-04 2.28E-04 5.60E-05 0.00E+00 3.20E-05 5.10E-05 0.00E+00 1.57E-04 0.00E+00 0.00E+00 1.42E-04 HPE (mg g-1) 6.61E-03 5.18E-03 1.06E-02 3.20E-03 1.94E-03 2.29E-03 6.53E-02 1.12E-01 2.30E-02 2.00E-02 5.47E-02 2.87E-02 1.82E-02 1.60E-02 2.64E-03 3.30E-01 6.83E-01 2.32E-01 1.45E-01 2.14E-01 3.01E-01 1.26E-01 5.15E+00 HPA (mg g-1) 2.38E-05 1.85E-05 4.00E-05 2.17E-05 3.62E-05 3.79E-05 5.16E-05 8.27E-05 8.09E-05 4.24E-05 4.30E-05 5.04E-05 3.64E-05 9.46E-05 4.91E-05 6.19E-05 5.84E-05 1.82E-05 2.99E-05 6.37E-05 3.54E-05 9.90E-06 5.63E-04 Metais (mg g-1) 5.19E-03 1.06E-02 3.20E-03 1.94E-03 2.29E-03 6.54E-02 1.13E-01 2.30E-02 2.00E-02 5.47E-02 2.87E-02 1.82E-02 1.60E-02 2.64E-03 3.31E-01 6.84E-01 2.32E-01 1.45E-01 2.14E-01 3.02E-01 1.26E-01 5.16E+00 4.04E+00

~ 13 ~

---- Dr. Georges Kaskantzis Neto ----

24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50

Mangue preto Mangue preto Mangue preto Mangue preto Mangue preto Mangue preto Mangue preto Mangue vermelho Mangue vermelho Mangue branco Mangue branco Mangue branco Mangue branco Mangue branco Mangue branco Alga verde Alga verde Alga parda Alga parda Ostra do mangue Ostra do mangue Ostra do mangue Ostra do mangue Ostra do mangue Ostra do mangue Ostra de cultivo Ostra de cultivo

3 5 5 4 4 8 8 4 4 5 5 8 8 3 3 9 9 9 9 5 5 4 4 8 8 10 10

MG MG MG MG MG MG MG MG MG MG MG MG MG MG MG AL AL AL AL OM OM OM OM OM OM OM OM

5.10E-05 0.00E+00 0.00E+00 0.00E+00 3.10E-05 5.23E-03 2.44E-02 2.08E-03 7.97E-04 7.07E-04 1.13E-03 1.81E-03 1.55E-03 1.47E-03 4.62E-04 2.18E-04 2.45E-04 3.04E-04 1.83E-04 0.00E+00 0.00E+00 2.10E-03 7.60E-05 2.13E-03 0.00E+00 7.30E-03 1.10E-02

4.04E+00 6.34E+00 6.90E+00 4.86E+00 3.09E+00 3.16E+00 3.29E+00 1.98E+00 1.73E+00 1.32E+00 1.26E+00 1.37E+00 1.45E+00 1.93E+00 1.15E+00 4.94E-01 1.45E-01 1.64E-01 4.67E-01 1.12E-03 1.34E-01 3.76E-03 6.00E-04 7.58E-03 1.69E-01 1.95E-01 3.10E-03

8.58E-04 1.10E-03 1.92E-03 7.01E-04 8.77E-04 1.89E-04 5.51E-05 8.17E-05 5.32E-05 1.01E-04 1.13E-04 3.76E-05 1.05E-04 6.49E-05 8.03E-05 2.19E-05 1.26E-05 1.28E-05 2.39E-05 0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00

6.34E+00 6.90E+00 4.87E+00 3.09E+00 3.16E+00 3.30E+00 1.98E+00 1.74E+00 1.32E+00 1.26E+00 1.37E+00 1.45E+00 1.93E+00 1.15E+00 4.94E-01 1.45E-01 1.64E-01 4.68E-01 1.12E-03 1.34E-01 3.76E-03 6.01E-04 7.59E-03 1.69E-01 1.95E-01 3.10E-03 2.23E-03

~ 14 ~

---- Dr. Georges Kaskantzis Neto ----

51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77

Bacucu Bacucu Bacucu Bacucu Bacucu Bacucu Marisco de costo Marisco de costo Marisco de costo Marisco de costo Marisco de costo Marisco de costo Marisco de costo Marisco de costo Marisco de costo Marisco de costo Marisco de costo Marisco de costo Marisco de costo Marisco de costo Marisco de costo Marisco de costo Marisco de costo Marisco de costo Marisco de costo BERBIGO BERBIGO

5 5 8 8 5 5 9 9 7 7 AMACOP 3S AMACOP 2S AMAPRI 3S AMAPRI 2S AMAE 3S AMARIPE 3S AABC 1S AMAPRI 3M AMAPRI 2M AMACOP 3F AMACOP 2F AMAPRI 3F AMAPRI 2F AMACOP 2M AMACOP 3M 4 4

IC IC IC IC IC IC OM OM OM OM OM OM OM OM OM OM OM OM OM OM OM OM OM OM OM IC IC

0.00E+00 0.00E+00 2.87E-03 3.77E-03 1.31E-04 2.50E-04 0.00E+00 0.00E+00 0.00E+00 0.00E+00 2.55E-04 3.15E-04 2.13E-04 2.85E-04 2.42E-04 2.89E-04 3.72E-04 3.72E-04 4.12E-04 4.58E-04 4.73E-04 3.01E-04 3.07E-04 3.98E-04 3.85E-04 1.47E-04 2.06E-04

2.23E-03 3.13E-03 4.35E-03 9.30E-04 2.51E-01 4.58E-03 1.61E-01 1.23E-01 1.36E+00 6.25E-01 1.48E-01 5.76E-01 9.65E-01 1.06E+00 1.05E+00 5.38E-01 2.89E-01 9.46E-01 2.73E-01 5.90E-01 9.87E-02 1.10E-01 1.05E-01 8.54E-02 6.07E-01 8.71E-01 7.33E+00

0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00 2.96E-05 8.59E-05 1.01E-04 8.18E-05 2.07E-04 1.14E-04 5.20E-04 1.12E-03 2.41E-04 5.28E-04 0.00E+00 0.00E+00 0.00E+00 1.49E-04 6.97E-05 0.00E+00 0.00E+00

3.13E-03 4.35E-03 9.31E-04 2.51E-01 4.58E-03 1.61E-01 1.23E-01 1.36E+00 6.26E-01 1.48E-01 5.77E-01 9.66E-01 1.06E+00 1.05E+00 5.38E-01 2.89E-01 9.47E-01 2.73E-01 5.91E-01 9.88E-02 1.10E-01 1.05E-01 8.55E-02 6.07E-01 8.72E-01 7.34E+00 3.92E+00

~ 15 ~

---- Dr. Georges Kaskantzis Neto ----

78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95

CAMARO CAMARO SIRI SIRI BAIACU BAIACU FIGADO DE BAIACU FIGADO DE BAIACU CORVINA CORVINA TANHOTA TANHOTA CORCOROCA CORCOROCA CARANGUEIJO CARANGUEIJO CARANGUEIJO CRACA

1 2 1 2 1 2 1 2 1 2 1 2 1 2 4 5 8 6

CR CR CR CR IC IC VC VC IC IC IC IC IC IC CR CR CR IC

1.19E-04 7.52E-05 1.17E-04 1.59E-04 1.18E-04 1.19E-04 2.27E-04 3.84E-04 1.40E-04 9.83E-05 1.61E-04 1.93E-04 1.57E-04 1.30E-04 0.00E+00 0.00E+00 0.00E+00 2.09E-04

3.92E+00 2.51E+00 7.03E-01 4.09E+00 2.84E-01 7.60E-04 1.91E+00 4.07E-01 5.09E-01 6.84E-01 7.75E-01 9.73E-01 8.11E-01 8.48E-01 7.00E-01 6.70E-01 3.75E-01 3.16E+00

2.83E-05 1.26E-04 0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00 0.00E+00 2.44E-04 2.48E-04 2.73E-04 1.40E-04

2.51E+00 7.03E-01 4.09E+00 2.84E-01 7.61E-04 1.91E+00 4.07E-01 5.10E-01 6.84E-01 7.76E-01 9.74E-01 8.11E-01 8.49E-01 7.01E-01 6.71E-01 3.75E-01 3.17E+00 0.00E+00

Nomenclatura. IC ictiofauna; CR crustceo; VC vsceras; OM marisco, mexilho e ostra; AL algas; MG mangues; MR marisma.

~ 16 ~

---- Dr. Georges Kaskantzis Neto ---Visando a adequao dos dados das amostras investigadas definiram-se sete classes de componentes ambientais e quatro grupos de compostos qumicos. As sete classes de componentes ambientais definidos foram: mangues (MG); ictiofauna (IC); crustceos (CR); ostras, mariscos e mexilhes (OM); algas (AL) e vsceras (VC). Alm destes, os quatro grupos de compostos definidos foram: BTEX; HEP; HPA e Metais. Nas FIGURAS 1 3, encontram-se apresentados os grupos dos compostos qumicos; as classes dos componentes ambientais atingidos pelo acidente naval e os pontos de amostragem.

FIGURA 2. GRUPOS DE COMPOSTOS QUMICOS DEFINIDOS EM FUNO DO NMERO DE SUBSTNCIA DE CADA GRUPO E DA CONCENTRAO MDIA.

~ 17 ~

---- Dr. Georges Kaskantzis Neto ----

FIGURA 3. NMERO DE AMOSTRAS COLETADAS EM FUNO DOS LOCAIS DE COLETA E DAS CLASSES DE COMPONENTES

~ 18 ~

---- Dr. Georges Kaskantzis Neto ---Estima-se que a quantidade de leo derramada no acidente naval tenha sido da ordem de 117.269 kg. Adotando o valor de 943,4 kg m-3 para a densidade da mistura, o volume da mistura derramada foi aproximadamente 124,3 m3. Da massa total de leos derramados, cerca de, 9.100,07 kg (7,76%) eram os compostos BTEX, 94.905,80 kg (80,93%)eram os compostos HEP, 4.655,58 kg (3,97%) correspondiam aos hidrocarbonetos HPA e o restante da massa derramada, cerca de, 8607,55 kg (7,34%) eram os metais.

FIGURA 4. DISTRIBUIO DA MASSA E FRAO PERCENTUAL DOS GRUPOS DE COMPOSTOS QUMICOS QUE FORAM DEFINIDOS NO ESTUDO DO DERRAME.

~ 19 ~

---- Dr. Georges Kaskantzis Neto ---Naturalmente que uma parcela dos produtos derramados evaporou nas primeiras horas aps o acidente, outra parcela formou emulso e o restante dos compostos dispersou no ambiente. Neste acidente, a massa dos contaminantes que evaporou foi pequena, porque as condies do tempo no dia do acidente, eram desfavorveis. A probabilidade de cada uma das classes de componentes ambientais ter sido atingida pelos contaminantes qumicos dos quatro grupos que formaram a mistura a mesma, significando que podem ter ocorrido 28 combinaes entre os grupos dos compostos e as classes dos componentes ambientais.

3. CONCEITOS DE ESTATSTICA DESCRITIVA


Visando a organizao e descries das observaes relativas as amostras da mistura oleosa e das amostragens de campo executadas na poca do emborcamento, a seguir, apresentam-se os conceitos e tcnicas da estatstica bsica descritiva, os quais, medida que forem sendo descritos sero aplicados na investigao do acidente naval.

TIPOS DE VARIVEIS
Na descrio e anlise de um conjunto de dados estatsticos, podem ser definidas distintos tipos de variveis, pois, o tratamento e

~ 20 ~

---- Dr. Georges Kaskantzis Neto ---o mtodo estatstico a serem usados dependem da natureza da varivel investigada. Basicamente, as variveis podem ser de natureza qualitativa ou quantitativa. Em geral, as variveis qualitativas esto associadas a caractersticas que denotam qualidade ou atributo, como, por exemplo, a cor dos olhos do entrevistado, desempenho do trabalhador (timo, bom, ruim). As variveis quantitativas, por sua vez, esto associadas a valores numricos, podendo ser discretos ou contnuos. A varivel discreta est associada s contagens e, a varivel contnua est associada s medies.

3.1. CLASSIFICAO DAS VARIVEIS

Tendo sido definidas as tipologias das variveis estatsticas, a seguir, apresentam-se as categorias das variveis envolvidas no emborcamento. As variveis relativas ao cenrio acidental so as concentraes dos compostos qumicos da mistura de leos e aquelas observadas nos ensaios de laboratrio das amostras dos componentes ambientais atingidos pelos leos, as classes de componentes ambientais, os grupos de compostos da mistura oleosa, os pontos de amostragem e os componentes ambientais alterados pelo derrame.

~ 21 ~

---- Dr. Georges Kaskantzis Neto ---Com base na definio das caractersticas das variveis estatsticas, realizou-se a classificao das variveis envolvidas no acidente, tendo sido elaborado a TABELA 4, na qual se pode avaliar as qualificaes das variveis de interesse deste estudo.
TABELA 4. CLASSIFICAO DAS VARIVEIS RELATIVAS AO EMBORCAMENTO. VARIVEL Concentrao Frao ponderal Grupos de compostos Classes de componentes Componentes ambientais Pontos de amostragem CLASSIFICAO Quantitativa contnua Quantitativa contnua Qualitativa nominal Qualitativa nominal Qualitativa nominal Qualitativa ordinria

A seguir, apresenta-se os conceitos e as tcnicas de anlise das distribuies de frequncias de amostras estatsticas.

3.2. DISTRIBUIO DE FREQUNCIAS

As observaes de um fenmeno ou de um evento acidental devem ser organizadas de maneira adequada para que possam fornecer as informaes de interesse ao pesquisador. Com esse propsito, as observaes so agrupadas empregando tabelas e grficos elaborados de modo conveniente. O tipo de grfico ou de tabela a ser construdo funo da varivel que representa o fenmeno de interesse.

~ 22 ~

---- Dr. Georges Kaskantzis Neto ---As variveis discretas, em geral, so representadas por grficos de pontos. Outra representao interessante o grfico das frequncias acumuladas sendo a frequncia acumulada de um ponto igual frequncia desse ponto somada com as frequncias de todos os valores menores que o ponto considerado. As variveis do tipo contnuas podem ser agrupadas em classes ou categorias. O critrio que pode ser utilizado para definir o nmero de classes k aquele proposto por STURGES, cuja equao k = 1 + 3,32 log n (1)

Sendo: k o nmero de classes; n o nmero de observaes A amplitude, h, de cada classe ser dada por h= a k (2)

Sendo: a a amplitude total das observaes, definida como a diferena entre o maior e o menor valores observados; h amplitude.

Na construo de tabelas ou grficos de frequncias outro ponto que deve ser observado quanto aos limites de classe de freqncias. Em geral, na elaborao da tabela adotam-se os limites aparentes que no correspondem ao significado real das observaes. Pode-se, tambm adotar a frequncia relativa de uma determinada classe.

~ 23 ~

---- Dr. Georges Kaskantzis Neto ---A frequncia relativa, fi corresponde a razo da frequncia de classe fi e o nmero total de observaes, ou frequncia total n. Assim, pode-se escrever, fi n

fi =

(3)

O histograma de frequncias uma representao grfica, onde cada classe representada por um retngulo, cuja base igual amplitude de classe correspondente, e, a rea proporcional frequncia de classe. O histograma de frequncias acumuladas outra representao grfica muito utilizada para analisar as observaes. Esse grfico obtido assinalando no eixo das abscissas os valores da varivel e no eixo ordenado as frequncias acumuladas correspondentes.

3.3.

ANLISE DAS FREQUNCIAS


Nesta seo se encontram apresentados os resultados da a-

nlise das classes de frequncias dos valores das concentraes dos grupos de compostos observados no laboratrio nas amostras dos componentes ambientais atingidos pela mistura oleosa. Levando em considerao o fato dos valores das concentraes observados nas amostras no atenderem a distribuio normal de frequncias, determinaram-se as frequncias relativas das classes de frequncias identificadas conforme descrito, a seguir:

~ 24 ~

---- Dr. Georges Kaskantzis Neto ---Aplicando a funo do logaritmo natural ao valores da soma das concentraes dos grupos BTEX, HEP, HPA e Metais obtiveramse os resultados que se encontram apresentados na TABELA 5. Em seguida foram calculadas as classes de frequncias, a saber: N de classes (k): N = 95 pontos

k = 1 + 3,32 log 95 = 7,57~8 classes


Amplitude total (a) o Valor mximo = - 11,67 o Valor mnimo = - 40,93 o Amplitude total = 29,26 Amplitude de cada classe (h)

h=

a 29,26 = = 3,66 k 8

Os resultados indicaram que o intervalo dos valores dos logaritmos naturais das concentraes dos grupos de compostos, encontrados nas amostras dos componentes ambientais, com os testes de laboratrio, poderiam ser representados por oito classes de frequncias, cujas amplitudes total e de classe eram respectivamente iguais a 29,26 e 3,66. Das 95 observaes inicialmente analisadas foram removidos do adotadas apenas 58, significando que 37 observaes foram excludas da amostra dos componentes ambientais.

~ 25 ~

---- Dr. Georges Kaskantzis Neto ---TABELA 5. OBSERVAES COM AS QUAIS OBTIVERAM-SE AS FREQUNCIAS
ID 1 3 4 5 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 32 33 34 35 38 42 43 44 45 47 49 51 52 53 54 55 59 61 62 64 66 67 68 69 70 71 73 74 75 76 80 82 83 85 86 87 90 91 92 93 94 ESPECIE LN (SOMA) INTERVALO FREQUENCIA LNSOMAPND Raiz de mangue -32.44 1 6 -2.05 Raiz de mangue -40.93 1 6 -2.58 Raiz de mangue -34.24 1 6 -2.16 Raiz de mangue -34.06 1 6 -2.15 Marisma folha -34.04 2 10 -3.58 Marisma folha -35.4 2 10 -3.73 Marisma folha -37.28 2 10 -3.92 Marisma folha -36.9 2 10 -3.88 Marisma folha -36.17 2 10 -3.81 Marisma folha -36.98 2 10 -3.89 Marisma folha -38.98 2 10 -4.1 Marisma folha -39.24 2 10 -4.13 Marisma raiz -38.27 2 10 -4.03 Marisma raiz -22.69 2 10 -2.39 Marisma raiz -33.45 3 12 -4.23 Marisma raiz -35.7 3 12 -4.51 Marisma raiz -25.4 3 12 -3.21 Marisma raiz -32.67 3 12 -4.13 Marisma raiz -25.03 3 12 -3.16 Marisma raiz -23.47 3 12 -2.96 Mangue vermelho -27.66 4 20 -5.82 Mangue branco -27.46 4 20 -5.78 Mangue branco -26.84 4 20 -5.65 Mangue branco -27.33 4 20 -5.75 Mangue branco -29.19 4 20 -6.14 Alga parda -38.32 4 20 -8.07 Ostra do mangue -20.32 4 20 -4.28 Ostra do mangue -19.11 4 20 -4.02 Ostra do mangue -30.68 4 20 -6.46 Ostra do mangue -24.32 4 20 -5.12 Ostra de cultivo -23.84 4 20 -5.02 Bacucu -23.39 5 21 -5.17 Bacucu -22.72 5 21 -5.02 Bacucu -29.78 5 21 -6.58 Bacucu -25.46 5 21 -5.63 Bacucu -27.22 5 21 -6.02 Marisco de costo -11.67 5 21 -2.58 Marisco de costo -32.68 5 21 -7.22 Marisco de costo -29.52 5 21 -6.53 Marisco de costo -28.98 5 21 -6.41 Marisco de costo -30.6 5 21 -6.76 Marisco de costo -28.27 5 21 -6.25 Marisco de costo -27.56 5 21 -6.09 Marisco de costo -29.46 5 21 -6.51 Marisco de costo -29.59 5 21 -6.54 Marisco de costo -23.69 6 16 -3.99 Marisco de costo -24.31 6 16 -4.1 Marisco de costo -31.11 6 16 -5.24 Marisco de costo -29.58 6 16 -4.98 BERBIGO -18.48 6 16 -3.11 SIRI -19.51 6 16 -3.29 BAIACU -29 6 16 -4.88 BAIACU -27.08 6 16 -4.56 FIGADO BAIACU -20.95 6 16 -3.53 CORVINA -21.44 6 16 -3.61 CORVINA -21.37 7 3 -0.67 CORCOROCA -20.65 8 6 -1.3 CORCOROCA -20.98 8 6 -1.33 CARANGUEIJO -20.59 8 6 -1.3 CARANGUEIJO -21.2 8 6 -1.34 CARANGUEIJO -19.55 8 6 -1.23

~ 26 ~

---- Dr. Georges Kaskantzis Neto ---Com as observaes escolhidas foram obtidas as estatsticas da amostra cujos valores e histograma encontram-se apresentados na TABELA 6 e FIGURA 5, respectivamente

FIGURA 5. HISTOGRAMA DOS VALORES DO LOGARITMOS DAS CONCENTRAES DOS GRUPOS DOS COMPOSTOS OBSERVADOS NOS COMPONENTES AMBIENTAIS ATINGIDOS PELA MISTURA OLEOSA.

TABELA 6. ESTATSTICAS DA AMOSTRA DE COMPONENTES AMBIENTAIS ESTATSTICAS VALORES Mdia e Mediana Desvio padro e varincia Soma e N (observaes) IC+95% e IC-95% Skewness e Kurtosis -4,22 ; -4,10 -1,72 ; 2,97 - 245 ; 58 -3,72 ; -4,07 0,055 ; - 0,57

~ 27 ~

---- Dr. Georges Kaskantzis Neto ---O histograma das frequncias das classes dos componentes ambientais definidos no estudo se encontra ilustrado na FIGURA 6. E, nas FIGURAS 7 10, apresentam-se os histogramas de frequncia dos grupos de compostos qumicos encontrados nas amostras dos componentes ambientais.

FIGURA 6. HISTOGRAMA DAS FREQUNCIAS DE OCORRNCIA DAS CLASSES DE COMPONENTES AMBIENTAIS NA AMOSTRA DOS VALORES DAS CONCENTRAES DE COMPOSTOS QUMICOS OBSERVADOS NOS TESTES ANALTICOS

Os dados apresentados na FIGURA 6 indicaram que 28% dos valores dos logaritmos das somas das concentraes dos compostos observados nas campanhas de amostragem foram relativos a classe dos componentes ostras, mexilhes e mariscos. Em seguida, foram os mangues, depois, marismas e ictiofauna e algas e crustceos.

~ 28 ~

---- Dr. Georges Kaskantzis Neto ----

FIGURA 7. MOSAICO DOS HISTOGRAMAS DAS FREQUNCIAS DOS VALORES DO LOGARTMO DAS CONCENTRAES DE BTEX E HEP OBSERVADAS NAS AMOSTRAS DE COMPONENTES AMBIENTAIS INVESTIGADOS NA POCA DOS FATOS.

~ 29 ~

---- Dr. Georges Kaskantzis Neto ----

FIGURA 8. MOSAICO DOS HISTOGRAMAS DAS FREQUNCIAS DOS VALORES DO LOGARTMO DAS CONCENTRAES DE HPA E DE METAIS OBSERVADAS NAS AMOSTRAS DE COMPONENTES INVESTIGADOS NA POCA DOS FATOS.

~ 30 ~

---- Dr. Georges Kaskantzis Neto ----

3.4. MEDIDAS DE TENDNCIA CENTRAL

Tendo sido discutidas a importncia da anlise das frequncias das ocorrncias que atingiram os recursos naturais da Baa da Babitonga, nesta seo da apostila devero ser apresentadas e aplicadas as variveis estatsticas de medida da tendncia central de populaes e de amostras de observaes. Com o avano da cincia, notadamente o desenvolvimento do computador, as mtodos matemticos empregados para a resoluo de problemas complexos foram aperfeioados, possibilitando a manipulao de uma grande quantidade de informaes. Uma forma simples de manipular uma grande quantidade de dados para descrever um evento acidental ou um fenmeno natural utilizar um nico elemento cujo valor representa todos os dados, tendendo a se localizar no centro do conjunto de todos os valores. Esta peculiaridade descoberta pelos pesquisadores conhecida como medida de tendncia central. As medidas de tendncia central usuais so a mdia aritmtica, a mediana e a moda. A seguir, apresentam-se as definies das citadas estatsticas, as quais, posteriormente sero aplicadas com as amostras do acidente naval.

3.4.1.

MDIA ARITMTICA, MEDIANA E MODA


A mdia aritmtica, x, de um conjunto de n valores x1, x2, ...,

xn, definida como:

~ 31 ~

---- Dr. Georges Kaskantzis Neto ----

n x i=1 xi = n n

(4)

Se, x1, x2, ..., xn, ocorrem com as frequncias f1, f2, ..., fn, respectivamente, a mdia aritmtica ser definida como:

n fx f x i=1 fi xi = = (5) f f n

A mediana, Me, de um conjunto de n valores ordenados, x1, x2, ..., xn, representada pelo valor central do conjunto, o elemento de ordem n/2, para n impar ou pela mdia de dois valores de ordem n/2 e (n/2 +1). Observa-se que a mediana utilizada nos casos nos quais o conjunto de dados influenciado por valores extremos, sendo mais utilizada nestes casos do que a mdia. A moda, Mo, de um conjunto de valores de n valores x1, x2, ..., xn, determinada pelo elemento do conjunto de dados que apresenta o maior valor de frequncia significando que dependendo do caso analisado, pode existir mais do que um valor para a moda.

3.5. MEDIDAS DE DISPERSO

As medidas de tendncia central, apesar da sua grande utilidade, dependendo do evento a ser analisado, no so capazes o suficiente de fornecer detalhes o comportamento da amostra ou do conjuntos de dados a ser analisado, devendo-se usar as variveis de medida de disperso.

~ 32 ~

---- Dr. Georges Kaskantzis Neto ---As principais variveis de medida da disperso so a varincia s2, o desvio padro, s e coeficiente de variao cv, cujas definies se encontram indicadas nas equaes 6 - 9, respectivamente:

n )2 i=1(xi x s = n
2 2

(6)

s =

k )2 i=1 fi (xi x k i fi

k )2 i=1 fi (xi x n
(8) (9)

(7)

s = s 2 cv = s x

3.6. MEDIDAS DE DISTRIBUIO

As variveis de medida de distribuio so empregada para analisar o comportamento da distribuio de frequncia dos dados em relao a funo de distribuio normal de probabilidades. As estatsticas calculadas para este fim so o coeficiente de assimetria (Skewness), o coeficiente de achatamento (Kurtosis). Observa-se que os valores esperados para os coeficientes de assimetria e achatamento so respectivamente zero e um, os quais correspondem aqueles da funo de distribuio normal de probabilidades. A assimetria definida como o grau de desvio, ou de afastamento da simetria de uma distribuio. Em termos matemticos essa

~ 33 ~

---- Dr. Georges Kaskantzis Neto ---estatstica pode ser estimada, calculado o coeficiente do momento de assimetria e o coeficiente de assimetria de Pearson. O coeficiente do momento de assimetria, ai, uma medida adimensional definida pela razo do terceiro momento centrado na mdia, m3, e o cubo do desvio padro, isto , a3 = m3 s3 (10)

n )3 i=1(xi x m3 = n Casos particulares a) Para a = 0 A distribuio simtrica b) Para a < 0

(11)

A distribuio alongada esquerda (cauda pesada) c) Para a > 0 A distribuio alongada direita (cauda pesada)

O coeficiente de assimetria de Pearson, A, uma medida adimensional de assimetria definida como: A= x Mo s (12)

3.6.1.

CURTOSE

~ 34 ~

---- Dr. Georges Kaskantzis Neto ---A curtose uma medida do grau de achatamento de uma distribuio em relao aquele da distribuio normal de probabilidades, podendo ser de trs tipos: normal; platocrtica; leptocrtica. Em termos matemticos, a curtose de uma distribuio pode ser determinada pelo coeficiente do momento de curtose, a4, cuja definio o quociente do quarto momento centrado da mdia e o quadrado da varincia, isto , m4 m4 = (s 2 )2 s4

a4 =

(13)

fi (xi x )4 m4 = n

(14)

Tendo sido apresentados os principais fundamentos da estatstica bsica descritiva, na sequncia devero ser determinadas as estatsticas descritivas da amostra constituda pelos valores das concentraes dos compostos da mistura oleosa, assim como, da amostra dos valores das concentraes dos compostos identificados nas amostragens dos componentes ambientais alterados pelo acidente, as quais foram determinadas nos testes de laboratrio.

3.7. ESTATSTICAS DAS AMOSTRAS

~ 35 ~

---- Dr. Georges Kaskantzis Neto ---Com base nas estatsticas da anlise descritiva apresentadas foram analisadas as amostras da mistura oleosa e dos componentes ambientais definidos neste estudo. Uma vez que, o escopo da investigao do emborcamento foi verificar se os compostos identificados nos componentes ambientais afetados eram aqueles mesmos que formaram a mistura oleosa, a partir dos leos vazados no incidente, calcularam-se as estatsticas dos grupos de compostos da mistura oleosa e daqueles observados nas amostras dos componentes ambientais. Deve-se observar que os compostos qumicos determinados nas amostras dos componentes ambientais estar relacionados com as classes dos componentes ambientais, bem com, com os locais de coleta das amostras, ou com ambos, isto , com as classes e com os locais de amostragem dos componentes ambientais. Tais hipteses somente podero ser analisadas com os testes de hipteses a serem apresentados nas prximas sees da apostila, mas, considerando factvel essas possibilidades, decidiu-se determinar as estatsticas dos grupos de compostos em funo das locais de amostragem e das classes de componentes ambientais, e, tambm de todos os elementos da segunda amostra investigada no estudo.

3.7.1.

ESTATSTICAS DOS GRUPOS DE COMPOSTOS

~ 36 ~

---- Dr. Georges Kaskantzis Neto ---Nas FIGURAS 9 e 12, indicam-se as estatsticas dos grupos dos compostos BTEX, HEP, HPA e Metais, respectivamente, na mistura.

FIGURA 9. ESTATSTICAS DOS COMPOSTOS BTEX NA MISTURA OLEOSA

FIGURA 10. ESTATSTICAS DOS COMPOSTOS HEP NA MISTURA OLEOSA

~ 37 ~

---- Dr. Georges Kaskantzis Neto ----

FIGURA 11. ESTATSTICAS DOS COMPOSTOS HPA NA MISTURA OLEOSA

FIGURA 12. ESTATSTICAS DO GRUPO DOS METAIS NA MISTURA OLEOSA

Inspecionando os valores das estatsticas dos grupos de compostos da mistura oleosa se pode notar que os HEP so aqueles que se encontravam mais concentrados (6,55 x 10 -3 mg g-1), em seguida eram os compostos BTEX (5,798 x 10-4), e, os menos concentrados eram os HPA (1,85 x 10-4 mg g -1) e os metais (1,62 x 10
-4

mg g-1).

~ 38 ~

---- Dr. Georges Kaskantzis Neto ----

3.7.2.

ESTATSTICAS DAS CLASSES DE COMPONENTES

Nas FIGURAS 13 e 16 podem ser observadas as estatsticas dos grupos BTEX, HEP, HPA e metais nos componentes ambientais

FIGURA 13. ESTATSTICAS DOS BTEX NOS COMPONENTES AMBIENTAIS

FIGURA 14. ESTATSTICAS DOS HEP NOS COMPONENTES AMBIENTAIS

~ 39 ~

---- Dr. Georges Kaskantzis Neto ----

FIGURA 15. ESTATSTICAS DOS HPA NOS COMPONENTES AMBIENTAIS

FIGURA 16. ESTATSTICAS DOS METAIS NOS COMPONENTES AMBIENTAIS

Analisando as estatsticas dos grupos de compostos observados nas amostras dos componentes ambientais afetados, verifica-se que os compostos HEP so aqueles que estavam mais concentrados (4,33 x 10 -3 mg g-1), em seguida, os compostos mais concentrados eram do grupo dos BTEX (2,34 x 10-4 mg g-1).

~ 40 ~

---- Dr. Georges Kaskantzis Neto ---Os compostos dos grupos metais e HAP, se comportaram do mesmo modo como observado para a mistura oleosa, sendo aqueles apresentaram as menores valores de concentraes, respectivamente 4,53 x 10-4 e 9,71 x 10 -5 mg g-1. Conforme citado na introduo os componentes ambientais afetados pelo derrame foram categorizados visando a determinao das estatsticas bsicas descritivas. Os grupos dos componentes ambientais definidos foram os mangues; as marismas; as espcies da ictiofauna; crustceos; mexilhes, ostras e mariscos; algas e vsceras. As estatsticas descritivas dos valores das concentraes dos grupos de compostos em funo das categorias dos componentes ambientais se encontram apresentadas na TABELA 7.
TABELA 7. ESTATSTICAS DOS VALORES DAS SOMAS DAS CONCENTRAES DOS COMPOSTO CONTAMINANTES EM FUNO DAS CLASSES AMBIENTAIS ESTATSTICA AL CR IC MG MR OM Mdia Des. Padro Erro padro IC (+95%) IC (-95%) N 6.36E-04 5.45E-02 4.29E-02 2.21E-02 2.40E-02 5.92E-03 1.63 1.28 5.16 1.86 7.61 1.68 5.47 1.43 1.73 1.15 4.76 1.42

1.39E-03 2.49E-01 1.31E-01 4.74E-02 3.21E-02 1.23E-02 2.92E-04 1.20E-02 1.40E-02 1.05E-02 1.80E-02 2.85E-03 4 7 15 22 16 20

Nas TABELAS 8 -9, apresentam-se os valores da soma das concentraes e respectivos percentuais de compostos qumicos observados nas campanhas do monitoramento da contaminao.

~ 41 ~

---- Dr. Georges Kaskantzis Neto ---TABELA 8. CONCENTRAES GLOBAIS DOS GRUPOS DE COMPOSTOS OBSERVADOS NAS AMOSTRAS DAS CLASSES DE COMPONENTES AMBIENTAIS. CLASSE AL (mg g-1) CR (mg g-1) IC (mg g-1) MG (mg g-1) MR (mg g-1) OM (mg g-1) Total (mg g-1) BTEX 2.33E-04 1.14E-04 1.54E-04 7.17E-04 4.31E-04 3.29E-04 1.98E-03 HEP 2.71E-03 1.25E-02 1.55E-03 4.43E-03 6.89E-04 3.21E-03 2.51E-02 HPA 1.70E-05 1.42E-04 1.41E-04 1.17E-04 4.45E-05 1.65E-04 6.27E-04 METAIS 5.95E-05 1.07E-03 1.94E-04 4.44E-04 9.05E-05 3.71E-04 2.23E-03 SOMA 3.02E-03 1.38E-02 2.04E-03 5.71E-03 1.26E-03 4.08E-03 2.99E-02

TABELA 9. DISTRIBUIO PERCENTUAL DOS VALORES DAS CONCENTRAES DOS COMPOSTOS HIDROCARBONETOS E METAIS EM FUNO DAS CLASSES DE COMPONENTES AMBIENTAIS ATINGIDOS PELO ACIDENTE NAVAL. CLASSE AL CR IC MG MR OM SOMA % BTEX 0.78% 0.38% 0.51% 2.40% 1.44% 1.10% 6.61% % HEP 9.06% 41.77% 5.18% 14.80% 2.30% 10.73% 83.85% % HPA 0.06% 0.47% 0.47% 0.39% 0.15% 0.55% 2.09% % METAIS 0.20% 3.58% 0.65% 1.48% 0.30% 1.24% 7.45% % SOMA 10.09% 46.21% 6.81% 19.08% 4.19% 13.62% 100.00%

Com base nos resultados apresentados nas TABELAS 8 e 9 se pode nota que os compostos encontrados nas amostras dos componentes ambientais, na sua grande maioria, eram HEP (83,85%), tendo se acumulado, preferencialmente na classe de componentes

~ 42 ~

---- Dr. Georges Kaskantzis Neto ---crustceos, provavelmente em razo da maior quantidade de leos que se depositou nos mangues. Os compostos do grupo BTEX, apesar de terem representado o segundo grupo mais concentrado de composto da mistura oleosa, nas amostras analisadas ocuparam a terceira posio em termos de concentrao, tendo sido ultrapassados pelo grupo dos metais, fato que pode ser justificado com base no menor ponto de ebulio normal dos hidrocarbonetos em relao aos metais. Neste sentido, observa-se que a concentrao dos HPA nas amostras analisadas estavam, cerca de, sete vezes menos concentrado nas amostras do que na mistura dos leos de petrleo. Os dados descritos nas tabelas tambm revelam que os compostos BTEX se depositaram nos mangues, enquanto, os compostos dos grupos HEP e metais foram encontrados com maior frequncias nos crustceos. Finalmente, observou-se que a distribuio das concentraes dos compostos do grupo HPA foi praticamente constante nas classes de todos os componentes ambientais, exceto nas algas e nos cultivos de mariscos, mexilhes e ostras.

~ 43 ~

---- Dr. Georges Kaskantzis Neto ----

4. FUNO PROBABILIDADE
4.1. CONCEITOS
Tendo sido descritos os conceitos bsicos da estatsticas descritiva, nesta seo do estudo apresentam-se a funo de probabilidade e as distribuies tericas contnuas e discretas de probabilidades.

4.1.2. FUNO DE PROBABILIDADE DISCRETA


Seja X uma varivel aleatria discreta. A cada possvel resultado ou evento xi associasse um nmero p(x) = P(X=xi), denominado como probabilidade de xi. Por consequncia, a funo p(x) denomina-se como funo de probabilidade da varivel aleatria X. Sendo p(x) uma funo de probabilidade, tem-se: a) p(x i ) 0

para q. q. i (15)

b)

p(x i ) = 1
i=1

(16)

Assim, o conjunto dos pares (, ( )),denomina-se como distribuio de probabilidades de X.

4.1.3. FUNO DE DISTRIBUIO ACUMULADA

~ 44 ~

---- Dr. Georges Kaskantzis Neto ---Seja X uma varivel aleatria. A funo de distribuio acumulada de X definida como:

F(x) = P(X x)

(17)

Se a varivel X fora discreta, tem-se


F(x) = P(xi )
xi < x

(18)

Propriedades a) 0 F(x) 1; b) lim F(x) = 0 ;


n

c) lim F(x) = 1 ;
n+

d) Seja F(x) decrescente, ento, p/ todo x1 x2, F(x1) F(x2);

e) F(x2 ) F(x1 ) = P(x1 < X x2 ), sendo x1 > x2

4.1.4 FUNO DENSIDADE DE PROBABILIDADE


Seja X uma varivel aleatria contnua. Define-se A funo densidade de probabilidade aquela que satisfaz as propriedades, a saber: a) f(x) 0 para todo x R;

b) f(x) dx = 1 A segunda condio de verificao da funo densidade de probabilidade representa a rea total limitada pela funo, cujo valor igual a unidade. Essa condio, pode ser escrita como:

~ 45 ~

---- Dr. Georges Kaskantzis Neto ---b

P(a X b) = f(x)dx
a

(19)

Como a probabilidade das variveis contnuas uma rea, para um nico valor de x o seu valor zero. Em virtude dessa peculiaridade, tem-se:
xo

P(X = xo ) = f(x)dx = 0
xo

(20)

Logo, P(a X b) = P(a X < b) = P(a < X b) = P(a < X < b) (21)

Uma vez definida a funo de distribuio acumulada F(X), para a varivel X aleatria contnua, pode-se determinar a funo densidade de probabilidade (fdp), cuja expresso matemtica tem a forma: f(x) = F(x) = dF(x) dx (22)

RESUMO
a) Probabilidade: p(xi) = P (X = xi); b) Funo probabilidade: conjuntos de variveis aleatrias Para variveis discretas: p(xi) 0 p/ todo x

Para variveis contnuas: p(xi) = 1 c) Funo distribuio acumulada de probabilidades F(x)

Para variveis discretas: F(x) = p (X xi)

~ 46 ~

---- Dr. Georges Kaskantzis Neto ---Para variveis contnuas: F(x) = p(xi) p/ xi x d) Funo densidade de probabilidades: 2 condies (i) (ii) f(x) 0 para todo x R

Integral f(x) = 1 representa uma rea

e) Propriedades (i) (ii) (iii) Se xo = a = b - fdp = 0; Se xo = k - fdp = 1 Se F(x) for conhecida, p(x) ser F(x)/ dx = p(x)

4.1.5 GRFICOS DA DISTRIBUIO DE PROBABILIDADE

FIGURA 17. Funo distribuio de probabilidades por linhas

Nas FIGURAS 17 19, apresentam-se as formas de representar as funes de probabilidades.

~ 47 ~

---- Dr. Georges Kaskantzis Neto ----

FIGURA 18. Funo probabilidade representada por pontos

FIGURA 19. Funo probabilidade normal e suas estatsticas

4.2. ESTATSTICAS BSICAS


Nesta seo apresentam-se os conceitos e sistemticas de clculo das estatsticas bsicas descritivas.

~ 48 ~

---- Dr. Georges Kaskantzis Neto ----

4.2.1.ESPERANA, MDIA OU VALOR ESPERADO

Seja X um varivel aleatria. A esperana, E(X) mdia ou valor esperado so definidos como:

E(X) = X = xi (p(xi)
i=1

(23)

Quando a varivel aleatrio for contnua, a esperana definida como:

E(X) = = ( )
PROPRIEDADES a) E(k) = k

(24)

p/ todos os valores de F(x) e k = cte.

b) E(k*X) = k * E(X) c) E (X Y) = E(X) E(Y) d) E (k X) = E(X) k; e) E (X * Y) = E(X) * E(Y), p/ X e Y independentes e reais

4.2.2. VARINCIA OU DISPERSO


Se X uma varivel aleatria, a varincia definida como: V(X) = Var (X) = s2 = E [X E(X)] = E [X E(x)]2 Reagrupando a equao 22, obtm-se (25)

~ 49 ~

---- Dr. Georges Kaskantzis Neto ---V(X) = E(X 2 2XE(X) + (E(X))2 ) = E(X 2 ) 2E(X)E(X) + [E(X)]2 = E(X 2 ) [E(X)]2 PROPRIEDADES a) V(k)=0, sendo k = cte; b) V(kX)= k2 V(X); c) V (K k) = V(X); d) V(X Y) = V(X) + V(Y) 2 COV(X, Y). (26)

Sendo, a covarincia, COV, definida como: COV(X, Y) = E{[X E(X)][Y E(Y)]} = E(XY) E(X)E(Y) (27) Se, as variveis X e Y foram independentes, ento, tem-se E(XY) = E(X)E(Y) (29)

Observa-se que, embora a COV (X, Y) seja nula sempre que X e Y forem independentes, a recproca pode no ser verdadeira, isto , o fato da covarincia ser nula no suficiente para afirmarse que as variveis aleatria X e Y sejam necessariamente independentes.

4.2.3. VARIVEIS ALEATRIAS DISCRETAS


Para varivel aleatria discreta a varincia definida como:
2

2 ( ) V(X) = E(X 2 ) [E(X)]2 = xi p xi [ xi p(xi )] i=1 i=1

(30)

~ 50 ~

---- Dr. Georges Kaskantzis Neto ---Observando a eq. 26 verifica-se que o valor da varincia igual a mdia das diferenas ao quadrado das observaes e das suas mdias

4.2.4. VARIVEIS ALEATRIAS CONTNUAS


Seja X uma varivel aleatria contnua no intervalo [a, b]. A varincia dessa varivel definida como:
b b 2

V(X) = E(X 2 ) [E(X)]2 = x 2 f(x)dx [ x f(x)dx]


a a

(31)

CONSIDERAES Conforme apresentado, o clculo da esperana matemtica e varincia estatsticas dever ser realizado de maneira particular para as variveis aleatrias discretas e contnuas. Estas variveis quando determinadas com base na probabilidade so estimativas obtidos a partir dos valores observados. Considerando o fato da esperana matemtica e da varincia dependerem da probabilidade necessrio assegurar o nvel de confiana dos valores estimados. Para tanto, devero ser apresentadas as funes de distribuio de probabilidades.

~ 51 ~

---- Dr. Georges Kaskantzis Neto ----

5. DISTRIBUIES TORICAS DE PROBABILIDADES


Considerando os conhecimentos adquiridos nas sees anteriores, apresentam-se as distribuies tericas de probabilidades para as variveis aleatrias contnuas a discretas. Para variveis aleatrias discretas as distribuies usualmente empregadas so a distribuio Binomial e a distribuio de Poisson. Quanto as distribuies para as variveis aleatrias contnuas devero ser apresentadas as distribuies de: Uniforme ou Retangular; Exponencial; Normal; t de Student; F de Snedecor, as quais so aquelas de maior interesse da rea da engenharia. 5.1. DISTRIBUIES TERICAS DISCRETAS DE PROBABILIDADES A) Distribuio Binomial Seja p a probabilidade de um evento E acontecer em uma nica tentativa (denomina como sucesso, sendo q a probabilidade do evento no acontecer nessa nica tentativa. Ento, a probabilidade do evento E ocorrer exatamente x vezes em n tentativa definida pela funo de probabilidade denominada distribuio Binomial, cuja equao tem a forma: n n! P(X = x) = ( ) px qnx = px qnx (32) x x! (n x)! Na distribuio Binomial a mdia e a varincia so respectivamente definidas como:

~ 52 ~

---- Dr. Georges Kaskantzis Neto ---=np 2 = n p q (33) (34)

Como a varivel X aleatria representa o nmero de sucessos, os possveis valores que podem ser atribudos para X so 0, ..., n. B) Distribuio de Poisson Partindo da expresso da distribuio Binomial, isto , da eq. 28, fazendo n tender ao infinito e mantendo constante o produto n x p, o qual corresponde ao valor da mdia da distribuio de X, obtm-se a funo da distribuio de probabilidades de Poisson, cuja a equao definida como: !

P(X = x) =

(35)

Observa-se que a distribuio de Poisson adequada para investigar evento cuja probabilidade de ocorrncia pequena, em razo das hipteses adaptadas para a sua derivao. Na prtica, a distribuio de Poisson aplicada aos caso cujos valores de n 50 e n x p < 5, como = n x p. Na distribuio de Poisson, a mdia coincide com a varincia, isto , 2 = = n x p. 5.2. DISTRIBUIES TERICAS CONTNUAS DE PROBABILIDADES C) Distribuio uniforme ou retangular

~ 53 ~

---- Dr. Georges Kaskantzis Neto ---Para uma varivel aleatria contnua contida no intervalo [a, b], a funo densidade de probabilidades definida como: 1 ba se a xi b { se x xi f(x) = 0

f(x) =

(36)

A esperana matemtica e a varincia da distribuio uniforme de probabilidades so definidas como: a+b 2

E(X ) =

(37)

V(X) =

(b a)2 12

(38)

D) Distribuio exponencial A funo de densidade de probabilidade exponencial para uma varivel aleatria contnua X definida como: f(x) = k ekx para x 0 = 0, < 0

(39)

A esperana matemtica e a varincia da distribuio exponencial de probabilidades so definidas como: 1 1 2

E(X ) = = V(X) = 2 = E) Distribuio normal (Gauss)

(40) (41)

Seja X uma varivel aleatria continua. A funo densidade de probabilidade normal da varivel X definida como:

~ 54 ~

---- Dr. Georges Kaskantzis Neto ---1 2 e2(


1 x 2 )

f(x) =

(42)

Essa funo apresenta dois parmetros, a mdia e o desvio padro. A representao formal da distribuio normal de probabilidades da varivel aleatria contnua X se encontra na eq. 43. X~N(, 2 ) PROPRIEDADES a) A distribuio normal simtrica em relao mdia; b) A funo apresenta um mximo em x = ; c) A funo assinttica ao eixo das abscissas; d) A funo admite dois ponto de inflexo, para x = ; e) A funo de distribuio acumulada definida como (43)

F(x) =

1 2

e2(

1 x 2 ) dx

(44)

A estatstica z, isto , o valor da pontuao padro, tambm conhecida como pontuaes-Z o nmero direcionado de desvio padro com base na mdia na qual o valor definido pela eq. 45. z= x (45)

Diferenciando a equao 14 em relao a varivel x, obtmse, dz = Logo, dx (46)

~ 55 ~

---- Dr. Georges Kaskantzis Neto ---dx = dz (47)

Substituindo a equao (47) na eq. (44) e fazendo as operao algbricas necessrias obtm-se a equao (48).
z

G (z) =

1 2

e 2 dz

z2

(48)

A equao (44) a distribuio acumulada da varivel normal reduzida z, cujas mdia e a varincia so zero e um, respectivamente. Logo, a equao (48) pode ser escrita como, 1 2
z2

g(z ) =

e 2

< z < + (49)

A forma da funo padro densidade de probabilidade da varivel aleatria contnua X tem a forma sinodal, sendo conhecida como funo de Gauss, cuja mdia igual a zero e o desvio padro igual a unidade. A seguir, encontram-se apresentadas as curvas de distribuio de probabilidades mais utilizadas.

~ 56 ~

---- Dr. Georges Kaskantzis Neto ----

FIGURA 20. CURVA DA DISTRIBUIO NORMAL DE PROBABILIDADES.

FIGURA 21. PECULIARIDADES DA FUNO NORMAL DE DISTRIBUIO

~ 57 ~

---- Dr. Georges Kaskantzis Neto ----

FIGURA 22. MOSAICO DE GRFICOS INDICANDO AS CURVA DA DISTRIBUIO LOGNORMAL E LOGNORMAL ACUMULADA.

~ 58 ~

---- Dr. Georges Kaskantzis Neto ----

FIGURA 23. FUNES DE DISTRIBUIO DE PROBABILIDADES RESPECTIVAMENTE BINOMIAL, t STUDENT e WEIBUL [WIKIPEDIA, 20013]

~ 59 ~

---- Dr. Georges Kaskantzis Neto ---TABELA 10. TABELA DA DISTRIBUIO NORMAL PADRO P (Z < z).
Z 0,0 0,1 0,2 0,3 0,4 0,5 0,6 0,7 0,8 0,9 1,0 1,1 1,2 1,3 1,4 1,5 1,6 1,7 1,8 1,9 2,0 2,1 2,2 2,3 2,4 2,5 2,6 2,7 2,8 2,9 3,0 3,1 3,2 3,3 3,4 3,5 3,6 3,7 3,8 3,9 0,0 0,5000 0,5398 0,5793 0,6179 0,6554 0,6915 0,7257 0,7580 0,7881 0,8159 0,8413 0,8643 0,8849 0,9032 0,9192 0,9332 0,9452 0,9554 0,9641 0,9713 0,9772 0,9821 0,9861 0,9893 0,9918 0,9938 0,9953 0,9965 0,9974 0,9981 0,9987 0,9990 0,9993 0,9995 0,9997 0,9998 0,9998 0,9999 0,9999 1,0000 0,01 0,5040 0,5438 0,5832 0,6217 0,6591 0,6950 0,7291 0,7611 0,7910 0,8186 0,8438 0,8665 0,8869 0,9049 0,9207 0,9345 0,9463 0,9564 0,9649 0,9719 0,9778 0,9826 0,9864 0,9896 0,9920 0,9940 0,9955 0,9966 0,9975 0,9982 0,9987 0,9991 0,9993 0,9995 0,9997 0,9998 0,9998 0,9999 0,9999 1,0000 0,02 0,5080 0,5478 0,5871 0,6255 0,6628 0,6985 0,7324 0,7642 0,7939 0,8212 0,8461 0,8686 0,8888 0,9066 0,9222 0,9357 0,9474 0,9573 0,9656 0,9726 0,9783 0,9830 0,9868 0,9898 0,9922 0,9941 0,9956 0,9967 0,9976 0,9982 0,9987 0,9991 0,9994 0,9995 0,9997 0,9998 0,9999 0,9999 0,9999 1,0000 0,03 0,5120 0,5517 0,5910 0,6293 0,6664 0,7019 0,7357 0,7673 0,7967 0,8238 0,8485 0,8708 0,8907 0,9082 0,9236 0,9370 0,9484 0,9582 0,9664 0,9732 0,9788 0,9834 0,9871 0,9901 0,9925 0,9943 0,9957 0,9968 0,9977 0,9983 0,9988 0,9991 0,9994 0,9996 0,9997 0,9998 0,9999 0,9999 0,9999 1,0000 0,04 0,5160 0,5557 0,5948 0,6331 0,6700 0,7054 0,7389 0,7704 0,7995 0,8264 0,8508 0,8729 0,8925 0,9099 0,9251 0,9382 0,9495 0,9591 0,9671 0,9738 0,9793 0,9838 0,9875 0,9904 0,9927 0,9945 0,9959 0,9969 0,9977 0,9984 0,9988 0,9992 0,9994 0,9996 0,9997 0,9998 0,9999 0,9999 0,9999 1,0000 0,05 0,5199 0,5596 0,5987 0,6368 0,6736 0,7088 0,7422 0,7734 0,8023 0,8289 0,8531 0,8749 0,8944 0,9115 0,9265 0,9394 0,9505 0,9599 0,9678 0,9744 0,9798 0,9842 0,9878 0,9906 0,9929 0,9946 0,9960 0,9970 0,9978 0,9984 0,9989 0,9992 0,9994 0,9996 0,9997 0,9998 0,9999 0,9999 0,9999 1,0000 0,06 0,5239 0,5636 0,6026 0,6406 0,6772 0,7123 0,7454 0,7764 0,8051 0,8315 0,8554 0,8770 0,8962 0,9131 0,9279 0,9406 0,9515 0,9608 0,9686 0,9750 0,9803 0,9846 0,9881 0,9909 0,9931 0,9948 0,9961 0,9971 0,9979 0,9985 0,9989 0,9992 0,9994 0,9996 0,9997 0,9998 0,9999 0,9999 0,9999 1,0000 0,07 0,5279 0,5675 0,6064 0,6443 0,6808 0,7157 0,7486 0,7794 0,8078 0,8340 0,8577 0,8790 0,8980 0,9147 0,9292 0,9418 0,9525 0,9616 0,9693 0,9756 0,9808 0,9850 0,9884 0,9911 0,9932 0,9949 0,9962 0,9972 0,9979 0,9985 0,9989 0,9992 0,9995 0,9996 0,9997 0,9998 0,9999 0,9999 0,9999 1,0000 0,08 0,5319 0,5714 0,6103 0,6480 0,6844 0,7190 0,7517 0,7823 0,8106 0,8365 0,8599 0,8810 0,8997 0,9162 0,9306 0,9429 0,9535 0,9625 0,9699 0,9761 0,9812 0,9854 0,9887 0,9913 0,9934 0,9951 0,9963 0,9973 0,9980 0,9986 0,9990 0,9993 0,9995 0,9996 0,9997 0,9998 0,9999 0,9999 0,9999 1,0000 0,09 0,5359 0,5753 0,6141 0,6517 0,6879 0,7224 0,7549 0,7852 0,8133 0,8389 0,8621 0,8830 0,9015 0,9177 0,9319 0,9441 0,9545 0,9633 0,9706 0,9767 0,9817 0,9857 0,9890 0,9916 0,9936 0,9952 0,9964 0,9974 0,9981 0,9986 0,9990 0,9993 0,9995 0,9997 0,9998 0,9998 0,9999 0,9999 0,9999 1,0000

~ 60 ~

---- Dr. Georges Kaskantzis Neto ---TABELA 11. TABELA DA DISTRIBUIO NORMAL PADRO P (Z < z).
Z 0,0 -0,1 -0,2 -0,3 -0,4 -0,5 -0,6 -0,7 -0,8 -0,9 -1,0 -1,1 -1,2 -1,3 -1,4 -1,5 -1,6 -1,7 -1,8 -1,9 -2,0 -2,1 -2,2 -2,3 -2,4 -2,5 -2,6 -2,7 -2,8 -2,9 -3,0 -3,1 -3,2 -3,3 -3,4 -3,5 -3,6 -3,7 -3,8 -3,9 0,0 0,5000 0,4602 0,4207 0,3821 0,3446 0,3085 0,2743 0,2420 0,2119 0,1841 0,1587 0,1357 0,1151 0,0968 0,0808 0,0668 0,0548 0,0446 0,0359 0,0287 0,0228 0,0179 0,0139 0,0107 0,0082 0,0062 0,0047 0,0035 0,0026 0,0019 0,0013 0,0010 0,0007 0,0005 0,0003 0,0002 0,0002 0,0001 0,0001 0,0000 0,01 0,4960 0,4562 0,4168 0,3783 0,3409 0,3050 0,2709 0,2389 0,2090 0,1814 0,1562 0,1335 0,1131 0,0951 0,0793 0,0655 0,0537 0,0436 0,0351 0,0281 0,0222 0,0174 0,0136 0,0104 0,0080 0,0060 0,0045 0,0034 0,0025 0,0018 0,0013 0,0009 0,0007 0,0005 0,0003 0,0002 0,0002 0,0001 0,0001 0,0000 0,02 0,4920 0,4522 0,4129 0,3745 0,3372 0,3015 0,2676 0,2358 0,2061 0,1788 0,1539 0,1314 0,1112 0,0934 0,0778 0,0643 0,0526 0,0427 0,0344 0,0274 0,0217 0,0170 0,0132 0,0102 0,0078 0,0059 0,0044 0,0033 0,0024 0,0018 0,0013 0,0009 0,0006 0,0005 0,0003 0,0002 0,0001 0,0001 0,0001 0,0000 0,03 0,4880 0,4483 0,4090 0,3707 0,3336 0,2981 0,2643 0,2327 0,2033 0,1762 0,1515 0,1292 0,1093 0,0918 0,0764 0,0630 0,0516 0,0418 0,0336 0,0268 0,0212 0,0166 0,0129 0,0099 0,0075 0,0057 0,0043 0,0032 0,0023 0,0017 0,0012 0,0009 0,0006 0,0004 0,0003 0,0002 0,0001 0,0001 0,0001 0,0000 0,04 0,4840 0,4443 0,4052 0,3669 0,3300 0,2946 0,2611 0,2296 0,2005 0,1736 0,1492 0,1271 0,1075 0,0901 0,0749 0,0618 0,0505 0,0409 0,0329 0,0262 0,0207 0,0162 0,0125 0,0096 0,0073 0,0055 0,0041 0,0031 0,0023 0,0016 0,0012 0,0008 0,0006 0,0004 0,0003 0,0002 0,0001 0,0001 0,0001 0,0000 0,05 0,4801 0,4404 0,4013 0,3632 0,3264 0,2912 0,2578 0,2266 0,1977 0,1711 0,1469 0,1251 0,1056 0,0885 0,0735 0,0606 0,0495 0,0401 0,0322 0,0256 0,0202 0,0158 0,0122 0,0094 0,0071 0,0054 0,0040 0,0030 0,0022 0,0016 0,0011 0,0008 0,0006 0,0004 0,0003 0,0002 0,0001 0,0001 0,0001 0,0000 0,06 0,4761 0,4364 0,3974 0,3594 0,3228 0,2877 0,2546 0,2236 0,1949 0,1685 0,1446 0,1230 0,1038 0,0869 0,0721 0,0594 0,0485 0,0392 0,0314 0,0250 0,0197 0,0154 0,0119 0,0091 0,0069 0,0052 0,0039 0,0029 0,0021 0,0015 0,0011 0,0008 0,0006 0,0004 0,0003 0,0002 0,0001 0,0001 0,0001 0,0000 0,07 0,4721 0,4325 0,3936 0,3557 0,3192 0,2843 0,2514 0,2206 0,1922 0,1660 0,1423 0,1210 0,1020 0,0853 0,0708 0,0582 0,0475 0,0384 0,0307 0,0244 0,0192 0,0150 0,0116 0,0089 0,0068 0,0051 0,0038 0,0028 0,0021 0,0015 0,0011 0,0008 0,0005 0,0004 0,0003 0,0002 0,0001 0,0001 0,0001 0,0000 0,08 0,4681 0,4286 0,3897 0,3520 0,3156 0,2810 0,2483 0,2177 0,1894 0,1635 0,1401 0,1190 0,1003 0,0838 0,0694 0,0571 0,0465 0,0375 0,0301 0,0239 0,0188 0,0146 0,0113 0,0087 0,0066 0,0049 0,0037 0,0027 0,0020 0,0014 0,0010 0,0007 0,0005 0,0004 0,0003 0,0002 0,0001 0,0001 0,0001 0,0000 0,09 0,4641 0,4247 0,3859 0,3483 0,3121 0,2776 0,2451 0,2148 0,1867 0,1611 0,1379 0,1170 0,0985 0,0823 0,0681 0,0559 0,0455 0,0367 0,0294 0,0233 0,0183 0,0143 0,0110 0,0084 0,0064 0,0048 0,0036 0,0026 0,0019 0,0014 0,0010 0,0007 0,0005 0,0003 0,0002 0,0002 0,0001 0,0001 0,0001 0,0000

~ 61 ~

---- Dr. Georges Kaskantzis Neto ---TABELA 12. TABELA DA DISTRIBUIO DE t STUDENT [WIKIPDIA, 2014]

~ 62 ~

---- Dr. Georges Kaskantzis Neto ---TABELA 13. TABELA DA DISTRIBUIO DE CHI-QUADRADO [WIKIPDIA, 2014]

~ 63 ~

---- Dr. Georges Kaskantzis Neto ----

5.3. DISTRIBUIES DE PROBABILIDADE DE OBSERVAES


Para utilizar de maneira correta as funes de distribuio de probabilidades pode-se adotar dois mtodos para investigar a hiptese de interesse. Observa-se que o contedo relativo aos testes estatstico de hiptese dever ser apresentado nas prximas sees, mas, fundamente entender a sistema do emprego das tabelas de distribuies estatsticas nessa etapa do estudo. Basicamente, existem dois mtodos para investigar eventos, com base nas distribuies de probabilidades. O primeiro mtodo, o qual dever ser descrito nessa seo, chama-se mtodo tradicional. Neste mtodo, predetermina-se o nvel de significncia, alfa, para compar-lo com o valor da funo fornecida pela distribuio adota. Os nveis de significncia, em geral, empregados so 0,01 (99 % de confiana); 0,05 (95% de confiana) e 0,10 (90% de confiana). O segundo mtodo de investigao de hipteses, o mtodo do valor-p, a estatstica do teste calculada usando-se o dado amostral, ento a distribuio de probabilidade adequada usada para encontrar a probabilidade de se observar uma estatsticas amostral que seja pelo menos um pouco diferente do valor da hiptese nula para o parmetro populacional (o valor da probabilidade ou valor-p), quanto menor for o valor-p, melhor a prova para rejeitar a hiptese nula (Ho).

~ 64 ~

---- Dr. Georges Kaskantzis Neto ---O valor-p tambm representa o menor nvel de significncia ao qual a hiptese nula (Ho) pode ser rejeitada. Portanto, os resultados dos valores-p podem ser usados com nvel de significncia fixo, rejeitando a Ho se o valor-p for menor ou igual a alfa (valor p ). Geralmente, quanto maior for o valor da estatstica do teste, isto , mais distanciado de zero, positivo ou negativo, menor o valorp, o que fornece uma prova melhor contra a hiptese nula a favor da hiptese alternativa. EXERCCIO DE FIXAO DOS CONTEDOS Uma indstria mecnica fabrica tubulaes industriais cujos dimetros externos so normalmente distribudo, apresentando mdia e desvio padro da ordem de 40 e 2,0mm, respectivamente. Calcular a percentagem de peas defeituosas, com base nos dados registrados pelo departamento de qualidade da indstria. Os dados indicam os fatos, a saber. a) Existem peas com dimetro menor que 37,0 mm; b) Existem peas com dimetro maior que 44,0 mm; c) Existem peas com desvio maior do que 2mm da mdia d) Estimar os limites de 40 h, visando diminuir o percentual de refugos para 12,6%

~ 65 ~

---- Dr. Georges Kaskantzis Neto ----

INTRODUO E DISCUSO DO EXERCCIO


Inicialmente, observa-se que o comportamento da ocorrncia de peas defeituosa segue uma distribuio normal de frequncias, significando que pode-se usar a equaes da pontuao-z. Uma vez escolhida a distribuio a ser empregada para o clculo das probabilidades, pode-se iniciar a soluo do problema, adotando a sistemtica apresentada, a seguir. Conforme citado nesta seo, o mtodo escolhido para obter as estimativas foi o mtodo tradicional. Neste mtodo, costuma-se definir o nvel de significncia, em seguida, calcula a estatstica, e compara-se o resultado como o valores tabelados da distribuio escolhida. Existem diferentes casos a serem enfrentados, dependo da resposta que se procura. Para tanto, recomenda-se a elaborao de dois diagramas os quais facilitam a identificao da soluo almejada. Alm da elaborao dos dois diagramas, podem ser utilizadas os valores tabelados das funes de distribuio, assim como, as equaes das distribuies para obter as probabilidades. A escolha da funo adequada fundamental, pois existem quatro formas de expressar as funes de distribuio normal de probabilidades. As equaes da distribuio normal podem ser escritas em funo da mdia ou da variveis de pontuao-z.

~ 66 ~

---- Dr. Georges Kaskantzis Neto ---As equao de distribuio que utilizam a mdia so aquelas aplicveis as variveis contnuas e as variveis discretas. As equaes de distribuio que adotam o valor da pontuao-z so aquelas da funo acumulada de probabilidade e da funo densidade de probabilidades. As supracitadas equaes da distribuio normal de probabilidades so as seguintes: As funo densidade de probabilidades que adota a mdia, a equao (38), 1 2
1 x 2 ( e 2 )

f(x) =

(38)

A funo da distribuio acumulada de probabilidades que adota a mdia e o desvio padro como parmetros de referncia, a equao (40), 1 2
1 x 2 ( e 2 ) dx x

F(x) =

(40)

A funo densidade de probabilidades que adota a varivel reduzida ou de pontuao-z, a equao (45) 1 2
z2 e 2

g(z) =

(45)

~ 67 ~

---- Dr. Georges Kaskantzis Neto ---A equao da distribuio acumulada norma, a qual adota a varivel reduzida para determinar o valor da probabilidade, cuja expresso est indica na equao (44).
z

G (z) =

1 2

z2 dz 2

(44)

RESOLUO DO EXERCCIO
1 Passo: Elaborao dos diagramas.

Primeiro deve-se identificar a natureza da varivel aleatria a ser investigada. No presente caso, a medida do dimetros da tubulao defeituosa uma contnua, porque existe um nmero finito, isto , que pode ser contado de tubos. a) Natureza da variveis: Contnua Tendo sido identificada a natureza da varivel aleatria, em seguida deve-se definir a funo da distribuio densidade de probabilidades que dever ser utilizada na soluo do problema. Com base na natureza da varivel aleatria, decidiu-se usar a funo densidade de probabilidade da varivel pontuao-z. A equao (45) 1 2
z2

g(z) =

e 2

(45)

~ 68 ~

---- Dr. Georges Kaskantzis Neto ---2 Passo: Elaborao dos diagramas da funo de distribuio escolhida A primeira tarefa do segundo passo da sistemtica adotada a elaborao dos grficos que encontram-se indicado na FIGURA 24. Neste diagrama, pode-se observar os aspectos, seguintes:

Probabilidade

FIGURA 24. MOSAICO DOS GRFICOS DAS DISTRIBUIES DOS VALORES DO DIMETRO DAS PEAS DEFEITUOSAS E DA ESTATSTICA PONTUAO Z

~ 69 ~

---- Dr. Georges Kaskantzis Neto ---O valor da estatstica pontuao-z que encontra indicado no segundo grfico da FIGURA 7 foi calculado com a equao 41.

z=

x 37 40 = = 1,5 2

O valor calculado de z foi 1,5. Na FIGURA 8, pode-se observar a localizao do valor da estatstica em relao ao valor da mdia dos dimetros das tubulaes que so fabricas na indstria. Antes de seguir para o prximo passo da sistema empregada neste trabalho, apresentam-se as consideraes a respeito do grficos apresentados nas figuras.

CONSIDERAES A RESPEITO DOS DIAGRAMAS


A mdia dos valores dos dimetros das peas com defeito se encontra posicionado no centro da distribuio ( = 40 mm); O valor do dimetro que se deseja avaliar 37mm, estando localizado no lado esquerdo da figura; Os valores dos dimetros, para os quais se quer calcular a probabilidade so iguais ou menores do que 37mm; A rea destacada com a cor azul e delimitada pela curva de distribuio o local onde se encontram os valores dos dimetros menores do que 37mm, portanto a rea que inclui estes pontos equivalente a chance de o dimetro das peas (tubos) fabricadas serem menores do que 37mm;

~ 70 ~

---- Dr. Georges Kaskantzis Neto --- A rea complementar, desde o ponto da coordenada x = 37, at o centro da curva, onde o valor de x 40 igual a metade da probabilidade total menos aquela da rea de cor azul, Isso significa que a diferena das reas corresponde ao valor da probabilidade dos tubos fabricados na indstria no apresentarem defeito, isto , valor do dimetro menor que 37mm; A rea delimita pela curva da distribuio representa a soma de todas as peas defeituosas; 3 Passo. Clculo da probabilidade No terceiro passo da sistema, determina-se o valor da probabilidade relativo ao item (a) do exerccio proposto. Partindo da definio de probabilidade, tm-se: P (X < 37,0mm) =? x 37 40 = = 1,5 2

z=

Para z = -1,5 --- rea delimitada pela curva = 0,4332 P (X < 37,0mm) = P (z < 1,5) = 0,5000 0,4332 = 0,0668 P = 0,0668 = 6,68% Assim, pode-se verificar que a probabilidade da peas fabricadas apresentarem o dimetro menor do que 37mm da ordem de 6,68%. Os demais itens do exerccio podem ser resolvidos adotando a mesma sistemtica descrita. Respostas: b) 2,28%; c) 31,74%

~ 71 ~

---- Dr. Georges Kaskantzis Neto ----

5.4. DISTRIBUIES DE PROBABILIDADES DAS AMOSTRAS


Com base no conhecimento adquirido dos contedos apresentados nas sees anteriores, nesta etapa do estudo apresentamse os resultados do ajuste e da anlise das distribuies de frequncias dos dados que constituem as suas amostras investigadas no encorbamento acontecido na Baa da Babitonga, em Santa Catarina. Na etapa de determinao das estatsticas bsicas descritas das amostras do acidente, isto , a mistura dos leos derivados dos petrleos e o conjuntos dos resultados dos testes de laboratrios das amostras do componentes ambientais afetados no acidente naval, elaboraram-se os histogramas das ocorrncias dos grupos dos compostos qumicos que formaram a mistura oleosa e das classes definas com base na natureza dos componentes ambientais da 2 amostra. Os resultados da etapa preliminar de avaliao do comportamentos das frequncias de ocorrncias dos valores de concentrao indicaram que as amostras no atendiam a funo distribuio normal de frequncias ou probabilidades, tendo sido aplicada aos elementos das amostras a funo logaritmo natural visando a correo do comportamento no ideal. Nesta etapa do estudo, as distribuies de frequncias foram determinado incluindo os efeitos das variveis que exercem influncia nos resultados, como, por exemplo, as frequncias.

~ 72 ~

---- Dr. Georges Kaskantzis Neto ---Visando aumentar a qualidade do ajustamento das amostras as curvas de distribuio de frequncias, incialmente, identificaramse os dados das amostras cujos valores das concentraes so anmalos em relao aos demais dados amostrais. No mbito da estatstica estes valores denominam-se como outlier. Alm da identificao e excluso dos outlier encontrados nas amostras, realizou-se a anlise da variabilidade dos valores das concentrao dos elementos das amostras empregando a Tcnica da Variabilidade Grfica Calibrada R&R (reprodutibilidade e repetitividade). Em razo da anlise o nmero de registros das amostras diminuiu, mas, a quantidade de dados utilizados, posteriormente foi suficiente para assegurar o nvel de significncia adotado no estudo. Visando a determinao da distribuio de frequncias mais adequada ao perfil de concentrao da mistura de leos derramados no dia dos fatos, os trinta e novo compostos qumicos presentes da composio da mistura oleosa foram agrupados em quatro grupos: BTEX; HEP; HPA; METAIS. Na FIGURA 25 pode-se observar a distribuio de frequncias dos quatro grupos de compostos qumicos que constituem a mistura.

~ 73 ~

---- Dr. Georges Kaskantzis Neto ----

FIGURA 25. DISTRIBUIO DAS CLASSES DOS COMPOSTOS QUMICOS QUE FORMARAM A MISTURA OLEOSA EM VIRTUDE DO ACIDENTE NAVAL. O histograma da frequncia de ocorrncias dos grupos dos compostos qumicos que formaram a mistura dos leos indica que o grupo HAP aquela que apresenta a maior frequncia, significando que ele o grupo que tem o maior nmero de compostos, denominados Hidrocarbonetos poliaromticos, em relao aos outros grupos. O BTEX inclui cinco compostos, o HEP apresenta dez compostos e os METAIS incluem oito representantes. importante citar a existncia de um erro sistemtico nesta abordagem, uma vez que, certos compostos dos grupos esto repetidos, isto , se encontram presentes em mais de um grupo de compostos qumicos. Assim, as probabilidades associadas a esta distribuio no podem ser conside-

~ 74 ~

---- Dr. Georges Kaskantzis Neto ---ras como adequadas, devendo utilizadas somente a ttulo de exemplo. Quanto a variabilidade das concentraes dos compostos, notadamente aqueles misturados em cada grupo, apresenta-se na FIGURA 26 as parcelas dos valores das concentraes dos grupos.

FIGURA26. VARIABILIDADE DA CONCENTRAO DOS GRUPOS DE COMPOSTOS QUMICOS DA MISTURA OLEOSA DERRAMA NO ACIDENTE.

Os dados da FIGURA 9 indicam que a parcela de contribuio do grupo dos compostos HPA na concentrao total da mistura a maior de todas, confirmando, deste modo, o resultado anterior, isto , a maior nmero de compostos do grupo HPA na mistura. Os dados indicam que a concentrao mdia da mistura oleosa era da ordem de 1,35 x 10-3 mg g-1. Os dados tambm indicam que variabilidade do desvio-padro pequena.

~ 75 ~

---- Dr. Georges Kaskantzis Neto ---Aps ter sido analisados os valores das concentraes dos componentes de cada grupo, realizou-se a concatenao dos grupos, tendo sido obtido o resultado seguinte

FIGURA 27. CONTRIBUIES DOS GRUPOS COMBINADOS DOS COMPOSTOS DA MISTURA OLEOSA DERRAMADA NO ACIDENTE NAVAL

O resultado apresentado na FIGURA 27 indicam que o efeito cruzado dos grupos de compostos no exerce grande influncia nos resultados, pois a ordem, isto , a contribuio das concentraes dos grupos concatenados manteve-se semelhante a anterior, tendo sido obtidos o resultado esperado.

~ 76 ~

---- Dr. Georges Kaskantzis Neto ---Conforme sabido, os componentes ambientais atingidos pelos leos derramados no acidente foram agrupados em classes. As classes de componentes definidas foram: mangue, marisma, ictiofauna; crustceos; ostras, mexilhes e mariscos; algas; vsceras. Na FIGURA 28, apresenta-se o histograma das frequncias de ocorrncia dos componentes atingidos pelo acidente naval. A distribuio de frequncias das classes de componentes ambientais se encontra ilustrada na FIGURA 29.

FIGURA 28. HISTOGRAMA DA DISTRIBUIO DE FREQUNCIAS DOS COMPONENTES AMBIENTAIS ALTERADOS PELA MISTURA DE LEOS FORMADA

~ 77 ~

---- Dr. Georges Kaskantzis Neto ----

FIGURA 29. DISTRIBUIO DAS CLASSES E COMPONENTES AMBIENTAIS. Observando os histogramas apresentados nas citadas figuras se pode verificar que as marismas e a ictiofauna so os componentes ambientais que apresentam o maior valor de frequncias, provavelmente devido a readequao dos valores das concentraes, isto a desconsideraes dos pontos considerados como anmalos. Nas FIGURAS 30 31, apresentam-se os grficos das variabilidades da primeira amostra investigada, isto , os componentes ambientais individuais e categorizados. Inspecionando a variabilidade da contaminao dos componentes ambientais constata-se que a classe ictiofauna era aquela que apresentava a maior variao das concentraes e as classes marisma, ostras, mariscos e mexilhes apresentavam a menor em relao a primeira.

~ 78 ~

---- Dr. Georges Kaskantzis Neto ----

FIGURA 30. VARIABILIDADE DAS CONCENTRAES DAS CLASSES DE COMPONENTES AMBIENTAIS ATINGIDOS NO ACIDENTE NAVAL.

FIGURA 31. VARIABILIDADE DOS VALORES DAS CONCENTRAES OBSERVADAS NOS TESTES DE LABORATRIO NAS AMOSTRAS DOS COMPONENTES AMBIENTAIS COLETADAS NA POCA DOS FATOS.

~ 79 ~

---- Dr. Georges Kaskantzis Neto ---A grande variabilidade registrada nas amostras coletadas na poca dos fatos dificulta a determinao da distribuio de probabilidades adequada aos valores das concentraes da amostra. Para verificar essa hiptese devem ser realizados os testes da hiptese empregado diferentes mtodos. Com este fim, a seguir, apresentam-se a teoria dos principais Testes de Hipteses.

6. TESTES DE HIPTESES
6.1. HIPTESES ESTATSTICAS
Basicamente, as hipteses so suposies que se faz, acerca dos parmetros estatsticos de uma populao, visando a tomada de deciso. Tais suposies so verificadas ou no, dependendo do resultado do teste estatstico realizado, como, por exemplo, aqueles de comparao dos valores absolutos ou das diferenas dos valores das mdias, das medianas ou das varincias de duas ou mais populaes.

6.2. HIPTESE NULA E ALTERNATIVA


A hiptese nula (Ho) qualquer hiptese a ser investigada. A hiptese alternativa (H1), por sua vez, qualquer hiptese diferente da hiptese nula.

~ 80 ~

---- Dr. Georges Kaskantzis Neto ---O teste da hiptese coloca a hiptese nula em contraposio a hiptese alternativa, podendo ser enunciado, para um determinado parmetro estatstico () como: a) Ho: = o em contraposio com H1: < o b) Ho: = o em contraposio com H1: > o c) Ho: = o em contraposio com H1: o

6.3. REGIES DE REJEIO DE HIPTESES


A regio de verificao ou de aceite (R.A) a regio na qual se verifica a hiptese nula. A regio de rejeio ou crtica a regio, na qual rejeita-se a hiptese nula, sendo complementar a primeira. Em geral, a regio de verificao ou rejeio da hiptese aquele regio associada a rea delimitada pela funo de distribuio de probabilidade adequada ao dados.

6.4. ERROS DO TIPO I E DO TIPO II


Na execuo de um teste estatstico podem acontecer dois erros: - o erro do tipo I; - o erro do tipo II. O erro tipo I aquele cometido quando rejeita-se a hiptese nula, sendo ela verdadeira. O erro tipo II aquele cometido quando se aceita a hiptese nula, sendo ela falsa.

~ 81 ~

---- Dr. Georges Kaskantzis Neto ----

6.5. NVEL DE SIGNIFICNCIA


O nvel de significncia estatstica igual a mxima probabilidade, com qual se estaria disposto a correr o risco de acontecer o erro tipo I. A representao formal dessa probabilidade a seguinte = P(rejeitar H0 H0 verdadeira) (46)

Na prtica, os valores do nvel de significncia adotados so 0,05 (5%) e 0,01(1%). A probabilidade de se cometer o erro tipo II definida como = P(aceitar H0 Ho falsa) (47)

6.6. TESTES UNILATERAL E BILATERAL


O teste unilateral aquele no qual a regio de rejeio, R.R., se encontra localizada em um dos extremos do intervalo de variao da varivel de interesse. O teste bilateral, por sua vez, aquele no qual a R.R., encontra-se localizada em ambos os extremos do intervalo de variao da varivel.

6.7. CURVA CARACTERSTICA DE OPERAO (C.C.O.)


A curva caracterstica de operao (C.C.O.) a representao grfica da funo de probabilidade . Na construo da curva, os valores dos parmetros a serem testados so colocados no eixo

~ 82 ~

---- Dr. Georges Kaskantzis Neto ---das abscissas (eixo x), e no eixo das ordenadas se encontram os valores da probabilidade de aceitar a hiptese nula, quando ela for falsa. Para cada teste estatstico de hiptese realizado existe uma C.C.O., que assume as condies necessrias e fundamentais de operao do teste. Embora, a curva no seja obrigatria, a sua construo til para a compreenso do teste a ser executado.

6.8.

SISTEMTICA DE EXECUO DO TESTE DE HIPTESE


A sistemtica recomendada para a realizao do teste de

hiptese contempla as etapas, a saber: 1. Enunciar a hiptese nula, Ho; 2. Enunciar a hiptese alternativa, H1; 3. Definir o nvel de significncia, alfa; 4. Definir a funo de distribuio de probabilidades; 5. Extrair a amostra aleatria e calcular a estatstica; 6. Concluso. Com base no valor da estatstica calculada, rejeitar a hiptese nula, Ho, se o valor calculado estiver situado na R.R., ou aceitar a Ho, caso o valor da estatstica calculado estiver localizado na R.A.

6.9. TESTE PARA A MDIA POPULACIONAL

Ho: = o H1: trs possibilidades

~ 83 ~

---- Dr. Georges Kaskantzis Neto ---a) < o b) > o c) o Definir o nvel de significncia () Determinar a regio de rejeio da hiptese (R.R.) Se o desvio padro for conhecido adota-se a pontuao z, se o desvio padro for desconhecido, adota-se a estatstica definida pela distribuio de t-Student. Regies de rejeio do primeiro e segundo caso

R.R. z ou -t

R.A (a)

R.R. z ou t

(b)

R.A

~ 84 ~

---- Dr. Georges Kaskantzis Neto ----

R.R. z/2 ou -t/2

R.R. z/2 ou t/2

R.A (c)

FIGURA 32. Regies de rejeio da hiptese nula do primeiro e segundo caso em funo da hiptese alternativa escolhida. Os grficos esto associados as hipteses alternativas a, b e c.

Calcular a estatstica do teste o 1 caso z= o 2 caso t= (49) x o n (48)

Concluso a) Se z < z ou t < t , rejeitar Ho b) Se z > z ou t > t , rejeitar Ho c) Se |z| > z/2 ou |t| > t /2 , rejeitar Ho

Exemplo Uma populao apresenta um desvio padro igual a 5mm. Se uma amostra de 50 elementos obtida dessa populao tem mdia igual a 46mm, testar a hiptese de que essa populao tem mdia maior do que 43mm, ao nvel de significncia de 1%.

~ 85 ~

---- Dr. Georges Kaskantzis Neto ---Soluo


(1) Ho: =43 mm (2) H1: >43 mm (3) Alfa = 0,01 (4) Regio de rejeio

R.A.

R.R. =0,01

Para obter o valor da estatstica z ou zcrtico, primeiro determina-se a rea correspondente a diferena da rea total sob a curva, cujo valor 1,0 e a aquela correspondente ao nvel de significncia adotado, ou seja, =0,01 =0,01 = 1,0 0,01 = 0,990 = 2,33 Com o resultado obtido, consultam-se as TABELAS 13 e 14, para obter o valor da estatstica desejada, a qual no presente caso igual a 2,33. Na FIGURA 19, apresenta-se a regio de rejeio.
(5) Clculo da estatstica

46 43 = 4,24 5 50

~ 86 ~

---- Dr. Georges Kaskantzis Neto ----

R.R. =0,01

z = 2,33

R.A

FIGURA 33. DETALHE DA REGIO DE REJEIO DA HIPTESE NULA (6) Concluso Como z (calculado) > z (alfa) = 2,33, rejeita-se a hiptese nula, ou seja, o resultado amostral suficiente para afirmar que a mdia superior a 43mm, no nvel de significncia adotado (=0,01). Na FIGURA 34, pode-

se observar a curva de distribuio normal do presente caso e a probabilidade de verificao da hiptese alternativa, cujo valor da ordem de 72,57%

FIGURA 34. DISTRIBUIO NORMAL DE PROBABILIDADE DO EXEMPLO APRESENTADO

~ 87 ~

---- Dr. Georges Kaskantzis Neto ---CLCULO DO ERRO TIPO II Neste item, apresenta-se o clculo do erro tipo II do presente caso para as seguintes hipteses alternativas: H1: =40mm; H1: =47mm. Conforme citado, o erro tipo II aquele cometido ao aceitar a hiptese nula, sendo ela falsa. A probabilidade mxima de correr o risco de se cometer o erro do tipo II definida como: = P(aceitar H0 Ho falsa) Para a primeira hiptese alternativa, tem-se: H1: 40mm e z = 2,33, ento, pode-se escrever 43 5 50

2,33 =

Isolando x, obtm-se = 44,6 Logo, a hiptese nula aceita quando, x 44,6mm, ento, a probabilidade do erro tipo II pode ser escrita como: = P(aceitar H0 Ho falsa) = P(x 44,6mm | = 40mm) 44,6 40 = 6,51 = P(z 6,52) = 1 5 50

z=

Para a segunda hiptese alternativa, tem-se:

~ 88 ~

---- Dr. Georges Kaskantzis Neto --- = P(aceitar H0 Ho falsa) = P(x 44,6mm | = 47mm) 44,6 47 = 3,39 = P(z 3,39) = 0,0003 5 50

z=

Assim, o risco de se cometer o erro tipo II quando se a hiptese nula em contraposio com a hiptese alternativa cujo valor 40mm igual a 100%, e a probabilidade de se cometer o erro tipo II ao aceitar a hiptese nula em contraposio a hiptese alternativa, cujo valor e 47mm igual a 0,03%.

6.10 TESTE PARA A DIFERENA DE MDIAS POPULACIONAIS

1 Caso. Se os desvios padres forem conhecidos 1) Ho: 1 - 2 = do 2) H1: trs possibilidades a. 1-2<do; b. 1-2>do; c. 1-2do. 3) Fixar o nvel de significncia 4) Determinar a regio de rejeio (R.R.), conforme a FIGURA 18 5) Calcular a estatstica do teste, definida como

~ 89 ~

---- Dr. Georges Kaskantzis Neto ---(x 1 x 2 ) do 2 1 n1 + n2 2 2

z=

(50)

6) Concluses a) Se z < z , rejeitar Ho b) Se z > z , rejeitar Ho c) Se |z| > z/2 , rejeitar Ho Exemplo Uma amostra de 100 vlvulas da companhia A tem durao mdia de 1530 horas, sendo o desvio padro dessa amostra igual a 100h. Uma outra amostra de 70 vlvulas da companhia B tem durao de 1420 horam, com desvio padro de 80h. Testar a hiptese de que as vlvulas da companhia A em reao a B tem durao mdia superior a 100H, com nvel de significncia de 1%. Soluo 1) Ho: 1 - 2 = 100 horas 2) H1: 1- 2 > 100 horas 3) Alfa =0,01 4) Regio de rejeio Para alfa = 0,01 e H1, tem-se rea sob a curva cujo z crtico se deseja determinar igual (ATotal 0,01) (rea correspondente a R.R.) = 0,99. Consultando a Tabela 13, obtm-se: z = 2,33.

~ 90 ~

---- Dr. Georges Kaskantzis Neto ----

R.A. R.R. =0,01

5) Clculo da estatstica

z=

(1530 1420) 100


2 2 100 + 80 100 70

= 0,72

6) Concluso Como z < z = 2,33, aceita-se Ho, ou seja, a diferena do tempo de durao das vlvulas das companhias A e B no maior do que 100h, para o nvel de significncia usado no teste.
2 Caso. Se os desvios padres forem desconhecidos 1) Ho: 1 - 2 = do 2) H1: trs possibilidades a. 1 - 2 < do; b. 1 - 2 > do; c. 1 - 2 do. 3) Fixar o nvel de significncia 4) Determinar a regio de rejeio (R.R.), conforme a FIGURA 18 5) Calcular a estatstica do teste, definida como

~ 91 ~

---- Dr. Georges Kaskantzis Neto ---(x 1 x 2 ) do 2(1 + 1) 1 2

t=

(51)

Onde: sp2 a varincia definida como:


2 2 (n1 1)s1 + (n2 1)s2 = n1 + n2 2

2 sp

(52)

2 s1 =

(xi x 1 )2 n1 1

(53)

6) Concluses a) Se t < t , rejeitar Ho b) Se t > t , rejeitar Ho c) Se |t| > t /2 , rejeitar Ho

Exemplo
O pH de duas solues de contaminantes foi medido, tendo sido obtidos os valores, a saber:
TABELA 14. MEDIDAS EXPERIMENTAIS DO pH das solues Valor pH P1 P2 P3 P4 P5 P6 Soluo A 7,50 7,54 7,51 7,53 7,50 Soluo B ---

7,49 7,50 7,51 7,52 7,50 7,51

Testar a hiptese de que no existe diferena entre os valores do pH medidos das duas solues, adotando que os desvios padres populacionais so iguais, ao nvel de 5% de significncia. Soluo do exerccio

~ 92 ~

---- Dr. Georges Kaskantzis Neto ---1) Ho: A = B ou A - B = 0 2) H1: A B ou A - B 0 3) Alfa = 0,05 4) Determinao da regio de rejeio de Ho

R.A. R.R. /2 = 0,025 R.R. /2 = 0,025

Para alfa = 0,025, = n1 + n2 2 graus de liberdade, isto , = 5 + 6 2 = 9 graus de liberdade, obtm-se t = 2,26. 5) Clculo da estatstica 37,58 = 7,516 5 45,03 = 7,505 6 0,00055 = 0,0001 61

x A =

x B =

2 sA =

0,00132 = 0,0003 51

2 =

2 sp =

(5 1)0,0003 + (6 1)0,0001 = 0,0002 5+62 (7,516 7,505) 0 0,0002 (1 + 1) 5 6

t=

= 1,28

6) Concluso

~ 93 ~

---- Dr. Georges Kaskantzis Neto ---Como |t| < t/2 = 2,26, aceita-se a hiptese nula Ho, ou seja, no existe diferena significativa, ao nvel de 5% de significncia, entre os valores do pH das soluo de contaminantes analisadas. 3 Caso. Os desvios padres populacionais so desconhecidos e supostamente diferentes. 1) Ho: 1 - 2 = do 2) H1: trs possibilidades a. 1 - 2 < do; b. 1 - 2 > do; c. 1 - 2 do. 3) Fixar o nvel de significncia 4) Determinar a regio de rejeio (R.R.), conforme a FIGURA 18 5) Calcular a estatstica do teste, definida como (x 1 x 2 ) do s2 1 n1 + n2
2 s2

t=

(54)

6) Concluso a) Se t < t , rejeitar Ho b) Se t > t , rejeitar Ho c) Se |t| > t /2 , rejeitar Ho 4 Caso. Se os dados so emparelhados

~ 94 ~

---- Dr. Georges Kaskantzis Neto ---Este teste dever ser empregado quando os dados esto relacionados, dois a dois, de acordo com algum critrio definido. 1) Ho: 1 - 2 = do 2) H1: trs possibilidades a) 1 - 2 < do; b) 1 - 2 > do; c) 1 - 2 do. 3) Fixar o nvel de significncia alfa 4) Determinar a regio de rejeio, com = n -1 5) Calcular a estatstica t= do d s n
2

(55)

( ) = 1 di n

(56)

= d

(57) (58)

di = x1,i x2,i 6) Concluses a) Se t < t , rejeitar Ho b) Se t > t , rejeitar Ho c) Se |t| > t /2 , rejeitar Ho Exemplo

~ 95 ~

---- Dr. Georges Kaskantzis Neto ---Dois tcnicos do rgo de controle e fiscalizao ambiental determinaram os pesos de contaminantes encontradas em amostras de frutas estocadas em 6 containers, tendo obtido os dados indicados na TABELA 15
TABELA 15. RESULTADO DA PESAGEM DE CONTAMINANTES IDENTIFICADOS NAS FRUTAS IMPORTADAS PELOS AGENTES DE FISCALIZAO DO IBAMA.

Amostra (g) Tcnico A Tcnico B

P1 10,1 9,8

P2 10,4 10,0

P3 10,2 10,1

P4 10,5 10,0

P5 9,9 10,1

P6 10,0 9,5

Determinar se existe diferena entre as pesagens realizadas pelos tcnicos, ao nvel de significncia de 1%. As diferenas entre as pesagens encontram-se indicadas na TABELA 16. TABELA 16. DIFERENAS DAS PESAGENS EXECUTADAS POR TCNICOS
Amostra (g) Diferena (g) D1 D2 D3 D4 D5 D6

0,3 0,4 0,1 0,5 - 0,2 0,5

= d

1,6 = 0,270 g 6

0,3734 s= = 0,273 g 61 1) Ho: A - B = 0 ou A = B 2) H1: 1 - 2 0 ou A B 3) Alfa = 0,01 4) Determinao da R.R.

~ 96 ~

---- Dr. Georges Kaskantzis Neto ----

R.R. /2 = 0,005

R.A.

R.R. /2 = 0,005

Para /2 = 0,005 e =n-1= 5; consultando a TABELA da distribuio t-Student, obtm-se t/2 = 4,03.

5) Clculo da estatstica do teste t= 6) Concluso Como |t|< t/2 = 4,03, aceita-se a hiptese nula, isto , no existe diferena entre as pesagens de contaminantes realizadas pelos tcnicos do IBAMA. 0 0,27 = 2,42 0,273 6

6.11. TESTES PARA A VARINCIA POPULACIONAL

Conforme sabido, o teste para a varincia populacional uma generalizao do teste das mdia, no qual se empregam os valores das varincia para a tomada de deciso.

~ 97 ~

---- Dr. Georges Kaskantzis Neto ---Nos testes de hipteses cujas estatsticas adotadas so as varincias, em geral, adotam-se as distribuies de probabilidades de Qui-quadrado e de Snedecor (distribuio F). 1. TESTE PARA A VARINCIA POPULACIONAL O roteiro empregado neste teste de hiptese igual aquele descrito para a mdia populacional. (1) Ho: 2 = o 2 (2) H1: trs casos possveis a. 2 = o2 b. 2 > o2 c. 2 < o2 (3) Fixar o nvel de significncia (alfa) (4) Determinar a regio de rejeio

(a)

~ 98 ~

---- Dr. Georges Kaskantzis Neto ----

(b)

(c)

(5) Calcular a estatstica do teste 2 = (6) Concluses


2 a) Se 2 < 1 , rejeitar Ho 2 a) Se 2 > , rejeitar Ho 2 2 b) Se 2 < 1/2 , ou 2 > /2 , rejeitar Ho

(n 1)s 2 2 o

(59)

~ 99 ~

---- Dr. Georges Kaskantzis Neto ----

6.12. TESTE PARA A IGUALDADE DE DUAS VARINCIAS


(1) Ho: 12 = 2 2 (2) H1: trs casos possveis a. 12 = 22 b. 12 > 22 c. 12 22 (3) Fixar o nvel de significncia (alfa) (4) Obter a regio de rejeio para =n-1 graus de liberdade

~ 100 ~

---- Dr. Georges Kaskantzis Neto ----

(5) Calcular a estatstica do teste F= (6) Concluses a) Se F < F1 , rejeitar Ho b) Se F > F , rejeitar Ho c) Se F < F1/2 , ou F > F/2 , rejeitar Ho
2 s1 2 s2

(60)

6.13. TESTE PARA IGUALDADE DE K (k>2) VARINCIAS

Quando se deseja analisar a varincias de mais de duas amostras, pode-se empregar o teste a ser descrito. Se as amostras apresentam tamanhos diferentes, adota-se o teste de Bartlett.
2 2 2 (1) Ho: 1 = 2 = =

(2) H1: no mnimo uma das varincias diferentes das demais (3) Fixar o nvel de significncia (alfa) (4) Determinar R.R

~ 101 ~

---- Dr. Georges Kaskantzis Neto ---A estatstica adequada segue uma distribuio do tipo Quiquadrado com v=k-1 graus de liberdade.

(5) Calcular a estatstica do teste


2 k 2,3026 i=1 i si 2 = [(n k) log i logsik ] C nk i=1 k

(61)

Onde: n = k i=1 ni , i = ni 1, (6) Concluses


2 Se 2 > , rejeitar Ho

= k 1, C = 1 + 3(k1) (k i=1 nk)


i

Para amostras de mesmo tamanho n, a hiptese de igualdade das varincias pode ser investigada utilizando o teste de Cochran, cuja estatstica definida como max si2 si2

g=

(62)

~ 102 ~

---- Dr. Georges Kaskantzis Neto ----

6.14. TESTE PARA A PROPORO POPULACIONAL


O teste da proporo populacional p um teste de grande interesse e aplicabilidade na investigao de eventos naturais ou intencionais associados as questes do meio ambiente. Em geral, o comportamento de compostos qumicos envolvidos em questes ambientais, como, por exemplo, o nvel de contaminao, modifica no espao e com o tempo, aumentando a complexidade da representao dos fenmenos dessa natureza. Neste sentido, a utilizao das propores ou razes das variveis estatsticas til para o entendimento de fenmenos a serem analisados. Conforme citado, os valores da concentrao se mantm, praticamente proporcionais, medida que a diluio da contaminao acontece, podendo ser comparados aos teores iniciais. O teste da proporo populacional realizado executando os seguintes procedimentos: (1) Ho: p = po (2) H1: pode ser de trs tipos a) p < po; b) p > po; c) p po. (3) Fixar o nvel de significncia alfa (4) Determinar R.R.

~ 103 ~

---- Dr. Georges Kaskantzis Neto ---(5) Calcular a estatstica do teste z= P po ( ) po 1 po n (63)

(6) Concluses a. Se z < - z rejeitar Ho b. Se z > z rejeitar Ho c. Se |z| > z/2 rejeitar Ho

EXEMPLO
Visando a determinao da eficincia de um novo produto comercial desenvolvido para minimizar a corroso foram ensaiados 90 peas, sendo que 45 do total de 50 peas apresentaram um bom resultado. O produto considerado eficiente se pelo menos 95% das peas ensaiadas apresentarem resultado satisfatrio. Qual a concluso, ao nvel de significncia de 5%. SOLUO (1) Ho: p = 0,95 (eficiente) (2) H1: p < 0,95 (ineficiente) (3) Alfa = 0,05 (4) Determinao da regio crtica ou de rejeio Para alfa = 0,05, adotando a distribuio Z, obtm-se o z/2, cujo valor tabelado -1,64

~ 104 ~

---- Dr. Georges Kaskantzis Neto ----

(5) Clculo da estatstica do teste P= 45 = 0,9 50 = 1,62

0,90 0,95 0,95(1 0,95) 50

(6) Concluso Como z > - z = -1,64, aceita-se Ho, ou seja, o produto anticorrosivo eficiente no nvel de significncia de 5%.

6.15. TESTE PARA A DIFERENA ENTRE DUAS PROPORES


(1) Ho: p1 p2 = do (2) H1: pode ser de trs tipos a) p1 - p2 < do b) p1 p2 > do

~ 105 ~

---- Dr. Georges Kaskantzis Neto ---c) p1 p2 do (3) Fixar o nvel de significncia alfa (4) Determinar R.R. (5) Calcular a estatstica do teste Para do = 0 z= (P1 P2 ) 1 1 p (1 p ) (n + n ) 1 2 (64)

Para do 0 z= (P1 P2 ) do p (1 p 1) p 2 (1 p 2) 1 + ( ) n1 n2 (65)

p 1 = P1 p 2 = P2

(66)

p =

n1 P1 + n2 P2 n1 + n2

(67)

(6) Concluses a) Se z < -z, rejeitar Ho; b) Se z > z, rejeitar Ho; c) Se |z| > z/2, rejeitar Ho.

EXEMPLO
Uma indstria de automveis anunciou que os veculos do modelo A superaram em venda os do modelo B. Obtidas duas a-

~ 106 ~

---- Dr. Georges Kaskantzis Neto ---mostras aleatrias independentes, encontrou-se que 56 de 200 consumidores preferem o modelo A e 29 de 150 preferem o modelo B. Testar a hiptese ao nvel de significncia de 6% de que o modelo A supera o modelo B em 10% contra a alternativa de que esta diferena menor que 10%. (1) Ho: pA - pB = 0,10 (2) H1: pA - pB < 0,10 (3) Alfa = 0,06 (4) Determinar R.R.

Para alfa = 0,06, consultando a distribuio z, obtm-se o valor de -z = -1,55 (5) Clculo da estatstica do teste 56 = 0,280 200 29 = 0,193 150

p A = PA =

p B = PB =

~ 107 ~

---- Dr. Georges Kaskantzis Neto ---(0,280 0,193) 0,10 0,28 0,72 + 0,807 0,193 200 150

z=

= 0,29

(6) Concluso Como z > -z = -1,55, aceita-se a Ho, ou seja, o modelo A supera em vendas o modelo B em pelo menos 10%.

7. ANLISE DA VARINCIA
A tcnica da anlise da varincia, tambm chamada como ANOVA, como sabido, consiste de uma generalizao do teste para a igualdade de duas mdias populacionais. Enquanto no teste da igualdade de duas mdias adotam-se as estatsticas z ou t, conforme os desvios padro so conhecidos ou no, na anlise da varincia, investigam-se k (k>2) mdias populacionais com base na estatstica F, significando que a ANOVA um teste para igualdade das mdias que utiliza as varincias.

7.1. VARINCIA TOTAL


Consiste em estimar a varincia 2, considerando todas as amostras reunidas em uma nica amostra. Essa suposio factvel em razo da hiptese inicial adota, isto , de que todas as varincias populacionais so iguais a 2. Assim, a varincia total definida como:

~ 108 ~

---- Dr. Georges Kaskantzis Neto ---n 2 k j=1 i=1(xi,j X)

2 st

N1

(68)

7.2. VARINCIA ENTRE AMOSTRAS


Sendo verdadeira a hiptese Ho, pode-se estimar a varincia 2, atravs das mdias das k amostras, ou seja, como se fosse uma nica amostra de k valores, definida como: 2 n

2 X =

(69)

2 Associando a estatstica a estimativa de, ento, a estima-

tiva se2 de 2 ser


2 n k j X) j=1 i=1(x

2 se

= n

2 sX

k1

(70)

O denominador da equao denomina-se soma de quadrados entre amostras (SQE).

7.3. VARINCIA RESIDUAL


Consiste em estimar a varincia dentro de cada amostra, e, posteriormente, estimar o valor nico para 2, atravs da combinao da k varincias. Para uma amostra qualquer, tm-se: n j) i=1(xi,j x n1
2

sj2

(71)

Combinando as k varincias, obtm-se como estimativa de 2, a estatstica em questo, definida como:

~ 109 ~

---- Dr. Georges Kaskantzis Neto ---2 k j=1 sj n k j) j=1 i=1(xi,j x = Nk 2

2 sr

(72)

7.4. ROTEIRO DO TESTE


(1) Ho: 1 = 2 = ... = k = (2) H1: pelo menos uma das mdias j diferente das demais (3) Fixar o nvel de significncia (4) Determinar a R.R para 1 = k 1 e 2 = N k (5) Calcular a estatstica do teste - Soma de quadrados
j (k (i=1 xi,j ) j=1 xi,j ) SQE = (x j X) = [ ] nj N

(73)

j=1 i=1

j=1

j (i=1 xi,j ) 2 SQR = (xi,j x j ) = xi,j [ ] nj

(74)

j=1 i=1

j=1 i=1

j=1

n 2

) = SQT = (xi,j X
j=1 i=1

2 xi,j j=1 i=1

n (k j=1 i=1 xi,j ) N

(75)

SQT = SQE + SQR

(76)

7.5. QUADRO ANOVA


Fonte de Variao Entre amostras Residual Total Soma de quadrados SQE SQR SQT Graus de liberdade K-1 Nk N-1 Quadrado Mdio (s2) Se2 = QME = SQE/(k-1) Sr2 = QMR = SQR/ (N-k) Estatstica F 2 F = Se / Sr 2 = QME / QMR

~ 110 ~

---- Dr. Georges Kaskantzis Neto ---(6) Concluso Se F > F k-1, N-k, rejeita-se a Ho, caso contrrio aceita-se a Ho.

EXEMPLO
A anlise de um componente contaminado foi realizada por quatro fiscais. Os advogados das partes da lide alegaram que existe uma diferena significativa entre os resultados obtidos pelos fiscais. Verificar se a diferena das amostragens realizadas pelos fiscais significativa ao nvel de 5%. Os resultados das anlises encontram-se indicados, a seguir
QUADRO. RESULTADOS DAS AMOSTRAGENS REALIZADAS PELOS FISCAIS Fiscal 1 2 3 4 Amostra1 Amostra2 Amostra3 Amostra4 Amostra5 8,1 8,4 8,8 8,3 8,3 8,4 8,7 8,4 8,0 8,5 8,9 8,2 8,1 8,3 --8,3 8,5 ----8,4

SOLUO (1) Ho: 1 = 2 = 3 = 4 = (2) H1: pelo menos uma das mdias diferente das demais (3) Fixar o nvel de significncia: alfa = 0,05 (4) Determinar a R.R para 1 = 4 1=3 e 2 = 18 4 = 14

~ 111 ~

---- Dr. Georges Kaskantzis Neto ----

(5) Clculo da estatstica do teste SQE = 1264,10 1263,37 = 0,73 SQR = 1264,34 1264,10 = 0,24 SQT = 1264,34 1263,37 = 0,97 QUADRO ANOVA
Fonte de Variao Entre amostras Residual Total Soma de Graus de Quadrado Quadrados Liberdade Mdio (s2) 0,73 0,24 0,97 41=3 18 4 = 14 18 1 = 17 0,243 0,017 Estatstica F 0,243/0,017 = 14,29

(6) Concluso Como F > F 3, 14 = 3,34, rejeita-se a Ho, isto , existe pelo menos uma amostragem cujo resultado significativamente diferente dos demais.

~ 112 ~

---- Dr. Georges Kaskantzis Neto ----

8. TESTES DE HIPTESES PARA AS AMOSTRAS


Adotando factvel aplicao dos testes de hipteses as amostras do acidente investigado, apresentam-se nesta seo os resultados obtidos na citada atividades. Incialmente, realizaram os testa para a mdias dos grupos de componentes que se encontram presentes na mistura dos leos que derramaram no emborcamento e os grupos de compostos determinados com testes de laboratrios nas amostras dos componentes ambientais alterados pelo acidente naval.

8.1. TESTES PARA AS MDIAS


Os valores das mdias dos logaritmos das concentraes dos grupos BTEX, HEP, HPA e Metais e, os seus respectivos desvios padres e graus de liberdade se encontram apresentados na TABELA TABELA 17. VALORES DAS ESTATSTICAS DOS BTEX, HEP, HPA, METAIS. ESTATSTICA BTEX HEP HPA METAIS Mdia Desvio padro Graus de liberdade -8,36 - 5,44 -9,24 0,64 47 1,56 63 1,28 43 -7,70 1,59 62

(1) Ho: = o (2) H1: > o (3) Nvel de significncia: 0,05 (5%) (4) Regio de rejeio

~ 113 ~

---- Dr. Georges Kaskantzis Neto ---Para o nvel de significncia de 0,05 e 47 graus de liberdade consultando a tabela da distribuio de t-Student, obtm-se os valores: tlfa = -1,67

(5) Clculo da estatstica

t=

x o 8,36 0 8,36 = = = 90,78 0,638 9,21 102 n 48

(6) Concluses Como t < talfa = -1,67, rejeita-se a hiptese nula, ou seja, a concentrao dos compostos do grupo BTEX observadas nas amostras do componentes ambientais maior do que zero com 95% de confiana. Para os demais grupos de compostos que constituam a mistura oleosa, o valor da estatstica t praticamente o mesmo. Os valores calculados da estatstica t dos demais grupos so os seguintes:

~ 114 ~

---- Dr. Georges Kaskantzis Neto ---x o 5,44 = 1,556 = 27,97 n 64

t=

Para os compostos do grupo HPA, tem-se: x o 9,23 = = 48,95 1,279 n 46

t=

Para os compostos do grupo metais, tem-se: x o 7,70 = 1,589 = 38,46 n 63

t=

Como, todos os valores calculados de t < talfa rejeita-se Ho, significando que as concentraes dos compostos derramados no emborcamento nas amostras analisadas eram maiores do que zero.

8.2

TESTES PARA A DIFERENA ENTRE AS MDIAIS


Neste teste, adotou-se a hiptese nula de que as diferenas

entre os valores dos logaritmos das concentraes dos compostos qumicos da mistura oleosa e aqueles observados nas amostras dos componentes ambientais so iguais a zero, ou seja, no existe diferena significativa entre as concentraes. Para o grupo dos compostos BTEX, obtiveram os resultados, a saber. O valor da mdia dos compostos BTEX observados nas amostras foi definido como x1 e o outro, como x2.

~ 115 ~

---- Dr. Georges Kaskantzis Neto --- Componente x1 o Mdia x1 = - 8,3645 o Varincia s21 = 0,4073 o N1 = 48 Componente x2 o Mdia x2 = -7,4527 o Varincia s22 = 0,4217 o N2 = 4 TESTE DA HIPTESE (1) (2) (3) (4) Ho: x1- x2 = do ou x1 = x2 H1: x1 x2 do ou x1 x2 Alfa = 0,05 Determinao da R.R.

Para o teste bilateral, adotando o nvel de significncia da ordem de /2 = 0,025, e =48+4-2 = 50 graus de liberdade, obtm-se o valor de t/2 = -1,96. (5) Clculo da estatstica (48 1) 0,4073 + (4 1) 0,4217 = 0,4000 48 + 4 2 t= (8,36 + 7,45) 0 0,4 ( 1 + 1) 48 4 = 2,76

2 =

(6) Concluses

~ 116 ~

---- Dr. Georges Kaskantzis Neto ---Como |t|> t/2 = -1,96, rejeita-se a hiptese nula, ou seja, existe diferena significativa, ao nvel de 5% entre os valores das concentraes investigadas. Os resultados dos testes das diferenas entre os valores das mdias do logaritmos das concentraes dos compostos presentes na mistura oleosa e observados nas amostras dos componentes ambiental pode ser avaliados na TABELA 18. TABELA 18. RESULTADOS DOS TESTES DA DIFERENA DAS MDIAS Estatstica HEP HPA METAIS X1 -5,44 -9,24 -7,01 2 S1 1,56 1,64 2,53 N1 64 46 63 X2 -5,03 -8,59 -8,73 2 S2 0,03 0,99 3,63 N2 4 13 8 Valor t-crtico 2,01 2,06 2,29 Valor t cal. 1,92 1,95 1,47 Sig. (Valor-p) 0,061 0,063 0,1786 Resultado Aceitar Ho Aceitar Ho Aceitar Ho Os resultados dos testes das diferenas entre as mdias dos valores do logaritmo das concentraes dos compostos constituintes da mistura oleosa e identificados nas amostragem indicam que os HEP, HPA e Metais verificam o teste, significando que a contaminao dos ecossistemas da Babitonga foi oriunda do acidente.

~ 117 ~

You might also like