» Detecção de Tendências em Séries de Extremos Hidrológicos Considerando Efeitos de Autocorrelação Temporal e Multiplicidade de TestesRenato Souza Amorim

Resumo

Os efeitos da alteração na frequência e intensidade de eventos hidrológicos extremos (cheias
e secas) têm motivado a realização de estudos de detecção de tendências para subsidiar o
processo de gestão dos recursos hídricos. Diversos fatores influenciam a capacidade de
detecção de tendências verdadeiras, tais como a presença de autocorrelação temporal, a
questão da multiplicidade de testes em análises regionais, e o fato de que o poder do teste
empregado na análise e o grau de tendenciosidade na estimativa da magnitude da tendência
dependem de características da série histórica (tamanho, graus de variabilidade e assimetria,
distribuição geradora, e magnitude real de tendência). A falta de conhecimento sobre como
tais fatores afetam a análise de detecção resulta em equívocos na identificação de
estacionariedade. Este trabalho é dividido em três partes. Na primeira parte, procura-se
avaliar, com base em estudos de Simulação Monte Carlo, como o tamanho da série histórica
(n), magnitude da tendência (b), o coeficiente de variação (Cv) e o coeficiente de assimetria
da série histórica, este último função do parâmetro de forma (k) da distribuição Generalizada
de Valores Extremos (GEV), influenciam, numa análise local, o poder do teste Mann-
Kendall (MK), a probabilidade de se obter uma estimativa da magnitude da tendência com
sinal oposto ao real (erro tipo S) empregando o estimador sugerido por Sen (1968) e o grau
de tendenciosidade dessa estimativa (erro tipo M). A segunda parte, também baseada em
Simulação Monte Carlo, foca na questão da análise regional de tendência, procurando avaliar
o desempenho de metodologias baseadas no conceito do False Discovery Rate (FDR),
sugeridas na literatura (Benjamini e Hockberg, 1995, 200) para amenizar o problema da
multiplicidade de testes de hipóteses, que tendem a resultar em número exagerado de
resultados falso positivos. A terceira parte do trabalho ilustra o uso de tais metodologias num
estudo de detecção de tendências monotônicas em extremos de variáveis
hidrometeorológicas na bacia do Rio São Francisco. Os resultados da primeira parte
permitiram mapear o poder do teste MK para diferentes combinações de n, Cv, κ e b para
séries de extremos do tipo GEV, possibilitando um melhor entendimento da probabilidade
de se identificar uma estação com tendência quando de fato a tendência está presente. Por
exemplo, uma série com 30 anos, Cv = 1, k = -0,3 e tendência relativa anual de 2%, a
probabilidade do teste MK identificar essa tendência é de apenas 0,45. Se essa mesma série
tivesse um comprimento de 50 anos, a probabilidade de detecção aumentaria para 0,90. Esses
mesmos resultados sugerem que a probabilidade de se estimar uma tendência com o sinal
vi
oposto ao real, quando a estação é declarada significativa, depende do poder do teste e pode
assumir valores superiores a 5%, podendo chegar a até mesmo 40% para poder do teste
inferior a 10%. Verificou-se também que existe uma tendência de superestimação da
magnitude das tendências, e que o valor estimado, em média, pode ser 1,5 vezes maior que
o valor real quando o poder do teste é igual a 0,40, podendo ainda ser até 5 vezes maior do
que o valor real, em média, quando o poder do teste é igual a 0,05. Em relação à análise
regional, os resultados mostram que o teste MK aplicado de forma independente em cada
estação resulta em um número elevado de falsos positivos, muito além do que seria razoável.
Por exemplo, numa série com n = 40 anos, relação b/Cv = 0,02, e k = -0,3, a proporção de
falsos negativos chega a 39%, enquanto que os métodos baseados no FDR resultam em
proporções menores do que 4%. Essa diferença possui um custo, já que o MK empregado
de forma independente consegue identificar corretamente 92% das estações com tendência,
enquanto os métodos baseados no FDR atingem um pouco mais de 50%. Na análise da bacia
do Rio São Francisco, verificou-se um elevado número de estações com tendências
decrescentes nas séries de vazões mínimas, com uma proporção de aproximadamente 50%.
Na maioria dessas estações, a magnitude da tendência ultrapassa a taxa de 10% por década.
Esses resultados foram obtidos com o emprego da técnica de Trend-Free Pre-Whitening
(TFPW) para lidar com a autocorrelação temporal e com o uso dos métodos baseados no
conceito de FDR para manter a proporção de falsos positivos menor do que 5%.

Abstract

The effects of a change in the frequency and intensity of hydrologic events (floods and
droughts) have motivated trend detection studies to support water resources management
planning. Several factors influence the ability to detect true trends, such as the presence of
temporal autocorrelation, the question of multiplicity of tests in regional analyses, and the
fact that the utility of the test used in the analysis and the degree of bias in the estimation of
the magnitude of the trend depend on characteristics of the historical series (size, degrees of
variability and asymmetry, chosen distribution, and actual magnitude of the trend). The lack
of knowledge about how these factors affect the detection analysis leads to errors in the
identification of stationarity. This work is divided into three parts. In the first part, an
evaluation of trends is completed based on Monte Carlo simulation studies, which vary the
size of the historical series (n); the magnitude of the trend (b); the coefficient of variance
(Cv) and the coefficient of asymmetry of the historical series; the form of the function (k) of
the distribution of Generalized Extreme Values (GEV); local influence of the power of the
Mann-Kendall (MK) test; the probability of obtaining an estimate of the magnitude of the
trend with an opposite sign of the actual (error type S) employing the estimator suggested
by Sen (1968); and the degree of bias of this estimate (type M error). The second part of
this work is also based on Monte Carlo simulations, which focus on the issue of regional
trend analysis, seeking to analyze the performance of methodologies based on the concept
of False Discovery Rate (FDR), suggested in the literature (Benjamini and Hockberg, 1995,
200) to mitigate the problem of multiplicity of hypothesis tests, which tend to result in higher
numbers of false positives. The third part of the work illustrates the use of these
methodologies in a case study to detect monotonic tendencies in extreme hydrometeorological
variables in the São Francisco River basin. The results of the first part
allowed mapping of the power of the MK test to different combinations of n, Cv, κ and b for
extreme series of GEV, enabling a better understanding of the likelihood of identifying a
season with a tendency when a true trend it is present. For example, a series with 30 years,
Cv = 1, k = -0.3 and an annual relative trend of 2%, the likelihood of the MK test identifying
this trend is only 0.45. If this same series had a length of 50 years, the likelihood of detection
would increase to 0.90. These same results suggest that the likelihood of estimating a trend
with the opposite sign of the true trend (when the station is determined to be significant)
depends on the power of the test and can assume values greater than 5%, and can reach 40%
viii
for test powers less than 10%. It was also verified that there is a tendency of overestimation
of the magnitude of the trends, and that the estimate value (on average) can be 1.5 times
greater than the actual value when the test power is equal to 0.40, and can still be up to 5
times great than the actual value (on average) when the power of the test is equal to 0.05. In
relation to the regional analysis, the results show that the MK test applied independently at
each station results in a high number of false positives, far beyond what would be reasonable.
For example, in a series with n = 40 years, ratio of b/Cv = 0.02, and k = -0.3, the proportion
of false negatives reaches 39%, while FDR-based methods result in proportions less than
4%. This difference has a cost, since MK employed independently manages to correctly
identify 92% of the seasonal trends, while the FDR-based methods reach a litter over 50%.
In the analysis of the São Francisco River basin, a large number of stations with declining
trends in the minimum flow series were verified, with a ratio of approximately 50%. In most
of these stations, the magnitude of the trend exceeds the rate of 10% per decade. These
results were obtained with the use of the Trend-Free Pre-Whitening (TFPR) technique to
deal with temporal autocorrelation and using methods based on the concept of FDR to
maintain the proportion of false positives to less than 5%.

Banca

ORIENTADOR:
Dirceu Silveira Reis Junior

Examinadores Externos:
Wilson dos Santos Fernandes

Examinadores Internos:
Carlos Henrique Ribeiro Lima

TRABALHO COMPLETO

--> Arquivo para Download


Palavras-Chave:

  • Informações

    Anexo SG-12, Térreo Campus Universitário Darcy Ribeiro Universidade de Brasília - UNB CEP : 70.910-900 Brasília - DF
    De Segunda a Sexta-feira Manhã: 08h30 - 11h30 Tarde: 14h30 - 17h30
    Telefone: (61) 3107-0940 (61) 3347-4743

  • Entre em contato



  • © 2013 PTARH. Todos os direitos reservados ao Programa de Pós Graduação em Tecnologia Ambiental e Recursos Hídricos