ESTIMAÇÃO DO TAMANHO AMOSTRAL NA GEOESTATÍSTICA USANDO UM MODELO DE VARIOGRAMA GAUSSIANO NA PRESENÇA DE OUTLIERS

Resumo

ESTIMAÇÃO DO TAMANHO AMOSTRAL NA GEOESTATÍSTICA USANDO UM MODELO DE VARIOGRAMA GAUSSIANO NA PRESENÇA DE OUTLIERS

ANDRÉ MENDES¹, GERSON RODRIGUES DOS SANTOS², PAULO CÉSAR EMILIANO³, AMY LEIGH KALEITA⁴, MATHEUS DE PAULA FERREIRA⁵

¹ Departamento de Estatística, Universidade Federal de Viçosa-UFV, Av. Peter Henry Rolfs, s/n, Campus Universitário, cep: 36570-900, Viçosa-MG, Brasil, e-mail: amendesmat@yahoo.com.br

² Departamento de Estatística, Universidade Federal de Viçosa-UFV, Av. Peter Henry Rolfs, s/n, Campus Universitário, cep: 36570-900, Viçosa-MG, Brasil, e-mail: gerson.santos@ufv.br

³ Departamento de Estatística, Universidade Federal de Viçosa-UFV, Av. Peter Henry Rolfs, s/n, Campus Universitário, cep: 36570-900, Viçosa-MG, Brasil, e-mail: paulo.emiliano@ufv.br

⁴ Department of Agricultural and Biosystems Engineering, Iowa State University, 605 Bissel Road, Ames, IA 50011-3270, Estados Unidos, e-mail: kaleita@iastate.edu

⁵ Departamento de Estatística, Universidade Federal de Viçosa-UFV, Av. Peter Henry Rolfs, s/n, Campus Universitário, cep: 36570-900, Viçosa-MG, Brasil, e-mail: matheus.paula@ufv.br

RESUMO: A determinação de um tamanho de amostragem que seja adequado para a reconstrução da população, na análise de dados espaciais, é algo que tem sido estudado em vários trabalhos. Independentemente da área de estudo, qualquer variável pode conter outlier. Conforme sugerido por alguns pesquisadores, no intuito de eliminar tais dados discrepantes, metodologias vêm sendo criadas para atender às demandas das diversas áreas do conhecimento científico. O objetivo deste trabalho é utilizar o teorema da taxa de Nyquist para determinar um tamanho ideal para amostras georreferenciadas contendo outliers, oriundas de uma grade quadrática regular, no qual o modelo de dependência espacial é o Gaussiano. O que se pretende atingir é uma densidade de amostragem necessária para a reconstrução de mapas populacionais de variáveis nas quais as condições de regularidade necessárias em geoestatística foram verificadas. Como resultado pode-se concluir que o tamanho ideal de amostragem obtido na ausência de outliers, 115 pontos, foi bem inferior aos 228 pontos obtidos na presença dos outliers.

Palavras-chave: geoestatística, amostragem, taxa Nyquist, outliers.

ESTIMATION OF THE SAMPLING SIZE OF GEOSTATISTICS CONSIDERING GAUSSIAN VARIOGRAM MODEL IN THE PRESENCE OF OUTLIERS

ABSTRACT: The determination of suitable sample size for population reconstruction in the analysis of spatial data is something that has been studied in several scientific papers. Regardless study area, any variable may contain outlier. As suggested by some researchers, in order to eliminate such discrepant data, methodologies have been created to meet the demands of various scientific areas knowledge. The purpose of this work is use the Nyquist Rate Theorem to determine an ideal size for georeferenced samples containing outliers from a regular quadratic grid in which the spatial dependence model is Gaussian. What we intend to achieve is a sampling density necessary for the population maps reconstruction of variables in which the necessary regularity conditions in Geostatistics were verified. As a result, it can be concluded that, the ideal sampling size obtained in the outliers absence, 115 points, was well below the 228 points obtained in the outliers presence.

Keywords: geostatistics, sampling, Nyquist rate, outliers.