Thesis:
Effective sample size for spatial general linear models

Loading...
Thumbnail Image

Date

2025-12-04

Journal Title

Journal ISSN

Volume Title

Degree

Magíster en Ciencias mención Matemática

Campus

Campus Casa Central Valparaíso

Publisher

Universidad Técnica Federico Santa María

Abstract

This work proposes a new effective sample size definition for Spatial Generalized Linear Mixed Models (SGLMMs), extending existing definitions developed for Gaussian spatial processes to accommodate count and binary response distributions, including Poisson, Negative Binomial and Bernoulli. The definition is based on a Laplace approximation to the marginal likelihood and accounts for both the spatial correlation structure and the response distribution. We establish theoretical properties, including a lower bound, sufficient conditions for ESS ≤ n, and a closed-form expression for circulant correlation matrices. Simulation studies assess the accuracy of the Laplace approximation against TMB-based estimates, finding good agreement across response families, and evaluate INLA-based estimation under Matérn correlation structures, where performance depends on the smoothness and range parameters. An increasing domain experiment investigates whether consistency properties established for Gaussian models extend to the SGLMM setting. The methodology is illustrated on a real spatial weed count dataset.


Este manuscrito propone una nueva definición del tamaño de muestra efectivo (ESS) para Modelos Lineales Mixtos Generalizados Espaciales (SGLMMs), extendiendo las definiciones existentes las cuales únicamente han sido desarrolladas para procesos espaciales gaussianos, a distribuciones con respuesta del tipo conteo, y binaria. Entre ellas se encuentran la distribución Poisson, binomial negativa y Bernoulli. Esta definición se basa en utilizar la aproximación de Laplace a la verosimilitud marginal, y considera tanto la estructura de correlación espacial como la distribución de la respuesta. Se establecieron las siguientes propiedades teóricas: una cota inferior, condiciones suficientes para que ESS ≤ n, y una expresión cerrada para matrices de correlación circulantes. Se realizaron estudios de simulación para evaluar la precisión de la aproximación de Laplace frente a estimaciones basadas en TMB, encontrando una buena concordancia entre las distribuciones estudiadas, y la estimación basada en INLA bajo estructuras de correlación Matérn, donde se observó que el desempeño depende de los parámetros de suavidad y rango. Además, realizamos un experimento de dominio creciente para investigar si la consistencia establecida para modelos gaussianos se extiende al marco de SGLMM. Por último, se realizó un experimento con datos reales de conteo espacial de malezas.

Description

Keywords

Spatial Statistics, Laplace Approximation, Poisson distribution, Negative Binomial distribution, Bernoulli distribution, Matérn correlation, Distribución de Poisson, Distribución binomial negativa, Distribución de Bernoulli, Correlación de Matérn, Estadística espacial, Aproximación de Laplace

Citation