The effect of skewness and kurtosis on te Kenward-Roger approximation when group distribution differ / El efecto de la violación de simetría y curtosis en la aproximación Kenward-Roger cuando las distribuciones de los grupos difieren

ABSTRACT

BACKGROUND: This study examined the independent effect of skewness and kurtosis on the robustness of the linear mixed model (LMM), with the Kenward-Roger (KR) procedure, when group distributions are different, sample sizes are small, and sphericity cannot be assumed. METHODS: A Monte Carlo simulation study considering a split-plot design involving three groups and four repeated measures was performed. RESULTS: The results showed that when group distributions are different, the effect of skewness on KR robustness is greater than that of kurtosis for the corresponding values. Furthermore, the pairings of skewness and kurtosis with group size were found to be relevant variables when applying this procedure. CONCLUSIONS: With sample sizes of 45 and 60, KR is a suitable option for analyzing data when the distributions are (a) mesokurtic and not highly or extremely skewed, and (b) symmetric with different degrees of kurtosis. With total sample sizes of 30, it is adequate when group sizes are equal and the distributions are (a) mesokurtic and slightly or moderately skewed, and sphericity is assumed; and (b) symmetric with a moderate or high/extreme violation of kurtosis. Alternative analyses should be considered when the distributions are highly or extremely skewed and samples sizes are small

RESUMEN

ANTECEDENTES este estudio examina el efecto independiente de la violación de la simetría y de la curtosis en la robustez del modelo lineal mixto, con la corrección Kenward-Roger de los grados de libertad, cuando las distribuciones de los grupos difieren, los tamaños muestrales son pequeños y se viola el supuesto de esfericidad. MÉTODO: se realizó un estudio de simulación Monte Carlo con un diseño de tres grupos y cuatro medidas repetidas. RESULTADOS: cuando las distribuciones de los grupos son diferentes, el efecto de la violación de la simetría es mayor que el de la curtosis. Además, el emparejamiento de asimetría y curtosis con el tamaño de grupo se constatan como variables a considerar cuando se utiliza este procedimiento. CONCLUSIONES: KR constituye una buena opción cuando el diseño es equilibrado, y (a) los tamaños muestrales totales son iguales a 45 o 60, y las distribuciones son mesocúrticas y no extremadamente asimétricas, o bien, simétricas con distintos grados de violación de curtosis; o (b) con tamaños muestrales de 30 y distribuciones mesocúrticas y leve/moderadamente asimétricas, o bien, simétricas con una violación moderada/extrema de la curtosis. Con estos tamaños muestrales y distribuciones severa o extremadamente asimétricas no es recomendable utilizar KR