Calidad y medio ambiente

Recepción: 12 Marzo 2019
Aprobación: 30 Mayo 2019
DOI: https://doi.org/10.26439/ing.ind2019.n037.4545
Resumen: El objetivo de esta investigación fue comparar tres algoritmos de prueba de permutación. Se propusieron escenarios de datos obtenidos mediante simulación de Monte Carlo y en cada uno se aplicaron los algoritmos propuestos. Los resultados muestran una potencia de prueba superior a 0,85. El primer algoritmo basado en la T2 de Hotelling presentó la mayor potencia de prueba. La implementación de los algoritmos fue realizada con el programa R.
Palabras clave: prueba de permutación , simulación de Monte Carlo , prueba T2 de Hotelling , Prueba t , prueba de Wilcoxon-Mann-Whitney , potencia de prueba.
Abstract: The objective of this research was to compare three permutation test algorithms. Data scenarios obtained through the Monte Carlo simulation were proposed and the suggested algorithms were applied to each of them. The results showed a test power greater than 0,85. The first algorithm based on the Hotelling’s T2 presented the highest test power. The implementation of the algorithms was carried out using the R statistical program.
Keywords: permutation test , Monte Carlo simulation , Hotelling’s T2 test , t test , Wilcoxon-Mann-Whitney test , test power.
1. INTRODUCCIÓN
En investigaciones de diferentes áreas, uno de los objetivos puede ser comparar las medias de dos poblaciones con la finalidad de determinar si estas difieren. Para cumplir con este propósito se puede hacer uso de procedimientos paramétricos univariados o multivariados. En el caso univariado se puede utilizar la prueba Z o la prueba t de Student (si se desconocen las varianzas poblacionales). En el caso multivariado, si las matrices de covarianza son homogéneas, se puede hacer uso de la prueba T2 de Hotelling para comparar las medias de dos poblaciones.
Tanto para el caso univariado como para el multivariado se requiere verificar previamente que las muestras provengan de una distribución normal. Sin embargo, esta situación no siempre se cumple. Ante esta falla de las pruebas paramétricas tradicionales, los métodos no paramétricos, como la prueba de permutación, han surgido como una buena alternativa, debido a que no será necesario verificar que los datos provengan de una distribución teórica conocida.
Existen investigaciones donde se estudia la prueba de permutación. Butar y Park (2008) realizaron un estudio para comparar dos poblaciones mediante pruebas de permutación univariada. Concluyeron que las pruebas basadas en remuestreo no son complicadas de implementar y que al realizar todas las permutaciones posibles se puede obtener un nivel de significancia exacto, mientras que cuando el número de permutaciones es muy grande se puede obtener un nivel de significancia aproximado.
Chung y Romano (2011) presentaron una prueba de permutación para dos muestras independientes basadas en el estadístico de Wilcoxon, y obtuvieron sus resultados mediante un estudio de simulación de Monte Carlo.
Einsporn y Habtzghi (2013) propusieron una prueba de permutación para datos de pares incompletos. Esta situación surge tanto en estudios observacionales como experimentales cuando algunos de los datos están en forma de muestra pareada y el resto de los datos comprende dos muestras independientes. Se demostró mediante simulación de Monte Carlo que el método propuesto funciona mejor que los métodos tradicionales.
Samuh (2017) propuso un algoritmo para comparar dos muestras independientes a través de pruebas de permutación univariadas y el criterio Ranked Set Sampling mediante simulación. Concluyó que los resultados afirman que los niveles de potencia de la prueba de permutación son más altos que los niveles de potencia de la prueba t clásica.
Blair, Higgins, Karniski y Kromrey (2010) analizaron pruebas de permutación multivariada para una muestra que pueden sustituir a la T2 de Hotelling. Las comparaciones de potencia se realizaron entre las pruebas de permutación y la prueba T2 de Hotelling bajo una variedad de modelo de efecto de tratamiento, estructura de correlación y combinaciones de diferentes cantidades de variables. Los resultados muestran que las pruebas de permutación tienen importantes ventajas de potencia con respecto a la T2 de Hotelling. Algunas ventajas de las pruebas de permutación: pueden ser utilizadas cuando el número de variables es mayor al número de observaciones o cuando se desconoce la distribución de probabilidad conjunta de las variables en estudio.
Chung y Romano (2013) usaron pruebas de permutación para comparar parámetros multivariados de dos poblaciones mediante estudios de simulación de Monte Carlo. Utilizaron una T2 modificada de Hotelling, así como pruebas basadas en la máxima diferencia absoluta estudentizada.
En la presente investigación, el desarrollo de la metodología de prueba de permutación multivariada para dos muestras independientes se realizó mediante la elaboración de procedimientos obtenidos con ayuda del programa estadístico R.
El objetivo de la presente investigación es comparar la potencia de prueba de tres algoritmos de prueba de permutación para la diferencia entre medias multivariadas en dos muestras independientes. Estos se aplicarán a diferentes escenarios (conjuntos de datos) obtenidos con la ayuda de la simulación de Monte Carlo.
2. MATERIALES Y MÉTODOS
2.1 Materiales
Para realizar la aplicación del presente trabajo de investigación, se utilizó el programa estadístico R que es muy útil para implementar los procedimientos de comparación. Esto se debe a que los programas estadísticos comerciales no cuentan con las pruebas que se consideraron en la presente investigación.
Se utilizaron diferentes funciones del programa:
La función t.test del paquete base stats permite realizar la prueba t de Student para comparar las medias univariadas de dos muestras independientes.
La función wilcox.exact del paquete ExactRankTests permite comparar las medianas univariadas mediante la prueba de Wilcoxon (corregida por empates).
La función hotelling.test del paquete Hotelling permite realizar la prueba T2 para la diferencia de medias multivariada de dos muestras independientes.
Lo primero que se hizo fue generar diferentes conjuntos de datos simulados provenientes de una distribución normal multivariada, los cuales deben presentar distintas características que incluyan: el tamaño de las dos muestras independientes (n1 y n2), el número de variables a analizar (p) y la variabilidad total de los datos. Es decir, por ejemplo, se fijan las siguientes características de un conjunto de datos: n1=50 y n2=50 observaciones, 8 variables y una variabilidad total igual a 6. Este tipo de conjunto de datos se genera por simulación de Monte Carlo, se repite r veces y en cada una de las repeticiones se evalúan los diferentes algoritmos de interés.
Se elaboraron funciones que permitieran desarrollar los algoritmos propuestos y evaluar su potencia.
En la tabla 1 se presenta una breve descripción de los conjuntos de datos que serán simulados. Para cada escenario propuesto se indican los tamaños de las muestras (n1 y n2) y el número de variables (p).

En cada escenario se estimará la potencia de prueba de los diferentes algoritmos propuestos.
2.2 Métodos
Antes de definir los métodos y algoritmos que se desarrollaron, se presentan los términos utilizados:
k: Número de muestras independientes (en la presente investigación k = 2).
p: Número de variables cuantitativas del conjunto de datos.
n1: Tamaño de la muestra de la población 1.
n2: Tamaño de la muestra de la población 2.
n = n1 + n2: Tamaño total de la muestra.
𝑋̅1: Promedio de la muestra 1.
𝑋̅2: Promedio de la muestra 2.
: Varianza de la muestra 1.
: Varianza de la muestra 2.
S: Matriz de covarianza ponderada.
Sj: Matriz de covarianza de dimensión pxp del grupo j, j = 1,2,..,k.
A continuación se describen los aspectos teóricos presentados en Efron y Tibshirani (2011) y Higgins (2004) para poder entender los algoritmos desarrollados en la presente investigación.
2.2.1 Prueba t
En el caso univariado, para determinar si las medias poblacionales son iguales, es decir, H0: μ1 = μ2, se puede hacer uso de la siguiente estadística, siempre que se cumplan los siguientes supuestos:
Las varianzas de las dos poblaciones son iguales (homogeneidad de varianzas).
La variable de interés en ambas poblaciones tiene distribución normal.

Donde Sp es la desviación estándar ponderada definida por:

Con respecto al supuesto de normalidad, si n1 y n2 son suficientemente grandes, se cumple el Teorema Central del Límite y se puede proceder como si las poblaciones fueran normales. La prueba t es bastante robusta para las violaciones de la suposición de normalidad siempre que cada población sea relativamente simétrica con respecto a su media.
Una prueba equivalente puede ser utilizando el estadístico t2 de la siguiente manera:

2.2.2 Prueba de Wilcoxon-Mann-Whitney
En el caso univariado se puede utilizar para determinar si las medianas poblacionales son iguales, es decir, H0: Me1 = Me2. A diferencia de la prueba t, no requiere del cumplimiento de normalidad para las muestras, pero sí que las muestras provengan de la misma distribución teórica.

Donde:
U puede ser calculado mediante las siguientes expresiones:

R1 y R2 son las sumas de los rangos de la primera y segunda muestra respectivamente.
Se elige el menor valor entre U1 o U2 para reemplazarlo en la prueba de la aproximación a la normal.

Donde g es el número de grupos empatados y ti el número de elementos empatados dentro de grupo i.
La primera expresión de V(U) se debe utilizar cuando no hay empates (valores iguales) en los datos observados y la segunda expresión de V(U) debe ser usada cuando hay empates.
2.2.3 Prueba T2 de Hotelling
En el caso multivariado, para determinar si las p medias poblacionales son iguales, es decir, H0: μ1 = μ2, donde ahora μ1 y μ2 son vectores de longitud p, se puede hacer uso del siguiente estadístico, si n1 y n2 son suficientemente grandes:

Donde S es la matriz de covarianza muestral ponderada

Si n1 y n2 no son suficientemente grandes, entonces es mejor utilizar el siguiente estadístico:

2.2.4 Prueba de permutación
Una prueba de hipótesis empieza con un estadístico de prueba
. Si la hipótesis nula, H0 no es verdadera, esperamos observar grandes valores de
en comparación con H0 verdadera.
Si se ha observado
, el nivel de significancia alcanzado de la prueba (ASL por sus siglas en inglés) es definido como la probabilidad de observar al menos un valor grande cuando la hipótesis nula es verdadera, de tal manera que se puede definir así:

La cantidad
en la expresión del ASL es fijada como un valor observado (en el caso univariado se puede utilizar
= 𝑋̅1 − 𝑋̅2), la variable aleatoria
tiene la distribución de la hipótesis nula, la distribución de
si H0 es verdadera. La notación de * marca la diferencia entre la observación actual y un hipotético
* generado de acuerdo a H0.
2.2.5 Algoritmo de la prueba estadística de permutación para dos muestras
Seleccionar B matrices independientes g* (1), g* (2), … ,g* (B), cada una compuesta por n1 y n2 observaciones seleccionadas aleatoriamente de un conjunto de todos los
posibles vectores.
Evaluar las replicaciones de permutación de
correspondiente a cada matriz de permutación,

Aproximadamente ASLperm es

En el caso de prueba de permutación multivariada para dos muestras, vectores multivariados son permutados entre los grupos de igual manera que las observaciones son permutadas entre grupos en una prueba de permutación univariada.
Por otro lado, la diferencia entre los algoritmos propuestos radica en la definición de
(también conocido como umbral), el cual permite el cálculo del ASL.
Como en la presente investigación se consideraron tres algoritmos para evaluar la diferencia significativa entre vectores de medias, los valores de o umbrales propuestos son:
El estadístico T2 de Hotelling.
El máximo en valor absoluto de los estadísticos t.

Es decir, se debe calcular el estadístico t de Student para cada una de las variables y considerar como umbral al máximo de ellos (Higgins, 2004).
El máximo en valor absoluto de los estadísticos Z de Wilcoxon

Es decir, se debe calcular el estadístico Z de Wilcoxon-Mann-Whitney para cada una de las variables y considerar como umbral al máximo de ellos (Higgins, 2004).
En resumen la metodología de la presente investigación fue la siguiente:
Generar diferentes conjuntos de datos (escenarios), considerando distintos tamaños de muestra (n1 y n2) y cantidad de variables (p).
Aplicar los tres algoritmos a cada uno de los diferentes conjuntos de datos.
Calcular la potencia de prueba de cada uno de los algoritmos propuestos. La potencia de prueba es obtenida repitiendo cada escenario r = 50 veces.
3. RESULTADOS Y DISCUSIONES
La tabla 2 muestra el número total de permutaciones para diferentes tamaños de muestra.

Obtener todas las permutaciones posibles implicaría un gasto computacional excesivo, por lo que lo primero que se debe hacer es elegir un número (B) de permutaciones necesarias para optimizar el tiempo de procesamiento. Como la prueba de permutación utiliza en su procedimiento simulación de Monte Carlo, el ASL no es fijo. Ello implica un cierto nivel de variabilidad entre sus resultados. Se desea que esta variabilidad sea la mínima posible, por ejemplo, máximo 5 %.Para determinar el número óptimo de permutaciones se utilizará la función nm, donde se pueden evaluar diferentes valores de B (50, 100, 200, 500, 1000) para una cierta cantidad de repeticiones (r). En el presente trabajo se utilizó r = 50 repeticiones.
Se puede observar en los tres algoritmos que, a medida que el número de permutaciones utilizadas aumenta, la variabilidad disminuye. Esto ocurre en todos los escenarios propuestos. En la figura 1 se presenta lo mencionado para el primer escenario. Se puede deducir que un número adecuado de permutaciones suficiente es de 500. Utilizar más permutaciones implicaría un gasto computacional innecesario pues no reduciría significativamente la variabilidad entre resultados propuesta.
En la tabla 3 se presentan los diferentes valores de potencia de prueba. Para obtener estos resultados se utilizó simulación de Monte Carlo para generar r = 50 repeticiones diferentes en cada uno de los escenarios propuestos. Se definieron parámetros adecuados para la obtención de las matrices de datos que contenían a los números pseudoaleatorios. La potencia de prueba fue calculada como el número de veces que se rechazaba la hipótesis nula sobre la cantidad de repeticiones (r) realizadas.

Se puede observar que el algoritmo basado en la prueba T2 de Hotelling presenta una mayor potencia de prueba con respecto a los otros dos algoritmos propuestos. Esto se verificó estadísticamente a un nivel de significación de 0,05, mediante la Prueba de Friedman (p-valor = 0,002), donde se considera a los algoritmos en comparación como tratamientos y a los diferentes escenarios como bloques. Asimismo, al realizar las pruebas de comparación se encuentra que hay diferencia significativa entre los tres algoritmos.

En la figura 2 se puede visualizar que para los tres algoritmos propuestos las potencias de prueba se incrementan a medida que el número de variables y los tamaños de muestra aumentan.

4. CONCLUSIONES
El presente trabajo constituye un aporte en la investigación sobre la comparación de tres algoritmos para comparar las medias multivariadas de dos muestras independientes.
La prueba de permutación constituye un procedimiento alternativo a las pruebas paramétricas tradicionales que exigen el cumplimiento de ciertos supuestos que en la práctica no se cumplen.
Para investigaciones de este tipo es necesario generar diferentes escenarios que involucren criterios como: el tamaño de muestra, el número de variables consideradas en el estudio y la variabilidad representada en la matriz de covarianza. En esta investigación se utilizaron siete escenarios y solo una cantidad de permutaciones posibles para evitar un gasto computacional innecesario. Un número óptimo de permutaciones para obtener los resultados con una variabilidad máxima de 5 % es 500.
Se ha demostrado que de los tres algoritmos considerados, el que utiliza la prueba T2 de Hotelling como criterio para determinar las diferencias significativas entre las medias poblacionales es el que presenta mayor potencia de prueba. Esto fue verificado estadísticamente mediante la prueba de Friedman.
Cabe resaltar que cuando se trabaja con una mayor cantidad de variables y los tamaños de muestra aumentan, la potencia de prueba se incrementa para los tres algoritmos.
Por otro lado, es necesario que en posteriores investigaciones similares se utilicen más escenarios para determinar con mayor precisión si para ciertos conjuntos de datos algunos de los algoritmos propuestos son más potentes que otros.
Referencias
Blair, C., Higgins, J., Karniski ,W. y Kromrey, J. (2010). A Study of Multivariate Permutation Tests Which May Replace Hotelling’s T2 Test in Prescribed Circumstances. Journal Multivariate Behavioral Research 29(2), pp. 141-163. doi: 10.1207/s15327906mbr2902_2
Butar, F. y Park, J. (2008). Permutation Test for Comparing Two Populations. Journal of Mathematical Sciences & Mathematics Education 3(2), pp. 19-30.
Chung, E. y Romano, J. (2011). Asymptotically valid and exact permutation tests based on two-sample U-statistics (Technical report No. 2011-09). Stanford: Stanford University. Recuperado de https://statistics.stanford.edu/sites/default/files/2011-09.pdf
Chung, E. y Romano, J. (2013). Multivariate and Multiple Permutation Test (Technical report No.2013-05). Stanford: Stanford University. Recuperado de https://statistics.stanford.edu/sites/g/files/sbiybj6031/f/2013-05_0.pdf
Efron, B. y Tibshirani, R. (2011). An Introduction to the Bootstrap. Nueva York: Chapman & Hall/CRC.
Einsporn, R. y Habtzghi, D. (2013). Combining paired and two-sample data using a permutation. Journal of Data Science 11, pp. 767-779.
Higgins, J. (2004). An introduction to modern nonparametric statistics. Londres: Thomson Learning.
Samuh, M. (2017). Ranked Set Two Sample Permutation Test. Statistica 3, pp. 237-249.
The R Project for Statistical Computing (3.6) [Software]. (2019). Recuperado de https://www.r-project.org/