Hoy quería proponeros una forma poco ortodoxa de medir la importancia de las variables en un modelo de regresión logística con SAS. La cuestión es: dado un modelo de regresión logística crear un ranking con las variables más importantes dentro del modelo. Para esta tarea recomiendo el uso de random forest, pero puede ser imposible disponer de un software que realice este tipo de modelos. Imaginemos un caso concreto, disponemos de SAS STAT y nos da reparo trabajar con R. Para este caso podemos emplear el siguiente truco. El AIC (criterio de información de Akaike) es un estadístico que relaciona el cociente de la verosimilitud con el número de parámetros del modelo que ajustamos. Cuanto menor sea este cociente mejor será nuestro modelo. Si eliminamos una variable del modelo ¿cuánto empeora este modelo? Esa será la filosofía que emplearemos para analizar la importancia de las variables presentes en nuestro modelo. En la línea habitual hacemos un ejemplo para que podáis copiar y pegar en vuestro SAS:
Vamos a crear un dataset preparado para hacer una regresión logística perfecta donde en un 10% de los casos sucede un evento:
*REGRESION LOGISTICA PERFECTA;
data logistica;
do i=1 to 10000;
normal1=rannor(8);
normal2=rannor(45);
normal3=rannor(32);
normal4=rannor(7);
normal5=rannor(98);
unif1=ranuni(2);
unif2=ranuni(21);
unif3=ranuni(22);
unif4=ranuni(23);
unif5=ranuni(24);
prob=1/(1+exp(-(-3.16+0.1*normal1-0.2*normal2+0.3*normal3-0.4*normal4+0.5*normal5+
0.1*unif1+0.2*unif2+0.3*unif3+0.4*unif4+0.5*unif5)));
sucede=ranbin(8,1,prob);
*TRAMIFICAMOS LAS VARIABLES;
normal1=round(rannor(8),0.1);
normal2=round(rannor(45),0.2);
normal3=round(rannor(32),0.3);
normal4=round(rannor(7),0.4);
normal5=round(rannor(98),0.5);
unif1=round(ranuni(2),0.1);
unif2=round(ranuni(21),0.2);
unif3=round(ranuni(22),0.3);
unif4=round(ranuni(23),0.4);
unif5=round(ranuni(24),0.5);
output;
end;
drop i;
run;
title "Logistica con un 10% aprox de casos positivos";
proc freq data=logistica;
tables sucede;
quit;
Incialmente necesitamos las variables presentes en el modelo y el ajuste inicial, también un conjunto de datos SAS con los nombres de las variables. Esto es un poco chapuza, pero si seguís el blog podéis hacer este código mucho más elegante [no os lo voy a dar todo hecho] (más…)
