clasificaci´on mediante conjuntos - Escuela Politécnica Superior

More documents

Recommendations

Info

86 CAPÍTULO 4. ALTERACIÓN DE ETIQUETAS DE CLASESe ha utilizado la prueba-t de Student pareada de dos colas para analizar las diferenciasque obtiene el mejor algoritmo (class-switching ˆp = 3/5) con respecto al resto de algoritmosy configuraciones. Estos resultados se muestran en el cuadro 4.4. Se han resaltadoen negrita las diferencias estadísticamente significativas (valor-p< 0.5 %). Asimismo sehan recuadrado los resultados que son desfavorables a class-switching ˆp = 3/5 ya seansignificativos o no. Se puede observar que las diferencias entre el error que obtiene classswitchingˆp = 3/5 y los errores de los otros métodos son significativas en la mayoría delos casos. Class-switching y flipping con ˆp = 3/5 obtienen resultados equivalentes en lamayoría de bases de datos con distribución de clases uniforme, concretamente para: ImageSegmentation, Threenorm, Twonorm y Vowel. En el problemaWaveform, que también tienedistribución de clases uniforme, los resultados son significativamente mejores para classswitching.En el resto de bases de datos las comparaciones de class-switching ˆp = 3/5 yflipping favorecen generalmente al primero. Con respecto a bagging el algoritmo propuestoobtiene diferencias significativas favorables en 11 problemas, desfavorables en 2 y no significativasen otras 2 bases de datos. Las diferencias más exiguas se obtiene con respecto aboosting donde class-switching ˆp = 3/5 obtiene diferencias significativas favorables en 8problemas, desfavorables en 5 y en 2 problemas los resultados son equivalentes.La figura 4.4 muestra la dependencia del error medio de entrenamiento (gráfica superior)y test (gráfica inferior) con el tamaño del conjunto de los conjuntos class-switching paradistintos valores de ˆp y en el problema Breast Cancer Wisconsin. Se puede ver cómo lascurvas de error de entrenamiento (gráfica superior) son muy similares a las de la figura 4.1,y confirman el análisis del error de entrenamiento basado en la ecuación (4.8). Es necesarioinsistir en que la similitud no es exacta: las curvas de error para el conjunto Breast CancerWisconsin no comienzan para un clasificador en el valor de p como era de esperar. Estose debe a que el conjunto Breast Cancer Wisconsin tiene varios ejemplos con los mismosvalores en los atributos que no se pueden separar si el algoritmo class-switching cambia laclase de alguno de ellos.El cuadro 4.2 y la figura 4.4 confirman que la convergencia del error tanto de entrenamientocomo de test en los conjuntos class-switching está relacionada con ˆp, la relaciónentre la probabilidad de modificación global y el máximo valor posible de modificaciónglobal, definido en la ecuación (4.7): valores más altos de ˆp presentan una convergenciaa los niveles asintóticos de error más lenta. En el conjunto Breast Cancer Wisconsin, porejemplo, el conjunto class-switching con ˆp = 4/5 obtuvo el mejor resultado, pero necesitó200, 400 y 800 clasificadores para alcanzar tasas de error equivalentes a bagging,conjunto class-switching con ˆp = 1/5 y boosting, respectivamente. Alguna mejora adicionalse puede obtener si se añaden más clasificadores (ver gráfica inferior de la figura 4.4).En otros conjuntos (Threenorm, Tic-tac-toe y Twonorm) el conjunto class-switching conˆp = 4/5 puede alcanzar mejores precisiones si se combinan más clasificadores. En Twonormse alcanza un error de 3.8 usando 2000 árboles (obtiene 4.6 con 1000 árboles) y enTic-tac-toe se llega a 4.9 de error con 5000 árboles (obtiene 6.7 con 1000 árboles).
4.4. EXPERIMENTOS EN CONJUNTOS UCI 870.350.3p=0.4p=0.3p=0.2p=0.10.250.2error0.150.10.0500.050.04520 40 60 80 100 120 140 160 180 200no. de clasificadoresp=0.4p=0.3p=0.2p=0.10.04error0.0350.030.0250.020 100 200 300 400 500 600 700 800 900 1000no. de clasificadoresFigura 4.4: Error medio de entrenamiento (gráfica superior) y test (gráfica inferior) parael problema Breast Cancer WisconsinAsimismo se debe resaltar cómo la precisión en la clasificación está también relacionadacon ˆp. Del cuadro 4.2 y la figura 4.4 vemos que valores más altos de ˆp tienden a obtenermejores resultados de generalización. Sin embargo, cuando se usan valores de ˆp cercanos a
Page 1:
Universidad Autónoma de MadridEscu
Page 5 and 6:
AgradecimientosAgradezco muy sincer
Page 7 and 8:
Índice generalAgradecimientosV1. I
Page 9:
A.1.12. Sonar . . . . . . . . . . .
Page 12 and 13:
4.5. Número medio de clasificadore
Page 14 and 15:
3.5. Pseudocódigo de comités IGP
Page 17 and 18:
Capítulo 1IntroducciónUn clasific
Page 19 and 20:
3aparecen en el problema concreto d
Page 21 and 22:
5donde se realizan, etc [Dorronsoro
Page 23 and 24:
7algoritmo genera un árbol de deci
Page 25 and 26:
de construcción de conjuntos de cl
Page 27 and 28:
Capítulo 2Clasificación2.1. Clasi
Page 29 and 30:
2.1. CLASIFICACIÓN SUPERVISADA Y T
Page 31 and 32:
2.2. ÁRBOLES DE DECISIÓN: CART Y
Page 33 and 34:
Page 35 and 36:
Page 37 and 38:
Page 39 and 40:
Page 41 and 42:
2.3. CONJUNTOS DE CLASIFICADORES 25
Page 43 and 44:
Page 45 and 46:
Page 47 and 48:
2.4. ANÁLISIS DE SU FUNCIONAMIENTO
Page 49 and 50:
2.4. ANÁLISIS DE SU FUNCIONAMIENTO
Page 51 and 52: 2.4. ANÁLISIS DE SU FUNCIONAMIENTO
Page 53 and 54: 2.4. ANÁLISIS DE SU FUNCIONAMIENTO
Page 55 and 56: 2.5. BAGGING Y BOSQUES ALEATORIOS 3
Page 57 and 58: 2.6. BOOSTING 41ni de los ejemplos
Page 59 and 60: 2.6. BOOSTING 43la decisión del co
Page 61 and 62: 2.6. BOOSTING 45el agotamiento tamb
Page 63 and 64: 2.7. OTROS CONJUNTOS DE CLASIFICADO
Page 65: Parte INuevos conjuntos de clasific
Page 68 and 69: 52 CAPÍTULO 3. CONJUNTOS DE ÁRBOL
Page 88 and 89: 72 CAPÍTULO 4. ALTERACIÓN DE ETIQ
Page 100 and 101: Cuadro 4.3: Resumen de registros vi
Page 111 and 112: Capítulo 5Orden de agregación y p
Page 113 and 114: 5.2. ORDENACIÓN DE CLASIFICADORES
Page 115 and 116: 5.2. ORDENACIÓN DE CLASIFICADORES
Page 117 and 118: 5.3. OTROS TRABAJOS RELACIONADOS 10
Page 119 and 120: 5.4. ALGORITMOS DE ORDENACIÓN 103c
Page 121 and 122: 5.4. ALGORITMOS DE ORDENACIÓN 105M
Page 123 and 124: 5.4. ALGORITMOS DE ORDENACIÓN 107F
Page 125 and 126: 5.4. ALGORITMOS DE ORDENACIÓN 1093
Page 127 and 128: 5.4. ALGORITMOS DE ORDENACIÓN 111n
Page 129 and 130: 5.4. ALGORITMOS DE ORDENACIÓN 113o
Page 131 and 132: 5.4. ALGORITMOS DE ORDENACIÓN 115s
Page 133 and 134: 5.4. ALGORITMOS DE ORDENACIÓN 1171
Page 135 and 136: 5.5. RESULTADOS EXPERIMENTALES 119L
Page 137 and 138: 5.5. RESULTADOS EXPERIMENTALES 1210
Page 139 and 140: 5.5. RESULTADOS EXPERIMENTALES 123p
Page 147 and 148: Cuadro 5.7: Media del error de entr
Page 149 and 150: Cuadro 5.9: Prueba-t para comparar
Page 151 and 152: 5.6. CONCLUSIONES 135Cuadro 5.10: T
Page 153 and 154:
Capítulo 6Conclusiones y trabajo f
Page 155 and 156:
139primeros elementos de acuerdo co
Page 157 and 158:
Apéndice ADescripción de los conj
Page 159 and 160:
143A.1.4.Pima Indian DiabetesPima I
Page 161 and 162:
145A.1.8.IonosphereIonosphereReposi
Page 163 and 164:
147A.1.12.SonarSonarRepositorio UCI
Page 165 and 166:
149A.1.16.VehicleVehicle silhouette
Page 167 and 168:
151A.1.19.WineWineRepositorio UCI(F
Page 169 and 170:
Bibliografía[Aha et al., 1991] Dav
Page 171 and 172:
BIBLIOGRAFÍA 155[Dietterich y Kong
Page 173 and 174:
BIBLIOGRAFÍA 157[Haskell et al., 2
Page 175 and 176:
BIBLIOGRAFÍA 159[Martínez-Muñoz
Page 177 and 178:
BIBLIOGRAFÍA 161[Schapire et al.,
show all

clasificaci´on mediante conjuntos - Escuela Politécnica Superior

You also want an ePaper? Increase the reach of your titles

Delete template?

Save as template?