clasificaci´on mediante conjuntos - Escuela Politécnica Superior

More documents

Recommendations

Info

74 CAPÍTULO 4. ALTERACIÓN DE ETIQUETAS DE CLASETambién resulta conveniente definir la proporción entre la tasa de modificación, p, y sumáximo comoˆp = p/p max . (4.7)Por tanto, para conjuntos desequilibrados, el método propuesto incrementa el rango deposibles valores de p, con respecto al método de flipping [Breiman, 2000]. Este es un factordeterminante para las mejoras de generalización que se obtienen con el conjunto, comoveremos en la sección 4.4.Para que el algoritmo funcione de forma eficiente es necesario utilizar un clasificadorbase que obtenga un error en entrenamiento lo más bajo posible. Hay que tener en cuentaque un clasificador que obtenga una clasificación perfecta (error 0) en el conjunto deentrenamiento modificado tendrá un error igual a la proporción de ejemplos modificados,p, en el conjunto de entrenamiento original. Un árbol de decisión sin podar y que ha sidodesarrollado hasta su tamaño máximo de forma que todos los ejemplos del conjunto de entrenamientoestén perfectamente clasificados, cumple este requisito. De hecho, un árbol dedecisión siempre es capaz de obtener error 0 siempre que no haya en el conjunto alteradoejemplos con los mismos valores de los atributos que pertenezcan a clases distintas.Una característica interesante del procedimiento class-switching es que la selecciónaleatoria de los ejemplos crea clasificadores cuyos errores en el conjunto de entrenamientoson independientes estadísticamente. Los clasificadores generados tienen error cero en elconjunto de entrenamiento modificado. Por tanto, su tasa de error en el conjunto de entrenamientooriginal es igual a la fracción de ejemplos cuyas etiquetas de clase han sidomodificadas (esto es p). Estos ejemplos han sido elegidos aleatoriamente y de manera independientepara cada uno de los distintos conjuntos de entrenamiento. Basándonos en estapropiedad se puede estimar el error de entrenamiento sin necesidad de tener en cuenta dequé problema de clasificación concreto se trata. Para clasificación binaria el funcionamientodel conjunto se puede analizar como un proceso de Bernoulli, donde cada clasificadortiene una probabilidad (1 − p) de clasificar correctamente un ejemplo de entrenamientoseleccionado al azar. La decisión de un clasificador dado sobre un ejemplo de entrenamientoes, por construcción, independiente de la decisión de los otros clasificadores. Enconsecuencia, la probabilidad de que haya un número determinado de clasificadores dandola clasificación correcta viene dada por una distribución binomial. Por tanto, el error deentrenamiento se puede estimar como la probabilidad de que haya más de la mitad de losclasificadores dando una clasificación incorrecta para un ejemplo dadotrain error(T ) =T∑t=⌊1+T/2⌋( Tt)p t (1 − p) T −t , (4.8)donde T es el número de clasificadores del conjunto (que asumimos que es impar paraevitar los empates). Basándonos en la distribución binomial también podemos estimar las
4.2. MODIFICACIÓN DE LAS ETIQUETAS DE CLASE 750.450.4p=0.4p=0.3p=0.2p=0.10.350.30.25error0.20.150.10.05020 40 60 80 100 120 140 160 180 200no. de clasificadores (T)1T=1001T=101T=110.80.60.40.20-1 -0.5 0 0.5 1mFigura 4.1: (Gráfica superior) Estimación del error de entrenamiento para un problemabinario de clasificación con respecto al tamaño del conjunto con tasas de modificación declases de: p = 0.1 (línea punteada), p = 0.2 (línea de trazos cortos), p = 0.3 (línea detrazos largos) y p = 0.4 (línea continua). (Gráfica inferior) Estimaciones de las curvas demargen para un problema binario de clasificación en conjuntos con tasa de modificación declases de p = 0.4 para tamaños de conjunto de 11 (línea de trazos cortos), 101 (línea detrazos largos) y 1001 (línea continua) clasificadores
Page 1:
Universidad Autónoma de MadridEscu
Page 5 and 6:
AgradecimientosAgradezco muy sincer
Page 7 and 8:
Índice generalAgradecimientosV1. I
Page 9:
A.1.12. Sonar . . . . . . . . . . .
Page 12 and 13:
4.5. Número medio de clasificadore
Page 14 and 15:
3.5. Pseudocódigo de comités IGP
Page 17 and 18:
Capítulo 1IntroducciónUn clasific
Page 19 and 20:
3aparecen en el problema concreto d
Page 21 and 22:
5donde se realizan, etc [Dorronsoro
Page 23 and 24:
7algoritmo genera un árbol de deci
Page 25 and 26:
de construcción de conjuntos de cl
Page 27 and 28:
Capítulo 2Clasificación2.1. Clasi
Page 29 and 30:
2.1. CLASIFICACIÓN SUPERVISADA Y T
Page 31 and 32:
2.2. ÁRBOLES DE DECISIÓN: CART Y
Page 33 and 34:
Page 35 and 36:
Page 37 and 38:
Page 39 and 40: 2.2. ÁRBOLES DE DECISIÓN: CART Y
Page 41 and 42: 2.3. CONJUNTOS DE CLASIFICADORES 25
Page 47 and 48: 2.4. ANÁLISIS DE SU FUNCIONAMIENTO
Page 55 and 56: 2.5. BAGGING Y BOSQUES ALEATORIOS 3
Page 57 and 58: 2.6. BOOSTING 41ni de los ejemplos
Page 59 and 60: 2.6. BOOSTING 43la decisión del co
Page 61 and 62: 2.6. BOOSTING 45el agotamiento tamb
Page 63 and 64: 2.7. OTROS CONJUNTOS DE CLASIFICADO
Page 65: Parte INuevos conjuntos de clasific
Page 68 and 69: 52 CAPÍTULO 3. CONJUNTOS DE ÁRBOL
Page 88 and 89: 72 CAPÍTULO 4. ALTERACIÓN DE ETIQ
Page 100 and 101: Cuadro 4.3: Resumen de registros vi
Page 111 and 112: Capítulo 5Orden de agregación y p
Page 113 and 114: 5.2. ORDENACIÓN DE CLASIFICADORES
Page 115 and 116: 5.2. ORDENACIÓN DE CLASIFICADORES
Page 117 and 118: 5.3. OTROS TRABAJOS RELACIONADOS 10
Page 119 and 120: 5.4. ALGORITMOS DE ORDENACIÓN 103c
Page 121 and 122: 5.4. ALGORITMOS DE ORDENACIÓN 105M
Page 123 and 124: 5.4. ALGORITMOS DE ORDENACIÓN 107F
Page 125 and 126: 5.4. ALGORITMOS DE ORDENACIÓN 1093
Page 127 and 128: 5.4. ALGORITMOS DE ORDENACIÓN 111n
Page 129 and 130: 5.4. ALGORITMOS DE ORDENACIÓN 113o
Page 131 and 132: 5.4. ALGORITMOS DE ORDENACIÓN 115s
Page 133 and 134: 5.4. ALGORITMOS DE ORDENACIÓN 1171
Page 135 and 136: 5.5. RESULTADOS EXPERIMENTALES 119L
Page 137 and 138: 5.5. RESULTADOS EXPERIMENTALES 1210
Page 139 and 140: 5.5. RESULTADOS EXPERIMENTALES 123p
Page 141 and 142:
5.5. RESULTADOS EXPERIMENTALES 1250
Page 143 and 144:
Page 145 and 146:
Page 147 and 148:
Cuadro 5.7: Media del error de entr
Page 149 and 150:
Cuadro 5.9: Prueba-t para comparar
Page 151 and 152:
5.6. CONCLUSIONES 135Cuadro 5.10: T
Page 153 and 154:
Capítulo 6Conclusiones y trabajo f
Page 155 and 156:
139primeros elementos de acuerdo co
Page 157 and 158:
Apéndice ADescripción de los conj
Page 159 and 160:
143A.1.4.Pima Indian DiabetesPima I
Page 161 and 162:
145A.1.8.IonosphereIonosphereReposi
Page 163 and 164:
147A.1.12.SonarSonarRepositorio UCI
Page 165 and 166:
149A.1.16.VehicleVehicle silhouette
Page 167 and 168:
151A.1.19.WineWineRepositorio UCI(F
Page 169 and 170:
Bibliografía[Aha et al., 1991] Dav
Page 171 and 172:
BIBLIOGRAFÍA 155[Dietterich y Kong
Page 173 and 174:
BIBLIOGRAFÍA 157[Haskell et al., 2
Page 175 and 176:
BIBLIOGRAFÍA 159[Martínez-Muñoz
Page 177 and 178:
BIBLIOGRAFÍA 161[Schapire et al.,
show all

clasificaci´on mediante conjuntos - Escuela Politécnica Superior

You also want an ePaper? Increase the reach of your titles

Delete template?

Save as template?