clasificaci´on mediante conjuntos - Escuela Politécnica Superior

More documents

Recommendations

Info

14 CAPÍTULO 2. CLASIFICACIÓNFigura 2.1: Distribuciones de probabilidad para un problema unidimensional de dos clasesy probabilidad de error (zonas rayadas)2.2. Árboles de decisión: CART y C4.5En esta sección se describe el procedimiento general para la construcción de árboles dedecisión centrándose principalmente en el algoritmo CART (Classification And RegressionTrees) [Breiman et al., 1984]. Se indican también de manera somera las característicasdel algoritmo C4.5 [Quinlan, 1993] sobre todo en aquellos aspectos en los que difiere deCART.Un árbol de decisión, que denotaremos por T , es un cuestionario jerárquico (un cuestionarioen el cual la respuesta a una pregunta determina cuál es la siguiente pregunta)mediante el cual los ejemplos caracterizados por el vector x son asignados a regiones disjuntasdel espacio de atributos. Cada una de estas regiones lleva asociada una etiqueta declase j. Los ejemplos asignados por el cuestionario a dicha región son clasificados con la
2.2. ÁRBOLES DE DECISIÓN: CART Y C4.5 15clase j correspondiente a la etiqueta de clase de dicha región. El cuestionario se puede representarmediante un árbol de decisión en el que a cada nodo interno t se le asocia unade las preguntas del cuestionario jerárquico. La pregunta inicial del cuestionario se asociaal nodo raíz. Cada una de las regiones disjuntas en las que queda dividido el espacio decaracterísticas corresponde a un nodo final o nodo hoja t ∈ ˆT , donde ˆT denota a los nodosterminales del árbol T . Las divisiones utilizadas en CART son binarias: cada nodo internot tiene asociados dos nodos hijos t L y t R (nodo izquierdo y derecho respectivamente)cada uno de los cuales corresponde a respuesta (verdadero o falso) a la pregunta del nodo.En otro tipo de árboles de decisión, como C4.5, los nodos internos pueden tener más dedos descendientes. A cada uno de los nodos t del árbol se le asocia una etiqueta j(t) declase que se elige de acuerdo con la clase mayoritaria de entre los ejemplos x i de L quepertenecen a la región definida por el nodo t, esto esj(t) = argmaxjp(j|t) , (2.7)donde p(j|t) es el la estimación de la probabilidad de que un ejemplo caracterizado por elvector de atributos x sea de clase j dado que estamos en la región definida por el nodo t.Esta estimación se hace calculando el porcentaje de ejemplos de entrenamiento de clase jque han sido asignados al nodo t,p(j|t) = N j(t)N(t) , (2.8)donde N j (t) es el número de ejemplos de clase j asignados al nodo t y N(t) es el númerototal de ejemplos asignados al nodo t.La construcción del árbol a partir del conjunto de datos de entrenamiento L se hace medianteun proceso recursivo. Consideremos un nodo t que es terminal en el momento actualdel proceso de crecimiento del árbol. Este nodo corresponde a una región del espacio deatributos U(t). A partir del nodo t se generan dos hijos (t L , t R ) mediante un test booleanosobre los atributos. Esta división subdivide la región original U(t) en dos regiones disjuntasU(t L ) y U(t R ) correspondientes a los nodos hijos t L y t R . La división de los datos en lasregiones U(t L ) y U(t R ) permite realizar una asignación más certera de la clase. Sin embargo,la subsiguiente división del espacio se hace con menos datos, por lo que está sujeta amayor incertidumbre a causa de posibles errores de muestreo.En la figura 2.2 se muestra un ejemplo de un árbol de decisión que divide el espaciode atributos en regiones correspondientes a dos clases: círculo y cuadrado. El gráfico de laparte superior izquierda de la figura muestra el espacio de atributos del problema de clasificación.En él se representan ejemplos de ambas clases. Algunos de estos ejemplos hansido enumerados en una tabla a la derecha del gráfico, indicando la clase a la que pertenecen.En el espacio de atributos también se han dibujado las líneas de división del espacio
Page 1: Universidad Autónoma de MadridEscu
Page 5 and 6: AgradecimientosAgradezco muy sincer
Page 7 and 8: Índice generalAgradecimientosV1. I
Page 9: A.1.12. Sonar . . . . . . . . . . .
Page 12 and 13: 4.5. Número medio de clasificadore
Page 14 and 15: 3.5. Pseudocódigo de comités IGP
Page 17 and 18: Capítulo 1IntroducciónUn clasific
Page 19 and 20: 3aparecen en el problema concreto d
Page 21 and 22: 5donde se realizan, etc [Dorronsoro
Page 23 and 24: 7algoritmo genera un árbol de deci
Page 25 and 26: de construcción de conjuntos de cl
Page 27 and 28: Capítulo 2Clasificación2.1. Clasi
Page 29: 2.1. CLASIFICACIÓN SUPERVISADA Y T
Page 33 and 34: 2.2. ÁRBOLES DE DECISIÓN: CART Y
Page 41 and 42: 2.3. CONJUNTOS DE CLASIFICADORES 25
Page 47 and 48: 2.4. ANÁLISIS DE SU FUNCIONAMIENTO
Page 55 and 56: 2.5. BAGGING Y BOSQUES ALEATORIOS 3
Page 57 and 58: 2.6. BOOSTING 41ni de los ejemplos
Page 59 and 60: 2.6. BOOSTING 43la decisión del co
Page 61 and 62: 2.6. BOOSTING 45el agotamiento tamb
Page 63 and 64: 2.7. OTROS CONJUNTOS DE CLASIFICADO
Page 65: Parte INuevos conjuntos de clasific
Page 68 and 69: 52 CAPÍTULO 3. CONJUNTOS DE ÁRBOL
Page 80 and 81:
64 CAPÍTULO 3. CONJUNTOS DE ÁRBOL
Page 82 and 83:
Page 84 and 85:
Page 86 and 87:
Page 88 and 89:
72 CAPÍTULO 4. ALTERACIÓN DE ETIQ
Page 90 and 91:
Page 92 and 93:
Page 94 and 95:
Page 96 and 97:
Page 98 and 99:
Page 100 and 101:
Cuadro 4.3: Resumen de registros vi
Page 102 and 103:
Page 104 and 105:
Page 106 and 107:
Page 108 and 109:
Page 111 and 112:
Capítulo 5Orden de agregación y p
Page 113 and 114:
5.2. ORDENACIÓN DE CLASIFICADORES
Page 115 and 116:
5.2. ORDENACIÓN DE CLASIFICADORES
Page 117 and 118:
5.3. OTROS TRABAJOS RELACIONADOS 10
Page 119 and 120:
5.4. ALGORITMOS DE ORDENACIÓN 103c
Page 121 and 122:
5.4. ALGORITMOS DE ORDENACIÓN 105M
Page 123 and 124:
5.4. ALGORITMOS DE ORDENACIÓN 107F
Page 125 and 126:
5.4. ALGORITMOS DE ORDENACIÓN 1093
Page 127 and 128:
5.4. ALGORITMOS DE ORDENACIÓN 111n
Page 129 and 130:
5.4. ALGORITMOS DE ORDENACIÓN 113o
Page 131 and 132:
5.4. ALGORITMOS DE ORDENACIÓN 115s
Page 133 and 134:
5.4. ALGORITMOS DE ORDENACIÓN 1171
Page 135 and 136:
5.5. RESULTADOS EXPERIMENTALES 119L
Page 137 and 138:
5.5. RESULTADOS EXPERIMENTALES 1210
Page 139 and 140:
5.5. RESULTADOS EXPERIMENTALES 123p
Page 141 and 142:
Page 143 and 144:
Page 145 and 146:
Page 147 and 148:
Cuadro 5.7: Media del error de entr
Page 149 and 150:
Cuadro 5.9: Prueba-t para comparar
Page 151 and 152:
5.6. CONCLUSIONES 135Cuadro 5.10: T
Page 153 and 154:
Capítulo 6Conclusiones y trabajo f
Page 155 and 156:
139primeros elementos de acuerdo co
Page 157 and 158:
Apéndice ADescripción de los conj
Page 159 and 160:
143A.1.4.Pima Indian DiabetesPima I
Page 161 and 162:
145A.1.8.IonosphereIonosphereReposi
Page 163 and 164:
147A.1.12.SonarSonarRepositorio UCI
Page 165 and 166:
149A.1.16.VehicleVehicle silhouette
Page 167 and 168:
151A.1.19.WineWineRepositorio UCI(F
Page 169 and 170:
Bibliografía[Aha et al., 1991] Dav
Page 171 and 172:
BIBLIOGRAFÍA 155[Dietterich y Kong
Page 173 and 174:
BIBLIOGRAFÍA 157[Haskell et al., 2
Page 175 and 176:
BIBLIOGRAFÍA 159[Martínez-Muñoz
Page 177 and 178:
BIBLIOGRAFÍA 161[Schapire et al.,
show all

clasificaci´on mediante conjuntos - Escuela Politécnica Superior

Create successful ePaper yourself

Delete template?

Save as template?