Algoritmos Genéticos Y Optimización Heurística - Universidad ...

Algoritmos Genéticos Gen ticos
Y
Optimización Optimizaci n Heurística
Heur stica
Dr. Adrian Will
Grupo de Aplicaciones de Inteligencia Artificial
Universidad Nacional de Tucumán Tucum
awill@herrera.unt.edu.ar

Optimización Optimizaci n Tradicional

Problemas Reales

Problemas Reales – Función Funci n de Rastrigin

Medición Medici n en Fábrica F brica -
2003

Modelo Matemático Fábrica - 2003

Algoritmos Determinísticos
Determin sticos
Requieren fuertes hipótesis hip tesis sobre la función, funci , en
general globales (continuidad, existencia de
derivadas, convexidad, etc.)‏ etc.) ‏
Convergencia a un óptimo ptimo garantizada, garantizada,
pero en
general es un óptimo ptimo local, y no es posible
comprobar si es un óptimo ptimo global sin hipótesis hip tesis sobre
la función funci
Tiempo máximo m ximo y tiempo promedio de convergencia
conocidos
Repetir el algoritmo, algoritmo,
con la misma función, funci n, y
partiendo de las mismas condiciones iniciales,
produce siempre el mismo resultado

Random Search Heuristics
No requieren hipótesis hip tesis sobre la función. funci . Funcionan
bien incluso en el caso en que no sea función funci n sino
sólo lo simulación simulaci n (Genetic ( Genetic Programming)‏
Programming ‏
Funcionan bien y producen buenas soluciones en
casos muy complejos (NP-Hard (NP Hard, , problemas con gran
cantidad de optimos locales)‏ locales) ‏
Convergen al óptimo ptimo global o cerca de él l (“Near Near
optimal solutions” solutions - Algoritmos Genéticos) Gen ticos)‏ ‏
Tiempo Máximo M ximo y Velocidad de convergencia,
convergencia,
en
general no conocidos

Aplicaciones
Problemas de Job Scheduling o Timetables (reorganizar
tareas de una fábrica, f brica, oficina, etc., de modo de minimizar
algo, normalmente tiempo o costo)‏ costo) ‏
Problemas de Diseño Dise o Automático Autom tico o Asistido (diseño (dise o de
hélices lices de barcos, Turbinas para motores de avión, avi n,
antenas para naves espaciales, reactores nucleares)‏ nucleares) ‏
Problemas Financieros (Optimización (Optimizaci n de Inversiones,
Predicción Predicci n (GP))‏ (GP)) ‏
Optimización Optimizaci n de Redes Eléctricas El ctricas o de Telecomunicaciones
(Transformadores, Celulares, etc.)‏ etc.) ‏
Diseño Dise o de Semiconductores y Compiladores
Biología Biolog a Molecular (Protein ( Protein Folding, Folding,
Descubrimiento de
Genes y marcadores relevantes para Cáncer, C ncer, etc.)‏ etc.) ‏

Ejemplo - Travelling Salesman
Problem
1
2
5
3
4

Ejemplo - Travelling Salesman
Problem
1
Solución (1 2 5 3 4)
2
5
3
4

Ejemplo – Travelling Salesman Problem
“Dado Dado un grafo completo con pesos, encontrar un ciclo
Hamiltoniano de costo mínimo m nimo”
Total de Soluciones: (n-1)!/2. (n 1)!/2. Para 60 ciudades, 0.5*59! ~
10 80
NP-Hard NP Hard Problem
Fijar matriz de costos D, y c real, y preguntar si Existe una
ruta de costo total menor que c NP Completo
Gran cantidad de variantes de interés inter s práctico pr ctico (Simétrico, (Sim trico,
Asimétrico, Asim trico, TSP with Time Windows, Travelling Polititian
Problem, Problem,
cantidad de vendedores fijos, problemas de
transporte con restricciones de entregas, etc.)‏ etc.) ‏
Caso Grafo No existen todas las rutas
Caso Euclídeo Eucl deo Plano, existen todas las rutas, NP-Hard NP Hard
aunque se elimine la condición condici n “recorrer recorrer cada ciudad solo
una vez”, vez , por la desigualdad triangular

Travelling Salesman Problem - Algoritmos
Determinísticos
Determin sticos
Branch and Bound
Programación Programaci n Lineal
Heurísticos Heur sticos
Nearest Neighbour
2-opt opt, , 3-opt 3 opt, , Variable-opt
Variable opt (Lin Lin-Kernighan Kernighan-Johnson Johnson) ) –
Mutation operator and EA
Algoritmos Aleatorios (cadenas de Markov, Markov,
operadores de inversión) inversi n)‏ ‏
Algoritmos Genéticos, Gen ticos, Simulated Annealing, Annealing,
Colonias
de Hormigas

Travelling Salesman Problem - AG

Travelling Salesman Problem - AG

Travelling Salesman Problem - AG

Travelling Salesman Problem - AG

Travelling Salesman Problem - AG

Travelling Salesman Problem - ACO

Travelling Salesman Problem - ACO

Travelling Salesman Problem - ACO

Travelling Salesman Problem - ACO

Travelling Salesman Problem - ACO

Travelling Salesman Problem -
TSPLib

Travelling Salesman Problem -
TSPLib

Travelling Salesman Problem -
TSPLib

Travelling Salesman Problem -
TSPLib

Travelling Salesman Problem -
TSPLib

No Free Lunch Theorem
The “No No Free Lunch” Lunch theorems for search and optimization apply to
finite spaces and algorithms that do not resample points. points.
All
algorithms that search for an extremum of a cost function
perform exactly the same when averaged over all possible cost
functions. functions.
So, for any search/optimization algorithm, any
elevated performance over one class of problems is exactly paid
for in performance over another class. [Wolpert [ Wolpert and Macready, Macready,
1997].
“An An Algorithmicist looks at no free lunch” lunch (Culberson 1996)‏ 1996) ‏

No Free Lunch Theorem
No hay un Algoritmo Perfecto, que resuelva bien todos los
problemas.
Para cada problema o clase de problemas, se debe diseñar dise ar
un algoritmo específico espec fico. . Mientras más m s limitado el problema
y más m s conocimiento sobre el problema particular
(“Problem Problem-Specific Specific Knowledge”) Knowledge ) se incorpore al algoritmo,
mejor será ser el rendimiento del algoritmo en la clase de
problemas planteado.
Sólo lo se utilizará utilizar un algoritmo general, sin incorporar
conocimiento del problema, cuando no exista otra solución soluci n
(por problemas de tiempo por ejemplo)‏ ejemplo) ‏

Cuando Aplicar métodos m todos Heurísticos Heur sticos
Cuando no se pueda aplicar otro método m todo, , en general
por falta de hipótesis hip tesis para aplicar algoritmos
determinísticos
determin sticos (funciones no derivables o no
continuas, o que no son funciones, etc.)‏ etc.) ‏
Problemas ruidosos o mal condicionados (los
algoritmos heurísticos heur sticos o aleatorios tienden a ser
robustos y poco sensibles a la presencia de ruido)‏ ruido) ‏
Existencia de gran cantidad de óptimos ptimos locales
(donde los algoritmos tradicionales basados en
derivadas quedan atrapados)‏ atrapados) ‏
Problemas reales de gran complejidad, complejidad,
donde es
suficiente con encontrar una buena solución soluci n al
problema, aunque no sea necesariamente el óptimo ptimo
global