Resumo sobre os métodos de escalonamento Acontecimentos que ...

Resumo sobre os métodos de
escalonamento
Quando é invocado o escalonador?
Modo de decisão
preemptivo: escalonador chamado periodicamente
(orientado para fatias de tempo) ou quando o estado
do sistema muda
não- preemptivo: escalonador chamado quando um
processo termina ou se bloqueia
Como é escolhido o processo que vai ocupar o CPU?
Avaliação da importância do processo: P = Priority(p)
Regras de desempate
aleatórias
cronológicas (FIFO)
cíclica (por rotação - round robin)
02-12-2007 SO - 07/08 1
Tamanho do time-slice
Sistemas interactivos (time-sharing systems)
O tempo de resposta é o critério essencial
Escolha da fatia de tempo q (time-slice)
determina o tempo de resposta e o overhead:
quando q → ∞, RR aproxima-se do FIFO
quando q → 0, o tempo perdido em trocas de
contexto → 100% (logo, produtividade → 0)
quando q >> overhead de troca de contexto, n
processos CPU bound executam
concorrentemente a 1/n da velocidade do CPU
02-12-2007 SO - 07/08 3
Comparação de algoritmos
Modelação determinísitca – pega-se numa
carga definida (workload) e simula-se o
desempenho de cada caso
02-12-2007 SO - 07/08 5
Acontecimentos que afectam o
desempenho do CPU
Trocas de contexto: Fim do time slice, bloqueio ...
Um número excessivo de trocas de contexto, aumenta
a utilização do CPU e diminui a performance das
aplicações
estimativa do custo de uma troca de contexto são
10.000 ciclos de CPU
Excepções/interrupções: faltas de página, overflow,
underflow, emulação de vírgula flutuante
switch para modo kernel, salvaguarda dos registos,
tratamento da situação
pode originar uma troca de contexto (p.e. por falta de
página)
02-12-2007 SO - 07/08 2
Escalonamento por grupos
Fair Share Scheduler: processos são inseridos
em grupos. A cada grupo é atribuído pelo
administrador uma percentagem mínima do
tempo de CPU
O tempo que sobra é dividido de acordo com
as mesmas percentagens
Dentro do grupo é usado o método de
escalonamento normal
02-12-2007 SO - 07/08 4
Métricas de ocupação do CPU
Globais
Tamanho da fila READY: valor corrente do número de
processos no estado READY
Carga média (load average): média dos últimos 1, 5 e
15 minutos do tamanho da fila READY
número de chamadas ao sistema
número de trocas de contexto
Locais ao processo
%user, %system, real time, tempo na fila READY
número total de chamadas ao sistema e seu tipo
número de trocas de contexto e de CPU (se aplicável)
02-12-2007 SO - 07/08 6
1

O que são valores “normais”?
Depende do tipo da aplicação (batch, interactiva,
servidor/cliente, CPU bound ou IO bound). Um ponto
importante é o tempo passado na fila READY
Heurísticas conhecidas para sistemas UNIX
mais de 3000 chamadas ao sistema / seg podem levar a
que o CPU fique saturado. As trocas de contexto devem
ser 1/3 disto
Relação system time/user time
70% user 30 % system OLTP
90% user 10 % systema Computação intensiva
percentagens elevadas de tempo de sistema junto
com “idle time” podem indicar problemas de memória
ou de contenção nos CPUs
02-12-2007 SO - 07/08 7
Resolução de gargalos no(s) CPU(s)
Soluções hardware
CPU mais rápido, multiprocessador, mais cache, TLB
maior. Nem todas as aplicações tiram partido de um
multiprocessador
Soluções software incluindo afinação do sistema
fair share scheduler, nice, utilização das classes RT,
mudar o time slice, mudar o perfil de utilização
(horário, batch), afinidade de processadores
Optimização da aplicação
optimizações do compilador e “profiling” - reescrita
das rotinas identificadas
diminuir o uso de chamadas ao sistema “caras”
usar threads para tirar partido do paralelismo real
02-12-2007 SO - 07/08 9
Escalonamento para processos “timesharing”
Todososprocessostêmigualimportância
O consumo de tempo de CPU diminui a
prioridade
A permanênciaemesperaaumentaa
prioridade
Os processos dentro do sistema têm a prioridade
aumentada (em especial quando se bloqueiam à
espera de I/O)
Com preensão
Modificação externa da prioridade (UNIX
nice/renice)
02-12-2007 SO - 07/08 11
Sintomas de que o gargalo é o CPU
Saturação do CPU
idle time 0 %
user time muito alto
system time muito alto
muitas chamadas ao sistema: criação de
processos (fork/exec são as chamadas ao sistema
mais “caras”, muitos pacotes recebidos
falhas na cache
coerência das caches nos multiprocessadores,
provocada por trocas de CPU ou actividade de IPC
Filas ready muito grandes
Espera por recursos
02-12-2007 SO - 07/08 8
Escalonamento de processos
no Linux
Linux usa dois algoritmos de escalonamento:
Um para processos interactivos (time sharing)
Um para processos tempo real
o escalonamento de longo prazo é externo ao
kernel (comandos batch ou nqs)
O algoritmo a aplicar depende da classe de
escalonamento do processo
Para processos time-sharing, o Linux usa um
algoritmo com múltiplas filas de processos
prontos com prioridades variáveis
02-12-2007 SO - 07/08 10
Escalonamento de processos "RT"
Dentro dos processos realtime, o Linux
implementa classes de escalonamento FIFO e
RR: em ambos os casos, cada processo tem
uma prioridade
O escalonador escolhe o processo com maior
prioridade: em caso de igualdade, corre o que
espera há mais tempo
Na classe FIFO os processes executam até
terminarem ou se bloquearem (sem preensão)
Os processos em RR utilizam uma fatia de
tempo (com preensão)
02-12-2007 SO - 07/08 12
2

Processos RT
Prioridade mais elevada que processos “time sharing”
Características dum processo tempo real (RT)
objectivo: cumprir “deadlines”
pouca ocupação de memória, ligado com bibliotecas
estáticas
“locked” em memória (tempo de arranque minimizado)
corre durante pouco tempo - passa o processamento
pesado para um processo “normal”
foi objecto de “debug” sistemático
corre pouco frequentemente
02-12-2007 SO - 07/08 13
Facilidades típicas dos SOs para
Tempo-Real
Trocas de contexto rápidas
Pequena ocupação de memória (memory footprint)
Resposta muito rápida a interrupções do exterior
Suporte de multiprogramação (Multitasking) com
dispositivos de comunição entre processos
Minimização dos intervalos de tempo em que as
interrupções estão desligadas (disabled)
“Tasks” podem adormecer por períodos fixos de
tempo (melhor precisão que num sistema generalista)
Alarmes e temporizadores
Minimização da Latência
Latência de evento éo tempo quedecorreentre
a ocorrência do evento e a execução da rotina que
o trata.
02-12-2007 SO - 07/08 17
Escalonamento tempo real
Os processos RT podem ter a prioridade fixa
(HP-UX, W2K, Linux)
Vários algoritmos de escalonamento entre
processos RT
POSIX RTsched (Real-Time Scheduler)
SCHED_FIFO - sem preensão
SCHED_RR - round robin dentro da mesma
prioridade
SCHED_RR2 - fatia de tempo depende da
prioridade
02-12-2007 SO - 07/08 14
Característics de SOs para “hard real time”
Determinismo
As operações são executadas em tempos fixos
pré-determinados ou a intervalos de tempo
pré-determinados
Limite ao tempo que SO demora a fazer
“acknowledge” a uma interrupção
Tempo de resposta
Quanto tempo, depois do “acknowledgment”,
começa a correr a rotina de atendimento
Quanto tempo demora a correr a tarefa que
trata o evento
Latência de despacho
Latência de despacho éo tempo queo
escalonador necessita para passar um processo a
pronto e colocar a correr outro.
02-12-2007 SO - 07/08 18
3

Escalonamento para tempo real
Estático baseado em tabelas (table-driven)
determina em tempo de execução o momento em que
um processo começa (ou recomeça) a executar
Estático com preensão e baseado nas prioridades
Dinâmico baseado no cumprimento de tempos limite
(deadlines)
Escalonamento com preensão baseado em prioridades
pode incluir preensão imediata: permite que um
processo responda a eventos muito rapidamente
Problema da inversão das prioridades
Em qualquer sistema com prioridades
Um processo p2 pode bloquear por muito tempo um
processo de mais alta prioridade p1
se p1 necessita de um recurso detido por p2, não
pode interromper o processo de mais baixa
prioridade dentro da respectiva SC (secção crítica)
Soluções:
Executar a SC à prioridade do processo p1 que também
usa a SC
Herança dinâmica de prioridades:
p2 está na SC
prioridade(p1) > prioridade(p2)
p1 tenta entrar na SC ⇒ p2 herda a prioridade de
p1 enquanto executa a SC
02-12-2007 SO - 07/08 21
SMP:Symmetric Multiprocessor
Memória Partilhada
Processor Processor Processor
Cache Cache
Cache
Main
Memory
I/O
Subsystem
. . .
Exemplo: Escalonamento baseado em
Deadlines
As aplicações de tempo real não estão interessadas
em velocidade absoluta mas na conclusão de tarefas
num dado prazo limite (deadline)
Escolher para correr a tarefa com a “deadline” mais
próxima
maximiza a possibilidade de cumprimento dessas
“deadlines”
Tem de levar em conta todas as deadlines pendentes e
tempos de tratamento de cada processo
Escalonamento para múltiplos
processadores
Problema com várias vertentes e longe de
estar resolvido
Soluções para:
CPUs homogéneos
Multiprocessamento simétrico: qualquer CPU
pode executar qualquer processo que esteja
na fila READY
Tempo de acesso uniforme à memória (UMA)
02-12-2007 SO - 07/08 22
Partilha da carga (load sharing)
Solução assimétrica: decisões de escalonamento
pertencem a um só CPU. Evita o acesso paralelo à fila
READY
cada CPU uma fila ready (ou conjunto de filas)
Solução simétrica (SMP): Fila Ready comum a todos
os CPUs
Os CPUs fazem auto-escalonamento: quando um CPU
fica livre, vai à fila READY comum escolher um
processo para correr
É preciso garantir que a manipulação da fila READY é
uma secção crítica em paralelismo real
Afinidade de caches: de preferência,um
processo/threads corre sempre no mesmo CPU
02-12-2007 SO - 07/08 24
4

Afinidades em multiprocessadores
SMP
Filhos são colocados no mesmo CPU que o pai
periodicamente (por exemplo de 1 em 1s) a
carga de cada CPU é analisada e se a
diferença é significativa são movidos um ou
mais processos
quando um processo passa de bloqueado a
pronto: é colocado na fila READY do mesmo
processador em princípio, mas pode mudar se
a carga estiver desiquilibrada
02-12-2007 SO - 07/08 25
Evolução para um kernel multiprocessador
Suporte hardware para secções críticas
Test and set, Spin Locks
Não basta ter as interrupções fechadas, para
garantir secções críticas dentro do kernel
A eficiência da exploração dos múltiplos
processadores está ligada à granularidade dos
“locks” dentro do kernel:
kernel pouco reentrante: “lock” único que
serializa o acesso ao kernel
Poucos “locks” por longo tempo
Muitos “locks” por pouco tempo (preferível)
02-12-2007 SO - 07/08 27
Problemas dos multiprocessadores
Contenção no acesso a recursos- locks e spin locks
(para recursos detidos durante pouco tempo)
Coerência das caches- desaparece quando um
processo muda de CPU
Prioridades - não há a garantia que os N processos de
prioridade mais elevada estejam a correr nos N CPUs
(fila READY por CPU)
Não escalabilidade resultante de sincronização entre
processos da aplicação
Deadlocks e erros de programação mais prováveis
uma vez que há paralelismo real
02-12-2007 SO - 07/08 29
Afinidade de processadores
Fixa um processo num dado CPU- utilizado para
acelerar comunicação entre processos (por exemplo
minimizando os problemas de coerência de caches)
Gang scheduling: um grupo de processos é atribuído a
um grupo de processadores
os threads da mesma aplicação são colocados em CPUs
distintos o que aumenta o paralelismo e diminui os
problemas de troca de contexto, coerência de caches
e falhas no TLB
02-12-2007 SO - 07/08 26
Spinning versus Switching
Nalguns casos o CPU tem de esperar
p.e. espera para adquirir acesso a uma lista
Há várias soluções:
spinning gasta ciclos de CPU
switching também usa ciclos de CPU
É possível tomar decisões diferentes cada vez
que se encontra um “mutex” fechado
02-12-2007 SO - 07/08 28
5