PVFS2 Un sistema de archivo paralelo para asegurar rendimiento ...

PVFS2Un sistema de archivo paralelo para asegurarrendimiento, seguridad y recuperacion de fallosPrimer Trabajo de la asignatura Diseño de Sistemas OperativosAutor: FABRIZIO SAPONARO

Que vamos a ver...●●●se introducen los sistemas de archivos paralelos;se habla del PVFS2, de cómo el almacena y distribuye los datos y del autómata finitode I/O, también se hace referencia a la instalación de PVFS2 sobre un clúster yaexistente;se introduce otro sistema de archivo llamado DePVFS2 que tiene como objetivomejorar el anterior y se habla de la técnica de generación de código de redundanciamás importante para ello.

Sistema de archivo paralelo●●Servicio ofrecido desde el sistema operativo o desarrollado a nivel aplicativoque es capaz de guardar y ofrecer los datos disponibles en el ámbito de unared informática.Propriedades:– transparencia;– concurrencia;– tolerancia a los fallos;– portabilidad;– seguridad;– buenas prestaciones.

Arquitectura de un sistema de archivos paralelo●●●●●Se utiliza un sistema cliente-servidorpara la comunicación de las maquinasconectadas a la red.Los nodos computacionalesrepresentan la parte cliente delsistema.Los servidores de archivos son losnodos destinados a almacenar losdatos.Los servidores de directorios son losnodos que tienen las informacionesrelativas a los datos.Los clientes y los servidores hacenoperaciones de I/O paralelos a travesla interfaz Message PassingInterface.

PVFS2 Parallel Virtual File System 2●Caracteristicas generales:– Desarollado para obtener grandesmejoras en la lectura y en laescritura de grandes cantidades dedatos sobre nodos de red;– Semantica muy sencilla– Escalable, portátil y compatiblecon la MPI.– Arquitectura cliente-servidor,hecha por niveles.– Lado cliente y lado servidorparticularizados según el papeldesarrollado por el nodo en elsistema.

Arquitectura Software de PVFS2Nivel Aplicativo:Lado cliente:●●Se proporciona un elevado nivel de abstracción.La librería del cliente (System Interface) puede dialogar a traves dos interfaces anivel usuario (UserLevel Interface):– la interfaz kernel;– la interfaz de MPI.Lado servidor:●Se distinguen dos tipos de servicios:– servidor de metadata, que conserva los metadatos;– servidor de storage, que se ocupa del almacenamiento de los archivos.

Arquitectura Software de PVFS2Comunicación con el nivel físico:●Buffered Message Interface (BMI):– interfaz abstracta para acceder a los servicios ofrecidos por la red;●– permite el diálogo entre clientes y servidores a traves un protocolo de peticionesy respuestas.TROVE:– interfaz que se ocupa de configurar y utilizar el espacio de storage;– contiene datos y metadatos;Transferencia de los datos:●Capa Flows:– permite el intercambio de los datos entre dos endpoint (memoria, endpoint BMI,endpoint TROVE);– convierte mensajes complejos en cadenas de byte.

Arquitectura Software de PVFS2Job Manager●Capa Job: cumple las interfaces BMI, Flow y TROVE bajo una única interfaz común,gestionandole y notificando al nivel superior como se comportan.System Interface y la interacción con los servidores●Utilizada por las aplicaciones cliente para acceder a los servidores del sistema dearchivos.Protocolo:●●se programa en el lado cliente una StateMachine para interactuar con losservidores;En el lado servidor se descodificaran los mensajes del cliente a partir desdeunexpected message de BMI y se empieza la state machine relativa; después sepondrá en espera de un nuevo unexpected message (Server Main Loop).

Elaboración de las peticiones: State Machine lado cliente

Elaboración de las peticiones: State Machine lado servidor

Dependable PVFS2●●Es una evolución de PVFS2.Se introducen mecanismos para el Fault Tolerance:– se añaden códigos de redundancia (erasure code);– se hace mas restrictiva la semántica de actualización de los archivos;●●●– se añade un nuevo componente a nivel de aplicación: el Modulo deRecuperación.Se puede efectuar la detención del error, gracias a las informaciones deredunciancia;Se asegurando la consistencia y la disponibilidad del sistema de archivo.El eventual fallo de un cliente, lleva a la inconsistencia en los datos; talsituación se soluciona a posteriori volviendo a calcular la información deparidad.

Erasure Code - ejemploSuponemos tener a disposición 4 nodos de storage y que queremos introduciren el sistema un cierto nivel de fiabilidad.Una técnica que utiliza los Erasure Code en una configuración “2 de 4”, es deciren que dos nodos son para los datos y los otros dos para la redundancia, sepuede tolerar los fallos reconstruyendo desde b y f(a,b) la información a, dondepara f(a,b) se entiende el erasure code correspondiente.

Consideraciones finales●●El problema del PVFS2 es que no permite gestionar muy bien los fallos– Hecho que no pasa en su versión mejorada de DePVFS2 gracias a los ErasureCode.Sería bueno hacer test utilizando un clúster y PVFS2 para que se veadonde el sistema podría ser mejorado.Otimizaciónes posible:●●Mejorìa de la lectura en ausencia de fallos, por ejemplo efectuandopeticiones discontinuas a los servidores, con el auxilio de las funciones deMPI para las peticiones que PVFS2 soporta.Garantizar redundancia poniendo los datos y su réplica en archivosseparados en el servidor, tal vez con un tipo de erasure code que lo permita.

Bibliografia[1] Generoso Paolillo, “Strategies for achieving dependability inParallel File Systems, Naples, Noviembre 2006[2] Weikuan Yu, Shuang Liang and D.K. Panda, PVFS2 over Quadrics:Design, Implementation and Performance Evaluation, OSU-CISRC,Diciembre 04[3] Tobias Eberle, “Distribution functions in PVFS2, hints inMPICH2 and performance measurement”, Abril 2005[4] PVFS2 Development Team, “A Quick Start Guide to PVFS2”, 16 Apr2008