Interface générique de virtualisation des accélérateurs

Description d'une architecture commune pour la virtualisation des accélérateurs

L'interface générique de virtualisation dissocie la partie virtualisation qui est open-source de la partie constructeur qui est spécifique à l'accélérateur (driver matériel). Cette architecture ainsi que les éléments qui la composent sont représentés sur la figure ci-dessous.

Architecture haut niveau de la virtualisation d'accélérateurs

L'architecture de virtualisation est composée des trois composants principaux suivant:

• Le Virtual Accelerator (vACC) Manager est en charge de la liaison entre les interfaces de l'accélérateur et les machines virtuelles, par l'intermédiaire de VFIO. Cette liaison est réalisée à travers l'interface de virtualisation de chaque accélérateur. Ce composant est capable de gérer plusieurs type d'accélérateur (GPUs, FPGAs ou tout autre type d'accélérateur); en effet la communication avec le matériel s'effectue par l'interface de virtualisation, or celle-ci permet au vACC manager de n'avoir besoin d'aucune information spécifique à l'accélérateur pour fonctionner. Pour permettre cette abstraction, chaque accélérateur est représenté dans le vACC manager comme un accélérateur virtuel (vACC) dont la structure est commune à tous les accélérateurs, et qui comporte plusieurs sous-éléments virtuels ("virtual contexts", vCTXs). Ces sous-éléments représentent généralement les unités de calcul qui seront associées aux machines virtuelles. Cependant, une unité de calcul pourra être associée directement à une machine virtuelle ou, multiplexée entre plusieurs. Ce détail d'architecture est généralement transparent pour l'interface de virtualisation grâce au driver de l'accélérateur.
• L'Interface de Virtualisation définit plusieurs fonction à implémenter pour manipuler les accélérateur supportant la virtualisation (GPU, FPGA, etc.). Les fonctions ont été définies en présupposant des spécificités pour les accélérateurs supportant la virtualisation. L'interface de virtualisation comprend des méthodes pour créer et détruire des sous-éléments virtuels (vCTXs). Elles peuvent être utilisées dès que l'accélérateur a été enregistré par son driver dans le vACC manager.
• Le driver matériel du constructeur est un driver Linux qui contient, comme un driver classique, du code spécifique au matériel, mais aussi l'implémentation des fonctions définies par l'interface de virtualisation. Le driver d'un composant ayant pour but d'utiliser l'interface de virtualisation devra préalablement s'enregistrer dans le vACC manager. Cela est généralement effectué dans la fonction "probe" du driver, le reste du code restant inchangé, par rapport à un driver traditionnel. Ce driver implémentant les fonctions supplémentaires nécessaire à l'utilisation l'interface de virtualisation communiquera ces dernières lors de l'enregistrement de l'accélérateur dans le vACC manager.

Dans la figure ci-dessous, on peut voir le fonctionnement global du système, montrant l'interface entre le matériel et le logiciel. L'accélérateur représenté est composé de plusieurs sous-éléments matériel (unités de calcul) qui peuvent chacune exécuter des tâches en parallèle. Ce schéma reflète l'architecture actuelle de la plupart des composants supportant la virtualisation (comme les GPUs). Cette architecture permet à plusieurs machines virtuelles de soumettre plusieurs tâches concurrentes à l'accélérateur, tout en conservant des performances quasi natives.

Environnement de fonctionnement de la virtualisation des accélérateurs

De plus, et pour démontrer que l'interface de virtualisation est complètement dissociée de tout matériel spécifique, Virtual Open Systems a créé un modèle d'accélérateur générique qui a été écrit dans le langage LISA+. Ce modèle a été intégré à la plateforme d'émulation ARM Fast Models. Il a été créé pour faciliter la diffusion de l'interface de virtualisation au travers d'un exemple simple; les architectes matériels ont maintenant un outil pour tester cette interface sans avoir besoin de créer leur propre matériel supportant la virtualisation.

L'interface générique de virtualisation présentée ici est du plus grand intérêt pour l'informatique haute performance (HPC) car elle permet d'ajuster la charge de calcul, d'augmenter la souplesse du système et de minimiser les coûts, dans un environnement où les applications tireraient partie des accélérateurs pour diminuer le temps de calcul. Ce travail est également intéressant pour tous les autres secteurs de l'embarqué où des environnements virtuels nécessitent beaucoup de ressources graphiques.

Interface générique de virtualisation des accélérateurs: code source

Ce travail a été réalisé dans le cadre du projet européen FP7 SAVE. Tous les composants mentionnés précédemment sont accessibles depuis le site web de Virtual Open Systems. La partie logicielle décrite ainsi que le modèle générique d'accélérateur en LISA+ peuvent être téléchargés, une fois inscrit, à l'URL: http://www.virtualopensystems.com/downloads/products/accelerators_virtualization_interface/vosys-virt-intf.zip

$ wget --save-cookies cookies.txt --post-data 'username=youruname&password=yourpw' \
                                               http://www.virtualopensystems.com/logintrml/
$ wget --load-cookies cookies.txt http://www.virtualopensystems.com/path_to_resource

$ curl -d "username=youruname&password=yourpw" --dump-header headers \
                                               http://www.virtualopensystems.com/logintrml/
$ curl -L -b headers http://www.virtualopensystems.com/path_to_resource > resource

A propos de Virtual Open Systems

Virtual Open Systems est une startup innovante et dynamique spécialisée dans les solutions open source de virtualisation pour Linux/Android, le cloud computing, NFV networking et solutions vSwitch, mixed-criticality systems, virtualisation d'accelerateurs, etc. Virtual Open Systems fournit des solutions efficaces afin d'aider les clients à optimiser les coûts du système et à réduire le cycle de développement des produits pour l'introduction sur le marché, tout en améliorant le contrôle et la sécurité.

Virtual Open Systems propose du conseil technique et des services de support pour le développement et l'intégration de solutions de virtualisation Linux/Android, spécialisés sur la Machine Virtuelle du noyau (KVM) Linux pour les systèmes embarqués multi-coeur et les serveurs basés sur ARM.