Au tour de VAST Data d’exploiter les capacités de calcul confidentiel de NVIDIA.

Depuis la génération Hopper (2022), il est possible de créer des enclaves unifiées entre CPU et GPU. Les communications entre les VM passent par un canal chiffré.

Sur cette base, VAST Data a greffé à son orchestrateur DataEngine une brique DataEnclave. Elle est en préversion (lancement commercial au premier trimestre 2027). Promesse : éviter le déploiement sur des infrastructures non maîtrisées. Aussi bien du point de vue des fournisseurs de modèles que des entreprises qui les utilisent.

Un système d'attestation garantit que les workloads ne s'exécutent que dans les VM confidentielles appropriées. Le serveur est externe au cluster. VAST assure notamment la compatibilité avec le protocole Trustee du projet CNCF Confidential Containers. Pour les déploiements en mode déconnecté, il s'appuie sur Fortanix. Les deux parties apportent leur propre KMS.

Au sein des VM, le déchiffrement des poids se fait avec des clés distinctes de celles qui servent à déchiffrer les workloads. Ces derniers sont livrés sous forme d'applications VAST - associant le service d'inférence et la configuration DataEngine.

DataEnclave peut, pour la gestion d'état, créer des volumes chiffrés éphémères et persistants. On peut éventuellement le déployer avec des modèles de partenaires préchargés dans le registre intégré. Cohere, Deepgram et NVIDIA, entre autres. Côté serveurs, Cisco et Supermicro se sont alliés à la démarche. Côté cloud, ils sont pour l'instant quatre : Buzz, G42, Nscale et Sharon AI.

VAST Data admet qu'il existe un surcoût en compute... qui « peut dépasser 10 % ».

Illustration principale générée par IA