Vulnérabilité AI McKinsey : Accès aux données en quelques heures

Vulnérabilité de la plateforme IA de McKinsey : Accès non autorisé à des données confidentielles en quelques heures

Un outil autonome a révélé une vulnérabilité critique dans le système d'intelligence artificielle d'entreprise de McKinsey, nommé Lilli, permettant l'accès à des millions de documents internes et de configurations IA sans authentification. Cet incident souligne les risques inhérents au développement de solutions d'intelligence artificielle de niveau entreprise.

Détails Techniques de la Brèche

Le système Lilli est conçu pour analyser des documents internes, rechercher dans les archives et traiter les demandes des employés de McKinsey. Chaque mois, la plateforme gère plus de 500 000 requêtes provenant de dizaines de milliers d'utilisateurs. Un algorithme de test automatisé a utilisé la documentation API ouverte, identifiant plus de 200 points de terminaison. Plusieurs ne nécessitaient aucune authentification.

Le problème central était une vulnérabilité d'injection SQL au sein du mécanisme de journalisation des requêtes de recherche. Bien que le système gère sûrement les valeurs des paramètres, les noms de champs étaient insérés directement dans les commandes SQL. L'algorithme a analysé les erreurs de service, identifié le motif de la vulnérabilité et généré une requête fonctionnelle pour extraire les données.

Échelle de la Fuite d'Informations

Une fois l'accès initial obtenu, un chemin s'est ouvert vers un vaste dépôt :

• Des dizaines de millions de messages provenant des chats d'entreprise ;
• Des centaines de milliers de fichiers, y compris des présentations, des feuilles de calcul et des rapports ;
• Des données de compte pour des dizaines de milliers d'employés.

Tous les matériaux étaient stockés dans un format non protégé. De plus, les paramètres système de Lilli définissant la logique de l'IA ont été extraits : règles de génération de réponses, restrictions d'accès et méthodes de traitement des données. La vulnérabilité permettait non seulement la lecture, mais aussi la modification de ces paramètres.

Conséquences Commerciales Potentielles

La modification des instructions de l'IA pourrait entraîner des risques significatifs. La plateforme était capable d'émettre des recommandations déformées, de divulguer des informations confidentielles ou de contourner les politiques de sécurité. De telles manipulations se produisent au niveau de la configuration sans modification du code, rendant la détection difficile.

Les outils d'analyse de sécurité standards ont échoué à identifier le problème, malgré le fait que les injections SQL soient connues depuis les années 1990. Cela pointe vers des lacunes dans les processus de développement et de test des systèmes d'IA au sein des grandes cabinets de conseil.

Points Clés à Retenir

• Une vulnérabilité dans l'API Lilli a permis l'accès à des millions de documents internes sans mot de passe ;
• Le comportement de l'IA peut être modifié, entraînant des fuites ou des désinformations ;
• L'incident a été détecté par un outil autonome ; les scanners standards l'ont ignoré ;
• Met en évidence la nécessité d'une validation stricte des entrées dans l'IA d'entreprise ;
• Le risque concerne toutes les entreprises utilisant des assistants IA internes.

Contexte et Importance Sectorielle

Les plateformes IA comme Lilli intègrent d'énormes volumes de données d'entreprise, augmentant la productivité mais élargissant la surface d'attaque. Les causes racines de la vulnérabilité résident dans des approches héritées de traitement des requêtes : intégration directe de paramètres dans SQL sans paramétrisation. Les conséquences dépassent McKinsey — des concurrents comme BCG ou Bain font face à des risques similaires où l'IA est utilisée pour l'analyse des données clients.

Impact Industriel : Investissement accru dans une IA conçue avec la sécurité intégrée. Selon les rapports de cybersécurité, 70 % des incidents d'entreprise sont liés à des vulnérabilités API. Les régulateurs, notamment l'UE avec son AI Act, durcissent les exigences de transparence des modèles. Les entreprises sont contraintes de mettre en œuvre une protection multicouche : requêtes paramétrées, accès selon le principe du moindre privilège et audits réguliers de configuration IA.

— Editorial Team