Données
Fuite de données vers les outils d'IA
Les collaborateurs collent dans des outils publics des contrats, des données clients, du code et des documents internes - hors du contrôle de l'entreprise et souvent hors de l'UE.
Intelligence artificielle · Sécurité de l'IA
Sécurité de l'IA et des LLM : shadow AI, protection des données, tests
La sécurité de l'IA tient en deux questions : que transmettent vos collaborateurs aux outils d'IA que l'entreprise ne contrôle pas, et les applications à base de modèles de langage que vous déployez peuvent-elles être amenées à divulguer des données ou à exécuter des actions non souhaitées ? Nous vous aidons à maîtriser le shadow AI, et nous testons la sécurité des applications LLM selon l'OWASP dans le cadre de nos tests d'intrusion d'applications et d'API.
01Risques
Sécurité de l'IA en entreprise : trois risques majeurs
La sécurité de l'IA couvre la protection des données transmises aux outils et aux modèles d'IA, la résistance aux attaques des applications fondées sur des modèles de langage, ainsi que la maîtrise des actions que l'IA peut exécuter dans les systèmes de l'entreprise.
Applications
Injection de prompt
Des instructions glissées dans la requête ou dans un document analysé par le modèle modifient le comportement de l'application - et peuvent permettre d'extraire les données d'autres utilisateurs.
Agents
Droits excessifs des agents
Un assistant ayant accès à la messagerie, aux fichiers ou aux systèmes de l'entreprise peut exécuter une action que personne n'a demandée s'il dispose de droits plus étendus que ne l'exige la tâche.
02Shadow AI
Shadow AI : reprendre le contrôle sans interdire l'IA
Le shadow AI (ou IA fantôme) désigne l'utilisation d'outils d'IA que l'entreprise n'a pas validés. Une simple interdiction fonctionne rarement : les collaborateurs utilisent l'IA parce qu'elle accélère leur travail. Une approche efficace repose sur trois éléments :
- une politique d'utilisation de l'IA - quels outils sont autorisés, pour quelles catégories de données, qui répond des résultats et comment signaler un problème,
- une alternative sécurisée - un outil d'IA que l'entreprise contrôle : un modèle privé dans l'UE ou un accès aux modèles publics avec protection des données,
- un contrôle technique - là où le risque est le plus élevé, blocage des outils non validés et protection des données avant leur envoi.
Le volet formation est aussi une exigence légale : l'obligation relative à la maîtrise de l'IA du personnel (article 4 du règlement sur l'IA) est présentée dans la section Le règlement sur l'IA en bref.
Enterprise DLP · Zero Trust
SecureWorkspace
Un accès sécurisé aux outils d'IA en entreprise : les données restent sur l'appareil du collaborateur et les contenus sensibles sont pseudonymisés avant l'envoi aux modèles publics.
- Tauri 2, Rust et TypeScript ; chiffrement AES-256-GCM, SQLCipher
- Blocage de ChatGPT, Gemini et Copilot en dehors de l'environnement contrôlé
- Plus de 12 modèles de politiques pour la finance, la santé, le droit, l'industrie et le secteur public
En cours de développement
SecureWorkspace, notre produit (en cours de développement), réunit ces trois éléments dans un seul outil. Nous l'avons construit sur la pile technique décrite sur notre page applications desktop.
03Tests des applications LLM
Tests de sécurité LLM selon l'OWASP
Nous testons les fonctions fondées sur des modèles de langage dans le cadre de nos tests d'intrusion d'applications web et d'API - par la même équipe et dans le même rapport, sans offre distincte.
| Risque | En quoi il consiste | Ce que nous vérifions lors du test |
|---|---|---|
| Injection de prompt | Des instructions cachées dans la requête, ou dans un document, une page web ou un e-mail traités par le modèle, modifient son comportement | Tentatives d'injection directe et indirecte d'instructions, y compris via des documents de la base de connaissances |
| Divulgation d'informations sensibles | Le modèle renvoie les données d'un autre utilisateur, des données du contexte ou des secrets de la configuration | Tentatives de lecture des données d'autres rôles et locataires, contrôle du filtrage des réponses |
| Autonomie excessive (excessive agency) | Un agent ou un assistant dispose d'outils et de droits plus étendus que ne l'exige la tâche, et exécute des actions sans contrôle | Revue des outils et des droits, tentatives de déclencher des opérations hors du périmètre du rôle |
| Divulgation du contexte caché | Fuite des instructions système, de la configuration et des données transmises au modèle en arrière-plan | Tentatives d'extraction des instructions et du contexte, vérification qu'ils ne contiennent pas de données qui ne devraient pas s'y trouver |
| Traitement non sécurisé des sorties | La réponse du modèle est transmise sans validation au navigateur, à une base de données ou à un système (par exemple XSS, injections) | Tests comme pour une application web : la sortie du modèle est traitée comme une donnée saisie par l'utilisateur |
| Faiblesses des vecteurs et des embeddings (RAG) | La recherche dans la base de connaissances ignore les droits d'accès ou permet d'empoisonner l'index | Vérification que la recherche respecte les droits d'accès aux documents, tentatives d'ajout de contenus malveillants |
| Chaîne d'approvisionnement et empoisonnement du modèle | Modèle, bibliothèque ou données d'entraînement provenant d'une source non fiable | Revue de la provenance des modèles et des dépendances, analyse des dépendances (SCA) |
| Consommation illimitée de ressources | Des requêtes qui génèrent des coûts élevés ou bloquent le service | Limites, longueur du contexte, coûts par utilisateur - vérifiés lors du test |
| Désinformation (hallucinations) | Le modèle fournit des informations fausses de manière convaincante | Évaluation sur un jeu de test, obligation de citer les sources, contrôle humain pour les décisions |
Les noms des catégories proviennent de la liste OWASP Top 10 for LLM Applications (les éditions 2025 et 2026 diffèrent par l'ordre et par le nom d'une catégorie). Pour les systèmes dotés d'agents autonomes, nous tenons également compte de la liste OWASP Top 10 for Agentic Applications 2026 - notamment le détournement de l'objectif de l'agent et l'usage abusif des outils.
Le test LLM fait partie du test de l'application dans son ensemble : nous traitons la sortie du modèle comme une donnée saisie par l'utilisateur et vérifions les droits côté serveur. Nous décrivons le périmètre et la méthodologie sur nos pages test d'intrusion d'applications web et pentest API.
04Conception
Comment nous construisons des applications sûres intégrant des modèles de langage
Les droits hors du modèle
C'est l'application qui décide de l'accès aux données et aux outils, selon les droits de l'utilisateur : le modèle ne reçoit pas plus que ce que la personne qui pose la question a le droit de voir.
Des outils réduits au minimum
L'agent ne dispose que des outils et des droits qu'exige la tâche, et les actions ayant des conséquences juridiques ou financières nécessitent la validation d'un humain.
La sortie traitée comme une saisie
Nous validons et encodons la réponse du modèle avant de l'afficher ou de l'enregistrer - comme tout texte saisi par un utilisateur.
Nous appliquons ces principes dans tous nos déploiements d'IA ; nous les décrivons aussi sur nos pages LLM local et développement sécurisé (security by design). Nous échangeons avec vous en anglais ou en polonais.
05Règlement sur l'IA
Le règlement sur l'IA en bref : ce qui concerne la sécurité de l'IA
- Les pratiques interdites en matière d'IA s'appliquent à compter du 2 février 2025, à l'exception des interdictions ajoutées en 2026, applicables à compter du 2 décembre 2026 (art. 113, troisième alinéa, point a), du règlement sur l'IA, tel que modifié par le règlement (UE) 2026/1744).
- À compter du 2 décembre 2026, il est également interdit de mettre sur le marché, de mettre en service ou d'utiliser des systèmes d'IA qui génèrent, sans le consentement de la personne concernée, des contenus réalistes représentant les parties intimes d'une personne identifiable ou cette personne se livrant à des activités sexuellement explicites, ainsi que des contenus représentant des abus sexuels sur des enfants (art. 5, par. 1, points ba) et bb), et art. 113, troisième alinéa, point a), du règlement sur l'IA, tel que modifié par le règlement (UE) 2026/1744).
- Les fournisseurs et les déployeurs de systèmes d'IA prennent des mesures pour favoriser le développement de la maîtrise de l'IA au sein de leur personnel, sans être tenus de garantir un niveau déterminé de maîtrise pour chaque personne (art. 4, par. 1, du règlement sur l'IA).
- Le fournisseur d'un système d'IA destiné à interagir directement avec des personnes veille à ce que celles-ci soient informées qu'elles interagissent avec un système d'IA, sauf si cela est évident (art. 50, par. 1, du règlement sur l'IA).
- Les sorties des systèmes qui génèrent des contenus synthétiques de type audio, image, vidéo ou texte sont marquées dans un format lisible par machine comme ayant été générées artificiellement (art. 50, par. 2, du règlement sur l'IA).
- Les exigences applicables aux systèmes d'IA à haut risque de l'annexe III (par exemple recrutement, notation de crédit, assurance-vie et assurance maladie) s'appliquent à compter du 2 décembre 2027 (art. 113, troisième alinéa, point c), du règlement sur l'IA, tel que modifié par le règlement (UE) 2026/1744).
- La violation des obligations des opérateurs (notamment celles des articles 16, 26 et 50) est passible d'une amende pouvant aller jusqu'à 15 000 000 EUR ou 3 % du chiffre d'affaires, le montant le plus élevé étant retenu (art. 99, par. 4, du règlement sur l'IA).
- La Commission pour le développement et la sécurité de l'intelligence artificielle (KRiBSI) est à la fois l'autorité de surveillance du marché des systèmes d'IA et le point de contact unique (art. 5, par. 1 et 2, de la loi polonaise sur les systèmes d'intelligence artificielle).
- Un système d'IA à haut risque qui satisfait aux exigences du CRA est réputé satisfaire aux exigences de cybersécurité de l'article 15 du règlement sur l'IA (art. 42, par. 3, du règlement sur l'IA).
Le CRA est le règlement sur la cyberrésilience (règlement (UE) 2024/2847).
Questions fréquentes
Qu'est-ce que le shadow AI ?
C'est l'utilisation par les collaborateurs d'outils d'IA que l'entreprise n'a pas validés et ne contrôle pas - le plus souvent des chatbots et assistants publics dans lesquels on colle des documents, des données clients ou du code. Le problème n'est pas l'IA elle-même, mais le fait de ne pas savoir quelles données partent, et où.
Suffit-il de bloquer ChatGPT dans l'entreprise ?
Généralement non : les collaborateurs se tourneront vers d'autres outils ou vers leur téléphone personnel. Il est plus efficace de combiner une politique (quels outils, pour quelles données), une alternative sécurisée agréable à utiliser et un contrôle technique là où le risque est le plus élevé. C'est ainsi que fonctionne notre produit SecureWorkspace.
Testez-vous la sécurité des applications intégrant des modèles de langage ?
Oui - dans le cadre des tests d'intrusion d'applications web et d'API, sans offre distincte. Nous testons les fonctions reposant sur un LLM (chat, assistant, agent doté d'outils, recherche dans les documents) selon l'OWASP Top 10 for LLM Applications : notamment l'injection de prompt, les fuites de données et les droits excessifs. Le périmètre se définit lors du devis - voir test d'intrusion d'applications web.
Qu'est-ce que l'injection de prompt ?
C'est une attaque dans laquelle quelqu'un glisse au modèle des instructions qui modifient son comportement - directement dans la requête ou indirectement, dans un document, une page web ou un e-mail que le modèle doit analyser. Elle peut entraîner la divulgation de données ou l'exécution d'une action que l'utilisateur n'a pas demandée. On ne peut pas l'éliminer par les seules instructions données au modèle : il faut des droits d'accès et des contrôles côté application.
Quelles obligations du règlement sur l'IA concernent dès aujourd'hui les entreprises qui utilisent l'IA ?
Depuis le 2 août 2026, le règlement sur l'IA (AI Act) s'applique en principe dans son ensemble, y compris les obligations de transparence - par exemple informer l'utilisateur qu'il échange avec un système d'IA. Les pratiques interdites (à l'exception des interdictions ajoutées en 2026, applicables à compter du 2 décembre 2026) et l'obligation relative à la maîtrise de l'IA par le personnel s'appliquaient déjà auparavant. Détails et échéances : règlement sur l'IA et RGPD.
Sources
- Règlement sur l'intelligence artificielle - version consolidée au 27 juillet 2026 (02024R1689-20260727) ()
- Règlement (UE) 2026/1744 du Parlement européen et du Conseil du 8 juillet 2026 modifiant le règlement (UE) 2024/1689 (train de mesures omnibus numérique sur l'IA), JO L, 2026/1744 du 24.7.2026 ()
- Loi du 3 juillet 2026 sur les systèmes d'intelligence artificielle (Dz.U. 2026, pos. 1003) (en polonais) ()
- OWASP Top 10 for LLM Applications 2025 ()
- OWASP Top 10 for LLM Applications 2026 ()
- OWASP Top 10 for Agentic Applications 2026 ()
Services associés
Tests d'intrusion · Applications web
Applications web
Test d'intrusion d'application web selon l'OWASP WSTG v4.2 : authentification, droits d'accès, logique métier et API. Rapport avec preuves, CVSS et retest.
Tests d'intrusion · API
API
Pentest API selon l'OWASP API Security Top 10 2023 : autorisation au niveau des objets, OAuth 2.0, JWT, GraphQL et webhooks. Rapport avec preuves et retest.
Intelligence artificielle · LLM local
LLM local
LLM local pour l'entreprise : on-premise ou cloud privé dans l'UE, RAG et affinage sur vos documents, évaluation sur un jeu de test, Zero Data Retention.