Offre · Attaquer
Audit de sécurité de l'IA : votre assistant obéit-il aussi aux attaquants ?
Un chatbot sur votre site, un assistant interne branché sur vos documents, un agent qui agit dans vos outils : l'IA générative ouvre des portes que les tests classiques ne voient pas. Nous attaquons vos usages d'IA comme le ferait un attaquant, pour vérifier qu'elle ne révèle pas ce qu'elle protège et n'agit pas sans autorisation.
L'enjeu
Une IA se manipuleavec des mots.
Il n'y a pas besoin de code pour attaquer un assistant d'IA : une phrase bien tournée dans une question, un document piégé ou une page web suffisent parfois à lui faire ignorer ses consignes. Il peut alors révéler les documents d'un autre service, envoyer un message à votre place ou exposer ses instructions internes. Ces risques s'ajoutent à ceux de l'application qui l'entoure, et l'AI Act impose désormais d'en démontrer la maîtrise.
Ce que nous testons
Huit surfacespropres à l'IA générative.
Nous testons le modèle, mais surtout tout ce qui l'entoure : les données qu'il lit, les outils qu'il appelle et les droits qu'il hérite.
-
Injection de prompt
Questions et contenus conçus pour faire ignorer les consignes, directement ou cachés dans un document.
Le risque : une IA qui obéit à l'attaquant plutôt qu'à vous.
-
Contournement des garde-fous
Jailbreak, jeux de rôle, encodages : tout pour obtenir ce qui est interdit.
Le risque : des réponses dangereuses sous votre marque.
-
Fuite de données
Documents d'autres services ou d'autres clients, données personnelles, secrets présents dans le contexte.
Le risque : une fuite de données en une conversation.
-
Instructions internes
Extraction du prompt système, des règles métier et de la configuration.
Le risque : votre savoir-faire et vos protections exposés.
-
Agents et outils
Actions déclenchées par l'IA : e-mails, tickets, requêtes, paiements, accès aux fichiers.
Le risque : une action réelle menée sans autorisation.
-
Recherche documentaire (RAG)
Droits d'accès aux documents indexés, empoisonnement de la base de connaissances.
Le risque : une IA qui contourne vos droits d'accès.
-
Application et API
Authentification, sessions, limites d'usage, coûts, journalisation des échanges.
Le risque : un abus massif ou une facture qui explose.
-
Conformité
RGPD, durée de conservation, transferts hors UE, obligations de l'AI Act.
Le risque : un usage non conforme difficile à justifier.
Le déroulé
Une méthode éprouvée,adaptée à l'IA.
Nous commençons par comprendre ce que votre IA sait, ce qu'elle peut faire et pour qui, avant de l'attaquer.
Cadrage
Cas d'usage, modèles, données accessibles, outils connectés et comptes de test.
Cartographie
Flux de données, droits hérités et actions possibles de l'IA.
Attaque
Injection, contournement, extraction et abus d'outils, manuels et outillés.
Restitution
Rapport avec preuves, risques métier et conformité, correctifs priorisés.
Re-test
Vérification des garde-fous corrigés et attestation.
Les échanges de test sont conservés comme preuves, puis détruits en fin de mission.
Ce que vous recevez
Des preuves concrètes,des garde-fous concrets.
Chaque constat est illustré par la conversation qui l'a provoqué, son impact métier et la mesure qui le ferme.
- Conversations de preuve pour chaque faille
- Risques métier, RGPD et AI Act
- Garde-fous recommandés, techniques et organisationnels
- Re-test et attestation
L'assistant interne révèle des documents RH à tout collaborateur
La base de connaissances indexe des dossiers sans reprendre leurs droits d'accès. Une question formulée de façon détournée suffit pour obtenir le contenu de documents réservés aux ressources humaines.
Le bon moment
Quand auditervotre IA ?
Le meilleur moment est avant que l'IA ne touche des données sensibles ou des clients. Le deuxième meilleur moment, c'est maintenant.
-
Avant l'ouverture au public
Chatbot client, assistant sur votre site ou dans votre produit.
Vous évitez : un incident public sous votre marque.
-
Avant de connecter vos données
Messagerie, documents, CRM ou outils métier.
Vous vérifiez : que l'IA respecte les droits de chacun.
-
Avant de donner des actions
Un agent qui envoie, modifie ou paie.
Vous encadrez : ce qu'il peut faire sans validation humaine.
-
Pour l'AI Act et l'ISO 42001
Démontrer la maîtrise des risques de vos systèmes d'IA.
Vous disposez : d'une preuve technique indépendante.
- Production préservéetests calibrés, fenêtres et contacts d'urgence convenus
- Experts seniorspas de scanner revendu comme un test d'intrusion
- Confidentialitérapport chiffré, données détruites en fin de mission
- Re-test inclusla preuve que vos correctifs tiennent
Questions fréquentes
Vos questions,nos réponses.
Une question qui n'est pas ici ? Écrivez-nous à contact@soya-cyber.fr.
Quels types d'IA auditez-vous ?
Chatbots, assistants internes, agents connectés à vos outils, fonctions d'IA intégrées à un logiciel, qu'ils reposent sur un modèle public via API, un modèle hébergé chez vous ou une plateforme du marché.
Faut-il nous donner accès au modèle ?
Non. Nous testons votre IA telle que vos utilisateurs y accèdent, avec des comptes de test. L'accès à la configuration et au prompt système permet d'aller plus loin dans le même temps.
Quelle différence avec un test d'intrusion classique ?
Nous testons aussi l'application qui entoure l'IA, mais l'essentiel porte sur ce qui lui est propre : manipulation par le langage, droits hérités, actions des agents et fuite de données par le contexte.
L'audit couvre-t-il l'AI Act ?
Il apporte les preuves techniques de la maîtrise des risques. Pour la mise en conformité complète et la certification ISO 42001, nous proposons un accompagnement dédié.
Testez-vous Microsoft Copilot ?
Oui. Nous vérifions en particulier ce que Copilot peut retrouver dans vos espaces Microsoft 365 au regard des droits de chaque utilisateur.