Spécialité
Un agent qui lit vos e-mails et agit dans vos logiciels doit être protégé comme un accès à votre système d'information. Je conçois chaque déploiement avec des contrôles de sécurité intégrés, et je vérifie la conformité de vos usages de l'IA.
Texte blanc sur fond blanc, caractères invisibles, métadonnées d'un PDF, texte dans une image : un attaquant glisse une instruction que l'humain ne voit pas, mais que l'IA lit et exécute. Les nœuds de sécurité placés dans vos workflows détectent et bloquent ces tentatives avant toute action.
Exemple fictif
Audit de sécurité d'un agent ou d'un workflow existant, y compris s'il a été développé par un autre prestataire.
Demander un audit sécuritéC'est une instruction cachée dans un contenu que l'IA lit : texte blanc sur fond blanc, caractères invisibles, métadonnées d'un PDF ou texte dans une image. L'humain ne la voit pas, mais un agent mal protégé peut l'exécuter, par exemple en envoyant des données à un tiers.
C'est une étape de contrôle placée dans un workflow : filtrage et nettoyage des entrées, séparation des données et des consignes, contrôle des sorties avant toute action, et validation humaine pour les actions sensibles.
Oui, dès qu'elle utilise ou met à disposition des systèmes d'IA. Les obligations dépendent du niveau de risque de chaque usage : l'inventaire des usages est donc la première étape.
Oui. L'audit porte sur les accès, les permissions, la résistance aux injections, le traitement des données personnelles et la traçabilité des actions.
Décrivez votre activité en quelques lignes : je vous propose un créneau pour l'audit préalable.