Le titre AAISM d'ISACA est conçu pour les professionnels de la sécurité gérant des systèmes IA complexes. Il combine gestion des risques et contrôles techniques.
Réponse : L'injection de données malveillantes dans le jeu d'entraînement pour corrompre le comportement futur du modèle.
C'est une attaque très discrète qui peut créer des 'portes dérobées' (backdoors) dans l'intelligence du système.
Réponse : Une technique permettant à un attaquant de reconstruire les données d'entraînement sensibles à partir des réponses du modèle.
Pose un risque majeur pour la confidentialité des données personnelles utilisées pour l'entraînement.
Réponse : En appliquant les principes du DevSecOps : signature des modèles, scan de vulnérabilités des bibliothèques IA et contrôle d'accès strict.
La sécurité doit être intégrée dès la phase de préparation des données.
Réponse : L'utilisation massive par les employés d'outils d'IA non approuvés (ex: ChatGPT gratuit) pour traiter des données confidentielles de l'entreprise.
Crée des fuites de données massives hors du périmètre de sécurité de l'entreprise.
Réponse : À mener des attaques simulées pour tester la résistance du modèle face à des inputs malveillants ou des tentatives de détournement (jailbreaking).
Vise à découvrir les failles logiques et éthiques du modèle avant sa mise en production.