ISACA Advanced in AI Audit (AAIA)

Audit dei sistemi di IA. Garantisce che gli auditor valutino conformità, etica e rischi.

Quale dei seguenti è un principio fondamentale della Responsible AI (IA Responsabile) secondo le linee guida di Microsoft?

Risposta : Trasparenza e spiegabilità

L'IA Responsabile si basa su principi etici e pratici per garantire che i sistemi di intelligenza artificiale siano sviluppati e utilizzati in modo sicuro, equo e trasparente. Comprendere questi principi è fondamentale per un audit efficace dell'IA.

Nel contesto dell'audit dei modelli di Machine Learning, quale tecnica è più adatta per valutare la presenza di bias discriminatori in un modello di classificazione di immagini?

Risposta : Analisi della matrice di confusione disaggregata per sottogruppi demografici

Il bias nei modelli di Machine Learning può portare a risultati ingiusti o discriminatori. L'audit deve includere l'analisi delle prestazioni del modello su diversi segmenti della popolazione per garantire l'equità.

Cosa si intende per 'spiegabilità' (explainability) nel contesto dell'IA?

Risposta : La capacità di un sistema IA di fornire una giustificazione comprensibile per le sue decisioni o previsioni.

La spiegabilità è cruciale per l'audit e l'adozione dell'IA, poiché permette di verificare la logica sottostante alle decisioni dell'IA, identificare potenziali errori o bias e costruire fiducia nel sistema.

Quale dei seguenti scenari rappresenta un rischio di sicurezza significativo associato all'uso di modelli di IA in applicazioni critiche?

Risposta : Un attaccante manipola i dati di input per indurre il modello IA a commettere errori (Adversarial Attack).

I sistemi di IA sono vulnerabili ad attacchi specifici, come gli attacchi avversari, che possono compromettere la loro affidabilità e sicurezza. L'audit deve valutare le potenziali vulnerabilità e le contromisure adottate.

Quale metrica è più indicativa della robustezza di un modello di IA rispetto a piccole perturbazioni nei dati di input?

Risposta : Sensibilità alle perturbazioni (Sensitivity to Perturbations)

La robustezza è una caratteristica fondamentale per i sistemi di IA, specialmente in ambienti operativi dinamici. Un modello robusto mantiene prestazioni affidabili anche quando i dati di input presentano lievi variazioni o rumore.

Related Certifications

preload
preload
preload
preload
preload
preload