Guia ISACA AAISM - Advanced in AI Security Management

A credencial AAISM da ISACA foi projetada para profissionais de segurança que gerenciam sistemas de IA complexos.

Qual é o principal objetivo do 'Federated Learning' no contexto da segurança de IA?

Resposta : Permitir que modelos de IA aprendam com dados distribuídos sem que esses dados precisem ser compartilhados diretamente.

O Aprendizado Federado é uma técnica de machine learning que treina um algoritmo em múltiplos dispositivos ou servidores descentralizados que detêm dados locais, sem trocá-los. Isso permite a colaboração em modelos de IA mantendo a privacidade dos dados, o que é fundamental em cenários sensíveis.

Em um cenário de IA embarcada em um dispositivo IoT com recursos computacionais limitados, qual abordagem é mais eficaz para mitigar ataques de injeção de dados adversários?

Resposta : Implementar algoritmos de detecção de anomalias baseados em aprendizado de máquina no próprio dispositivo.

A segurança de IA embarcada em dispositivos com recursos limitados requer defesas eficientes e leves. A detecção de anomalias no próprio dispositivo é uma estratégia chave para identificar e mitigar ataques de injeção de dados adversários em tempo real, protegendo a integridade do sistema.

Qual dos seguintes é um risco de segurança associado ao uso de 'Large Language Models' (LLMs)?

Resposta : Geração de conteúdo enganoso ou tendencioso (alucinações).

Modelos de Linguagem Grandes (LLMs) podem apresentar riscos de segurança, como a geração de 'alucinações' (informações incorretas) ou conteúdo tendencioso. É crucial validar as saídas dos LLMs, especialmente em aplicações críticas, para evitar a disseminação de desinformação ou decisões baseadas em premissas falsas.

Qual técnica de ataque explora vulnerabilidades em modelos de IA ao introduzir pequenas perturbações nos dados de entrada para causar uma classificação incorreta?

Resposta : Ataque de Evasão (Evasion Attack).

Ataques adversários são um risco significativo para sistemas de IA. Ataques de evasão, especificamente, manipulam as entradas de um modelo já treinado para forçar uma classificação errônea, explorando falhas na sua robustez durante a fase de inferência.

Ao implementar um sistema de IA para detecção de fraudes financeiras, qual estratégia de 'Explainable AI' (XAI) seria mais útil para auditores regulatórios entenderem o motivo de uma transação ter sido sinalizada como fraudulenta?

Resposta : Aplicar técnicas pós-hoc como LIME ou SHAP para explicar as previsões individuais.

A Inteligência Artificial Explicável (XAI) é crucial para garantir a transparência e a auditabilidade de sistemas de IA, especialmente em setores regulados como o financeiro. Técnicas como LIME e SHAP ajudam a desmistificar as decisões de modelos complexos, fornecendo insights sobre os fatores que levaram a uma determinada previsão.

Related Certifications

• ISACA CISM - Certified Information Security Manager
• ISACA CISA - Certified Information Systems Auditor
• ISACA CRISC - Certified in Risk and Information Systems Control
• ISACA CGEIT - Certified in the Governance of Enterprise IT
• ISACA Advanced in AI Audit (AAIA)

Local Testing

• ISACA AAISM – Advanced in AI Security Management in FR
• ISACA AAISM – Advanced in AI Security Management in CA
• ISACA AAISM – Advanced in AI Security Management in MA
• ISACA AAISM – Advanced in AI Security Management in BE
• ISACA AAISM – Advanced in AI Security Management in CH

Careers

• ISACA AAISM – Advanced in AI Security Management for cloud architect
• ISACA AAISM – Advanced in AI Security Management for devops engineer
• ISACA AAISM – Advanced in AI Security Management for data scientist
• ISACA AAISM – Advanced in AI Security Management for security analyst
• ISACA AAISM – Advanced in AI Security Management for project manager