Corso AI Security: Proteggere gli LLM e l'Intelligenza Artificiale aziendale

Cybersecurity e AI

L’adozione dell'IA Generativa ha creato un vuoto di sicurezza critico: le difese perimetrali tradizionali sono inefficaci contro vulnerabilità logiche e semantiche che agiscono direttamente su token e pesi del modello. Non è più una questione di codice, ma di manipolazione del contesto.

Questo corso intensivo seziona l’AI Attack Surface moderna. Andremo oltre la teoria dell'OWASP Top 10 per affrontare i rischi reali delle architetture agentiche: vedremo come la natura probabilistica degli LLM esponga il RAG ad attacchi di Indirect Prompt Injection e come l’integrazione di server MCP e framework come OpenClaw espanda esponenzialmente il perimetro di rischio.

L’approccio è metodologico e pragmatico. Analizzeremo le tecniche di System Prompt Hardening e la gestione dell'Insecure Output Handling, fornendo un framework di testing solido nonostante i limiti attuali degli strumenti di difesa. L'obiettivo è trasformare l'IA da vulnerabilità latente a asset resiliente, garantendo la piena conformità ai nuovi standard NIST AI RMF e EU AI Act.

Cosa imparerai

• Mappare la Superficie di Attacco AI: Analizzare tecnicamente perché le difese tradizionali (WAF, Firewall) falliscono contro attacchi semantici come il Jailbreaking e la Prompt Injection
• Securing Agentic Workflows: Comprendere e mitigare i rischi specifici degli agenti autonomi, focalizzandosi su vettori di attacco per server MCP e integrazioni di terze parti
• Ingegneria della Difesa: Implementare tecniche avanzate di Input/Output filtering e System Prompt Hardening per ridurre drasticamente la probabilità di leak e manipolazioni
• Testing & Red Teaming AI: Applicare metodologie di testing strutturate, imparando a utilizzare e valutare i principali AI Testing Frameworks sul mercato
• Compliance Strategica: Tradurre i requisiti normativi dell'EU AI Act e del NIST AI RMF in controlli tecnici e documentali (AI-BOM)

I vantaggi della formazione Nexsys

Programma del Corso

Requisiti

Per trarre il massimo valore dalle 8 ore di formazione, è consigliabile che i partecipanti possiedano i seguenti requisiti:

• Conoscenze di base di cybersecurity: Familiarità con i concetti di vulnerabilità, exploit, OWASP Top 10 (standard) e principi di difesa delle infrastrutture IT.
• Fondamentali di Programmazione/Scripting: Conoscenza base di Python (molto utile per comprendere le integrazioni LLM e i framework di testing) e capacità di navigare in ambienti a riga di comando (CLI).
• Networking e Web Architecture: Comprensione del funzionamento delle chiamate API (REST), dei protocolli HTTP/HTTPS e della gestione dei dati JSON.
• Esperienza con strumenti AI: Conoscenza pregressa nell'utilizzo di tool di IA Generativa (es. ChatGPT, Claude) e una comprensione elementare di cosa sia un "Prompt".
• Ambiente di lavoro: Per le parti dimostrative, è utile avere familiarità con ambienti Docker o macchine virtuali (specialmente per i moduli su Open WebUI e self-hosting).