Rischi dell'IA generativa e cybersecurity: sicurezza LLM

In questo corso vengono utilizzati strumenti di intelligenza artificiale.

Che cosa aspettarsi: circa 5 ore di video. Prevedete 1 ora per installare gli strumenti del laboratorio (Ollama e un modello locale), poi circa 9–12 ore per svolgere i 14 laboratori e i relativi esercizi. Tutti i laboratori funzionano in un unico file sul vostro computer, con un modello Llama locale e gratuito tramite Ollama: non servono chiavi API né account a pagamento. L'interfaccia del laboratorio, i prompt di attacco digitati e le risposte del modello restano in inglese.

L'IA generativa è arrivata in produzione più velocemente delle pratiche di sicurezza in grado di proteggerla. Prompt injection, jailbreak, avvelenamento dei dati, allucinazioni sfruttate: gli attacchi contro i modelli linguistici di grandi dimensioni non somigliano a quelli che i team di sicurezza conoscono. In questo corso impariamo a comprenderli, a eseguirli in un ambiente sicuro e poi a costruire le difese che li fermano.

Tutto il corso segue un'azienda fittizia, NovaStar AI, e i suoi tre prodotti: NovaAssist, un chatbot di assistenza clienti, NovaCode, un assistente di programmazione, e NovaComply, uno strumento di documentazione normativa. Con il CISO Alex Rivera e il suo team analizziamo ogni incidente, riproduciamo l'attacco in laboratorio e poi introduciamo il controllo che l'avrebbe impedito.

In nove sezioni:

• Mappiamo la superficie di attacco di un'applicazione LLM con l'OWASP Top 10 per le applicazioni LLM e MITRE ATLAS
• Eseguiamo prompt injection dirette e indirette e jailbreak contro un modello locale
• Trattiamo avvelenamento dei dati, bias, SSRF, esaurimento delle risorse e allucinazioni come minacce
• Costruiamo una difesa in profondità: validazione degli input, guardrail, filtraggio degli output, isolamento e monitoraggio
• Integriamo la sicurezza nel ciclo di sviluppo e conduciamo esercitazioni di red teaming
• Affrontiamo il regolamento europeo sull'intelligenza artificiale (AI Act), il NIST AI RMF, la ISO/IEC 42001, gli audit e la proprietà intellettuale
• Anticipiamo le minacce dell'IA agentica, dell'IA contro l'IA e del calcolo quantistico

Ogni sezione si chiude con un quiz e il corso termina con un'esercitazione completa di red teaming che mette insieme tutto ciò che avete imparato. Ne uscite con un metodo concreto per valutare, attaccare e mettere in sicurezza i sistemi di IA generativa della vostra organizzazione.