Agentic AI Security

Agentic AI Security è il corso di Data Masters che affronta la sicurezza degli agenti AI: come si analizzano le minacce e come si progettano sistemi che usano dati e tool in modo controllabile.

Cosa insegna Agentic AI Security

Il percorso parte dal livello applicativo: LLM Security e prompt injection, cioè gli attacchi che sfruttano le istruzioni date al modello. Si allarga poi a jailbreak, data leakage, poisoning e supply chain attack, i rischi che nascono quando un agente ha accesso a dati, API e strumenti esterni. La parte centrale riguarda le architetture di sicurezza per agenti e le strategie di mitigazione, con i trade-off da valutare tra autonomia e controllo.

Due riferimenti accompagnano il programma: l'OWASP Top 10 per i modelli linguistici e il framework MITRE ATLAS per i sistemi AI. Servono a dare un vocabolario comune alle minacce, così che il rischio venga modellato e non improvvisato.

Come si segue e a chi serve

Il taglio è tecnico e progettuale: si lavora su modelli di minaccia e su decisioni di design, quindi serve una base di sviluppo o di sicurezza informatica. Chi cerca una panoramica divulgativa sull'AI resta fuori bersaglio; chi invece deve mettere in produzione un agente che legge dati aziendali trova il quadro che gli serve. Per orientarsi fra temi vicini si può partire dai corsi di Intelligenza Artificiale oppure dalla scheda del formatore Data Masters.