L’intelligenza artificiale è sicura?

16:50 - 17:30

Location : SALA CLAUDIA

Login

6 Giugno

16.50-17.30 - Atelier Tecnologico

L’intelligenza artificiale è sicura?

Si dice che l’intelligenza artificiale (IA) cambierà il mondo, come fecero l’elettricità e la macchina a vapore. L’IA e gli algoritmi di “machine learning” sono sempre più acclamati come la soluzione finale per difendersi dalle minacce informatiche avanzate. Ma i risultati della ricerca stanno mostrando che l’intelligenza artificiale può diventare l’anello debole della catena della sicurezza. E’ possibile “avvelenare” un sistema di autenticazione dell’identità basato su IA fornendogli pochi dati manipolati, creando delle “backdoor” che consentono un furto d’identità. Un algoritmo di machine learning esposto sul cloud come un servizio, e oggi ne abbiamo già degli esempi, può essere “rubato”: l’attaccante può ricostruire con grande precisione il funzionamento dell’algoritmo e poi usare tale conoscenza per attaccare il servizio, replicarlo per trarne un illecito profitto, diffondere informazioni sensibili contenute nei dati usati per addestrarlo. Ma la sicurezza in senso stretto non è il solo problema aperto delle tecnologie di IA. I nuovi algoritmi di “deep learning” stanno rendendo i sistemi di IA sempre più delle “black box”, degli oracoli imperscrutabili. Come posso spiegare a una terza parte perché il mio anti-virus basato su IA ha deciso che la sua applicazione è un malware? Cosa impara davvero un algoritmo di machine learning? Le ragioni strutturali che rendono un’applicazione informatica sicura o insicura o delle semplici correlazioni statistiche che in alcuni casi possono essere spurie (tutti i file compressi sono maligni…). L’avvento del GDPR , con l’Art. 22 e altri, sembra imporre vincoli di “trasparenza” che sono molto al di là dello stato dell’arte delle tecnologie di IA. Questo seminario vuole portare all’attenzione di un pubblico ampio, non necessariamente specialista in IA, gli ultimi risultati della ricerca sulla sicurezza della IA, sul problema della privacy e della “trasparenza” degli algoritmi di machine learning e su quali difese possiamo mettere in campo. Temi e problemi che saranno sempre più importanti e attuali dopo l’avvento del GDPR e che saranno l’oggetto della sessione plenaria di Giovedì 7 Giugno.

Relatore: Fabio Roli

Speakers