Centro di Afferenza: Research Center AI4Society

La rapida diffusione dei sistemi di intelligenza artificiale generativa ha trasformato la produzione e l’uso dell’informazione nelle organizzazioni, introducendo nuove opportunità ma anche significativi rischi. I contenuti generati da modelli linguistici di grandi dimensioni (LLM), possono infatti apparire plausibili pur essendo privi di fondamento (“hallucinations”), generando informazioni non corrette, opache e potenzialmente dannose.

Tali contenuti, definiti unsafe, rappresentano un rischio non solo per l’affidabilità dei servizi digitali ma anche per la responsabilità sociale delle organizzazioni nei confronti di dipendenti, clienti e stakeholder. Con l’adozione sempre più diffusa di soluzioni AI da parte di imprese e pubbliche amministrazioni, diventa quindi necessario superare i tradizionali approcci alla gestione del rischio cyber per garantire che le informazioni prodotte dai sistemi AI siano “cyber safe”, ovvero corrette, protette e non dannose per la società. La distinzione teorica tra sicurezza e safety dell’informazione – mutuata dai domini della sicurezza funzionale – implica un ripensamento delle pratiche di data governance per includere, oltre alla protezione da minacce intenzionali (security) anche la prevenzione di danni accidentali (safety). In questo contesto si determina la necessità di valutare l’impatto strategico di soluzioni AI e definire prima del design dei sistemi, i requisiti di controllo su infrastrutture, applicazioni, processi e dati in grado di mitigare i rischi di sicurezza e safety per garantire un uso affidabile dell’AI nei contesti organizzativi.
 

In linea con questa necessità, il presente progetto ha la finalità di avviare un laboratorio “Cyber Safe AI Innovation” (XAI Lab) all’interno del centro di ricerca AI4Society della Luiss, in stretta sinergia con il Centro di Competenza Cyber 4.0, di cui l’Ateneo è socio. Il laboratorio nasce per supportare PMI, grandi imprese e pubbliche amministrazioni nell’ideazione di soluzioni di intelligenza artificiale affidabili, sicure e integrate nei processi organizzativi in modo responsabile. Ispirato a iniziative analoghe presso atenei internazionali, il laboratorio adotta un approccio di Action Design Research (ADR) per accompagnare le organizzazioni nella valutazione di criticità legate all’uso strategico dell’AI, nella co-progettazione di prototipi AI in ambienti controllati, e nella valorizzazione dei risultati in ottica di trasferimento tecnologico. Il laboratorio interpreta la sicurezza e la safety non come requisiti tecnici isolati, ma come obiettivi più ampi, da definire e governare tramite modelli collaborativi che promuovano responsabilità condivisa e cooperazione tra attori pubblici e privati. Il laboratorio fungerà da hub per la crescita di una comunità di pratica in grado di approcciare in modo interdisciplinare i temi dell’innovazione digitale sicura, anche attraverso eventi di stakeholder engagement e capacity building nelle sedi Luiss di viale Romania, viale Pola, Villa Blanc e Milano. Il laboratorio organizzerà workshop, seminari, incontri di networking e attività congiunte di ricerca e formazione, che vedranno coinvolti studenti, docenti, ricercatori ed esperti appartenenti ai network Luiss e Cyber 4.0.