MACCHINE INTELLIGENTI E DIRITTO

Giovanni Buonomo

Obiettivi formativi

Il corso costituisce l’ultimo insegnamento della complessiva struttura didattica dedicata all’informatica giuridica, composto da cinque laboratori propedeutici ed un corso finale distribuiti sui primi tre anni del corso di laurea magistrale a ciclo unico in giurisprudenza. I laboratori ed il corso finale di Macchine intelligenti e diritto costituiscono un percorso unitario e progressivo studiato per sviluppare l’interesse e le conoscenze necessarie sulla complessa interazione fra l’informatica ed il diritto. L’intento è quello di formare giuristi pronti ad affrontare le sfide legate alle conseguenze giuridiche dell’impiego, in ogni settore della vita sociale e lavorativa, delle tecnologie dell’informazione e, considerata la vocazione interdisciplinare della materia, ai "nuovi diritti" connessi con l'uso sempre più diffuso delle macchine capaci di autoapprendimento. Vengono, per questo, analizzati durante il corso i profili giuridici relativi alla responsabilità per i sistemi di guida autonoma dei veicoli, ai contratti ad esecuzione automatica, i nuovi diritti della persona legati alla profilazione e al c.d. credit scoring, le applicazioni al servizio del giudice e dell'amministrazione giudiziaria (anche nel settore penale), con particolare attenzione alla legislazione comunitaria e alla giurisprudenza italiana ed internazionale. Lo studente dovrà, dunque, acquisire le conoscenze tecniche e giuridiche necessarie per la comprensione di fenomeni complessi quali il condizionamento del diritto da parte della tecnica e i problemi giuridici posti dall’uso dell’intelligenza artificiale nelle professioni legali, nel campo della medicina e delle scienze economiche e sociali. Si tratta di un obiettivo strategico nell'attività formativa del Dipartimento di giurisprudenza, poiché una piena conoscenza delle tecnologie informatiche e del loro impatto dirompente sulla società, sul diritto, sull'economia e sulle istituzioni a livello globale costituisce un fondamento indispensabile nella preparazione dei giuristi del futuro. La rivoluzione tecnologica degli ultini anni esige, infatti, figure professionali in grado di applicare le categorie tradizionali del diritto a fenomeni del tutto inediti e di ideare, se del caso, nuove soluzioni idonee a regolare la realtà secondo i principi generali dell'ordinamento. Ciò impone, innanzitutto, una comprensione dell’architettura di base delle reti, dei linguaggi della matematica e della logica degli algoritmi, per poterne appieno valutare l’impatto sui diritti fondamentali della persona. Il Corso di Macchine intelligenti e diritto, come punto di arrivo di questo percorso triennale di studi tecnici e di diritto, costituisce, dunque, il momento di sintesi delle conoscenze acquisite nel triennio attraverso i laboratori tecnici ed i corsi precedenti.

Prerequisiti

Per sostenere l'esame è necessario aver superato l’esame propedeutico di Diritto digitale e tutela dei dati e il test di valutazione delle competenze digitali.

Risultati di apprendimento attesi

Conoscenza e capacità di comprensione: lo studente dovrà acquisire la piena conoscenza di alcuni argomenti fondamentali della materia, del dibattito scientifico relativo all’applicazione dell’I.A. in ambito economico, sociale ed istituzionale, delle complesse problematiche legate all'applicazione del diritto all’attività delle macchine intelligenti nei diversi campi di applicazione. Conoscenza e comprensione applicate: lo studente dovrà acquisire la capacità di ideare e sostenere argomentazioni relative agli aspetti giuridici delle applicazioni dell’intelligenza artificiale nei diversi campi di applicazione (nel campo del diritto civile, penale ed amministrativo e nei settori medico-legale, giudiziario, della robotica e del trasporto autonomo) Autonomia di giudizio: lo studente sarà in grado di raccogliere e interpretare informazioni, dati scientifici e giuridici rilevanti per la materia. Abilità comunicative: lo studente acquisirà la capacità di comunicare informazioni, idee, problemi e soluzioni nella materia dell'informatica giuridica, utilizzando un'adeguata terminologia scientifica e giuridica. Capacità di apprendere: lo studente, all'esito del corso, avrà sviluppato le competenze necessarie per intraprendere gli studi successivi con un elevato grado di autonomia.

Contenuti Del Corso

Razionalità giuridica e razionalità artificiale - Principî per le decisioni algoritmiche - Applicazioni - L’intelligenza dell’uomo e della macchina - Responsabilità da produzione e gestione dell’IA – Auto a guida autonoma – Robot senzienti – Responsabilità del proprietario – Responsabilità del produttore - La responsabilità "da algoritmo difettoso" – Big data - IA, libera circolazione e dati personali - Il problema dei valori: La Carta etica del CEPEJ sull’uso della IA nei sistemi giudiziari – La raccomandazione 051/2017 del Parlamento Europeo – La proposta di regolamento della Commissione Europea sulla I.A. (21/4/2021) e sulla robotica - l’IA e la giustizia penale

Testi Di Riferimento

Il materiale didattico è costituito dal contenuto delle lezioni impartite dal docente, documenti e altri materiali audiovisivi condivisi su Luiss Learn. Testo consigliato: G. Buonomo, G. Ciacci, A. Costanzo (a cura di), Macchine intelligenti e diritto, Giappichelli, Torino, 2025.

Metodologie Didattiche

Didattica frontale e a distanza; esercitazioni individuali e lavori di gruppo (papers, role-playing e simulazioni su casi tratti dall'attualità giudiziaria italiana ed internazionale); analisi di casi giudiziari; testimonianze di esperti; presentazioni e ricerche assegnate con produzione di relazioni, articoli e saggi.

Modalità di verifica dell'apprendimento

Il sistema di valutazione intende premiare la frequenza e la partecipazione attiva degli studenti alle lezioni. Il voto finale, espresso in trentesimi, dipende dalla frequenza, dalla partecipazione attiva in aula, dall’esito delle prove intermedie e dall’esito dell'esame orale finale. Sono previste due prove intermedie: - la prima, dopo la prima parte del corso, consiste nello studio di un caso giuridico e nella soluzione di un quesito a risposta libera; - la seconda, programmata alla fine del corso e riservata agli studenti frequentanti, consiste in un questionario a risposta multipla basato su 30 domande. Sono ammessi a sostenere la seconda prova intermedia, che dà accesso all'esame orale semplificato, solo gli studenti che abbiano frequentato almeno i due terzi delle lezioni. Le assenze giustificate, per ragioni di studio o di salute, non possono comunque superare il 50% delle lezioni o dei moduli didattici. Lo studente che ottiene almeno 26 punti su 30 potrà rispondere, all'esame orale, solo sugli argomenti a cui ha dato risposta errata. L'esame semplificato è valido solo per il primo appello in cui lo studente decide di presentarsi.

Criteri per l’assegnazione dell’elaborato finale

Per l’assegnazione di una tesi è necessario che l’aspirante abbia superato l’esame con un buon punteggio dopo aver frequentato le lezioni. Saranno valutate l'originalità dell'argomento prescelto e la sperimentalità del metodo di ricerca prescelto.

Settimana 1

Introduzione allo studio della materia - Concetti introduttivi: self learning, general A.I, inferenza e processo induttivo - Verso la lex robotica - La questione dei valori. Regole e apprendimento: intelligenza artificiale e diritto - L’apprendimento algoritmico

Settimana 2

L’intelligenza dell’uomo e della macchina: differenze - La “soggettività” delle macchine - L’apprendimento automatico e le reti neurali - Sistemi simbolici e sistemi sub-simbolici - I due limiti maggiori: comprensione e qualità dei dati. Il ruolo dei giuristi. L’evoluzione del cervello e dell’intelligenza - Animali intelligenti e uomo - Come comparare la macchina intelligente Emozione e intelligenza

Settimana 3

Tecnologie abilitanti e dirompenti per le professioni legali - Alcune applicazioni legali: eBrevia, Kirasystems, Luminance - A.I. come strumenti “predittivi” – Il caso Loomis e gli strumenti basati sulla A.I. di supporto all’attività giurisdizionale - La Carta etica europea e i cinque principi: diritti fondamentali, non discriminazione, qualità dei dati, trasparenza, controllo.

Settimana 4

Algoritmi “forti” e deboli - Diritto e "product liability" di settore - La responsabilità "da algoritmo" - La teoria dello "Human in command" - L’IA e la produzione industriale: il processo di invenzione assistito da IA e IA "self learning" - Responsabilità da produzione e gestione dell’IA: il prodotto difettoso I veicoli driverless – veicoli condotti dalla IA – responsabilità del conducente, del produttore, del programmatore

Settimana 5

Introduzione alla robotica – Macchine autonome e macchine pensanti – Il Rapporto Delvaux: verso la “soggettività” delle macchine – Il problema del Global Repository of Intelligence – La raccomandazione 051/2017 del Parlamento Europeo – Il regolamento UE sulla I.A. approvato il 13/3/2024

Settimana 6

Il principio di responsabilità - Il rapporto del Comitato di bioetica - Danno e responsabilità nella circolazione dei veicoli a guida autonoma - Le macchine ad alto rischio. Introduzione alla robotica. La “misura” dell’uomo: autoconsapevolezza, intuizione, slancio vitale.

Settimana 7

Product liability e sicurezza del prodotto di I.A. – La responsabilità da prodotto difettoso applicabile alle macchine intelligenti - La responsabilità “da algoritmo” – Intelligenza artificiale ed attività pericolose – Studio di casi giudiziari

Settimana 8

Intelligenza artificiale e contratto – Il problema del controllo e della prevedibilità degli effetti – Il contratto futuro (e il futuro del contratto) – Contratti conclusi da macchine intelligenti – Contratti per la I.A. – contratti prodotti dalla I.A.

Settimana 9

I contratti “algoritmici” e l’algoritmo “negoziatore”. Il problema della black box. La decisione robotica - IA e amministrazione giudiziaria: la macchina intelligente al servizio del giudice - Le applicazioni di giustizia "predittiva" Il futuro delle macchine predittive.

Settimana 10

Certezza del diritto e adeguamento interpretativo delle norme: la funzione delle macchine intelligenti - Il provvedimento algoritmico e l’intelligenza collaborativa - I nuovi approdi della giurisprudenza amministrativa.

Settimana 11

Intelligenza artificiale e giustizia penale - Il problema dei valori: La Carta etica del CEPEJ sull’uso della IA nei sistemi giudiziari - Lo studio del comitato LIBE del Parlamento UE sull’impatto della IA sui sistemi giudiziari. Le misure di sicurezza e l’applicazione della pena - Limiti (attuali) delle macchine intelligenti nell’attività sanzionatoria. Il sistema COMPAS e la probabilità della recidiva – Gli algoritmi del processo telematico – Macchine intelligenti e indagini preliminari.

Settimana 12

Il sistema COMPAS e la probabilità della recidiva – Gli algoritmi del processo telematico – Macchine intelligenti e indagini preliminari.