Se una intelligenza artificiale fa danni, di chi è la colpa ?
Un software di intelligenza artificiale di Google, tale Magento, utilizzato dall’associazione canadese Over the Bridge, compone una canzone “di” o “al posto di” quattro artisti scomparsi, Kurt Cobain, Amy Winehouse, Jim Morrison e Jimi Hendrix. Frutto di questa “collaborazione” è l’EP Lost Tapes of the 27 Club, chiamato cosi in riferimento al famoso club dei 27, una espressione giornalistica usata comunemente per indicare i numerosi artisti Rock scomparsi a 27 anni (link). Questa abbondanza di virgolettati è d’obbligo perché, viste le dichiarazioni di chi ha potuto ascoltare questi brani, la somiglianza è davvero notevole.
In pratica, il software di intelligenza artificiale Magento è frutto di un progetto di Google, per dare agli artisti la possibilità di creare musica generativa. Fin qui nulla di nuovo, dall’alba dei tempi l’uomo per creare musica ha utilizzato strumenti sempre più complessi, e dagli anni 70/80, con sintetizzatori elettronici e computer dedicati si è aperta anche l’era digitale della musica. Ma restava sempre all’uomo la responsabilità di creare e comporre le sequenze musicali (più o meno belle, ma questo è un altro discorso). Nel nostro caso invece è bastato far ascoltare all’algoritmo una trentina di brani di ogni artista, per analizzare, “imparare” e quindi “creare” delle nuove canzoni, riconducibili totalmente, come stile e come sound, agli artisti scomparsi.
Tornando al nostro ambito legale, è facile prevedere che ci saranno delle novità nei contenziosi, per la necessità di poter inquadrare questo nuovo soggetto creativo e i suoi diritti. Per ora possiamo solo accennare a qualche dubbio. Ad esempio, i diritti di queste canzoni a chi sono riconducibili ? Al software ? Se si, Google diventa anche compositore musicale, in grado magari un giorno, di sbaragliare velocemente la concorrenza ? Nel caso in cui un erede degli artisti rivendichi qualche diritto, a chi fa causa ? Sempre a Google ?
In principio erano le 3 leggi della robotica di Asimov :
- un robot non può recar danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno.
- un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non vadano in contrasto alla prima legge.
- un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la prima o con la seconda legge.
Uscendo ora fuori dal contesto musicale, artistico e creativo, dei diritti d’autore, è necessario oggi chiedersi se esiste la responsabilità giuridica dell’intelligenza artificiale. In poche parole, se l’algoritmo di Facebook un giorno viene ingannato, bypassato o altro, e per esempio scambia una fake news per realtà (o viceversa) e questa cosa crea un danno a qualcuno, la responsabilità di chi è ? Dell’algoritmo di Facebook e quindi di Facebook ? E se invece una qualsiasi associazione criminale si impossessa di uno di questi software e lo utilizza per drogare la Borsa e frodare il prossimo ? Dei reati informatici e delle frodi possibili in ambito AI ci occuperemo in un apposito articolo, vediamo qui invece come possiamo inquadrare l’AI nella responsabilità giuridica penale e civile.
Il problema si presenta particolarmente complesso non tanto quando si tratta di valutare l’impatto dei software di AI che risolvono problematiche specifiche (come gli algoritmi di musica generativa di Google o l’auto a guida autonoma di Uber), in questi casi infatti pare più semplice (ma non tanto) individuare la responsabilità dell’autore che sviluppa il software, o dell’azienda che lo implementa, o addirittura dell’utente che usa il sistema di AI. Il problema comincia a diventare veramente spinoso qualora nel software siano inseriti degli algoritmi di machine learning, in grado cioè di sviluppare una propria esperienza operativa autonoma, in base alla quale agire e prendere decisioni non previste e non prevedibili dall’autore umano. Cioè, quando la macchina impara da sola e decide da sola, resta possibile risalire in modo diretto alle responsabilità di eventuali reati ? E si può quindi condannare una macchina ?
E poi chi paga i danni ? La Giustizia ordinaria o straordinaria è in grado oggi di tutelare la vittima di errori dell’Intelligenza artificiale ? E’ plausibile che un utente o un gruppo di utenti, ma anche un ente o una istituzione magari locale, facciano causa ad una di queste gigantesche multinazionali ? Questi interrogativi hanno poi un risvolto internazionale, in quanto vanno messi a confronto i principi giuridici delle varie nazioni dove le parti risiedono, e i cui sistemi giudiziari non sempre hanno intrapreso un percorso di globalizzazione o almeno di standardizzazione. Ad esempio, se in Russia si è scelta una soluzione giuridica che accomuna l’azione del software a quella di un animale, e quindi individua la responsabilità nel proprietario (art 1064 del proprio codice civile, tra l’altro estensibile anche in Italia grazie all’art. 2052 c.c. che prevede che il proprietario di un animale o colui che lo ha in uso per il tempo in cui se ne serve è responsabile dei danni dallo stesso cagionati . . .) lo stesso non si può dire per il resto d’Europa, dove sembrano prevalere altre tendenze (vedi le “Raccomandazioni alla commissione concernenti norme di diritto civile sulla robotica” del 16 febbraio 2017) non sempre coerenti già con gli stessi principi dei vari stati membri.
Molti sono gli interrogativi, e chi sa se un giorno, in tutto questo, non entri in campo una ennesima Intelligenza Artificiale, esperta in materia legale e che coadiuvi il giudice nelle sue funzioni, o che sappia decidere autonomamente responsabilità e sanzioni di macchine e di proprietari. Gli scenari sono aperti e come al solito la fantascienza ci anticipa qualcosa, ma ci sono già diversi software e si stanno perfezionando : qui si parla del software SAVRY e qui altri contributi interessanti (link).
Fonti e Link utili : implicazioni di diritto civile (link) con accenni anche al diritto d’autore) e di diritto penale (link). Altre interessanti riflessioni su come si evolve la professione forense (link).
Se hai delle domande lascia un commento in questa pagina, se invece vuoi contattarci per una consulenza personale e privata, usa il form nella pagina Contatti e descrivi il tuo problema nel modo migliore possibile.