Chatbot, veicoli autonomi e macchine connesse in fabbriche digitali anticipano ciò che sarà il futuro: l’implementazione diffusa di applicazioni di Intelligenza Artificiale (IA) porta molti vantaggi per le aziende, come maggiore efficienza, meno attività ripetitive e una migliore esperienza dei clienti; tuttavia, nelle mani sbagliate i rischi potenziali potrebbero controbilanciare gli enormi vantaggi. La vulnerabilità agli attacchi informatici o ai guasti tecnici aumenterà, così come le potenziali interruzioni su vasta scala e di conseguenza le perdite finanziarie straordinarie, visto l'aumento dell'interconnessione tra le società e le economie. Le imprese dovranno, inoltre, far fronte a nuovi scenari di responsabilità relativi al processo decisionale, che passa dall'uomo alla macchina e al produttore.
Rischi e vantaggi dell'AI
Nel nuovo rapporto "The Rise of Artificial Intelligence: Future Outlook and Emerging Risks”, Allianz Global Corporate & Specialty (AGCS), la compagnia del Gruppo Allianz specializzata nei grandi rischi, identifica sia i benefici sia i rischi emergenti legati alla crescente diffusione dell'IA nella società e nell'industria, compreso il settore assicurativo. L’Intelligenza artificiale, nota anche come "machine learning", è essenzialmente un software in grado di pensare e imparare come un essere umano.
“L'IA presenta vantaggi e rischi potenziali in molti settori, come quello economico, politico, della mobilità, sanitario, della difesa e dell'ambiente. Per questo saranno necessarie strategie attive di gestione del rischio per massimizzare i benefici di una piena introduzione nella società di applicazioni avanzate di intelligenza artificiale", afferma Michael Bruch, responsabile di Emerging Trends di AGCS.
Oggi, le forme "weak" o di base di IA sono in grado di eseguire compiti specifici, ma le future generazioni di applicazioni di IA cosiddette "strong", saranno in grado di risolvere problemi difficili ed eseguire transazioni complesse. L’IA sta trovando applicazione in quasi tutti i settori, dalle chatbot che offrono consulenza finanziaria all'aiuto ai medici nella diagnosi del cancro. La tecnologia è alla base delle automobili senza conducente – dove si stima possa contribuire a ridurre il numero di incidenti fino al 90% -, per prevedere meglio il meteo, per effettuare i trasferimenti finanziari o per monitorare e far funzionare le macchine industriali. Secondo Accenture, entro il 2035 l'IA potrebbe raddoppiare il tasso di crescita economica annuale in 12 economie sviluppate.
Crescono i rischi informatici
Ma accanto ai potenziali vantaggi esistono anche dei rischi. I rischi informatici, che secondo l'Allianz Risk Barometer 2018 rappresentano una delle esposizioni maggiori per le aziende, illustrano i due diversi aspetti delle nuove tecnologie come l'IA: i software basati sull'IA potrebbero contribuire a ridurre il rischio informatico per le aziende rilevando meglio gli attacchi, ma potrebbero anche aumentarlo se gli hacker malintenzionati fossero in grado di assumere il controllo di sistemi, macchine o veicoli. L'IA potrebbe consentire il verificarsi di incidenti informatici più gravi e mirati riducendo i costi di ideazione degli attacchi. Lo stesso attacco hacker – o errore di programmazione – può essere replicato su numerose macchine. Si stima già che un grave attacco informatico a livello globale possa provocare perdite per oltre 50 miliardi di dollari, ma anche un'interruzione di mezza giornata presso un fornitore di servizi cloud può generare perdite per circa 850 milioni di dollari.
Chi risponderà per i danni?
Per identificare i rischi emergenti dell'IA, AGCS si è concentrata su cinque aree: accessibilità del software, sicurezza, “accountability”, responsabilità ed etica. "Affrontando ciascuna di queste aree, lo sviluppo responsabile e l'introduzione dell'IA diventano meno pericolosi per la società. Sono essenziali misure preventive che riducano i rischi derivanti da conseguenze indesiderate", afferma Bruch. In termini di sicurezza, ad esempio, la corsa all'immissione sul mercato dei sistemi di intelligenza artificiale potrebbe portare a controlli insufficienti, che sarebbero invece necessari per garantire l'impiego di sistemi di intelligenza artificiale sicuri, funzionali e cibernetici. Ciò potrebbe portare a un aumento dei prodotti difettosi con il conseguente ritiro dal mercato.
Per quanto riguarda la responsabilità, in futuro i sistemi dell'IA potranno prendere molte decisioni al posto dell'uomo, ma non potranno essere ritenuti legalmente responsabili di esse. In generale, il produttore o il programmatore software dei sistemi IA è responsabile per i difetti che causano danni agli utenti. Tuttavia, le decisioni di IA che non sono direttamente correlate alla progettazione o alla produzione, ma che sono prese da un sistema IA a causa della sua interpretazione della realtà, non avrebbero alcuna parte responsabile esplicita, secondo la legge vigente. "Lasciare le decisioni ai tribunali può essere costoso e inefficiente se il numero di danni generati dall'IA dovesse iniziare ad aumentare", dichiara Bruch. "Una soluzione alla mancanza di responsabilità giuridica consisterebbe nell'istituire agenzie o autorità competenti che elaborino un quadro di responsabilità in base al quale i progettisti, i fabbricanti o i venditori di prodotti IA siano soggetti a responsabilità civile limitata".
Le assicurazioni si stanno preparando
Nel frattempo, gli assicuratori avranno un ruolo cruciale da svolgere nel contribuire a minimizzare, gestire e trasferire i rischi emergenti derivanti dalle applicazioni di IA. Le coperture tradizionali dovranno essere adattate per proteggere sia i consumatori sia le imprese. Le assicurazioni dovranno affrontare meglio determinate esposizioni, come gli attacchi informatici, l'interruzione dell'attività, il ritiro dei prodotti e i danni alla reputazione. Probabilmente saranno adottati nuovi modelli assicurativi di responsabilità civile – ad esempio in settori come la guida autonoma – per aumentare la pressione sui produttori e sui fornitori di software e ridurre la responsabilità oggettiva dei consumatori.
