Il 23 aprile, L'IVASS - Istituto per la Vigilanza sulle assicurazioni - ha parlato all'Università Cattolica, delle iniziative in tema di Text Analysis, Sentiment Analysis, Governance degli algoritmi di Machine Learning, Blockchain per il monitoraggio e il controllo di mercato.
A trattare l'argomento, Elena Bellizzi, Capo del Servizio Vigilanza Condotta di mercato Claudio Vergati Servizio Vigilanza Condotta di mercato.
Algo - governarce: il punto di vista dell'IVASS
Questo il resoconto dell'incontro.
"La continua evoluzione tecnologica in ambito finanziario (FinTech) e assicurativo (InsurTech) comporta la necessità anche da parte delle Autorità di Vigilanza di dotarsi di strumenti e competenze adeguate per consentire il monitoraggio e controllo del mercato."
L’IVASS ha, in varie fasi di sviluppo, diverse iniziative SupTech:
- Text Analysis per semplificazione contratti;
- Sentiment Analysis della reputazione nel Web;
- Governance degli algoritmi di Machine Learning;
- Analisi prodotti che utilizzano Blockchain.
Questi nuovi strumenti hanno abilitato altre opportunità per compagnie e assicurazioni:
- Nuovi modelli di business;
- Contenimento dei costi per automazione processi;
- Inclusione finanziaria (di soggetti considerati in precedenza a rischio);
- Prodotti ritagliati sulle esigenze dei consumatori (profilazione granulare del consumatore);
- Potenziamento della fraud prevention;
- Predittività del mercato.
Questi strumenti attivano anche dei rischi:
- Discriminazione algoritmica basata su processi decisionali interamente automatizzati (es. pricing differenziato per il medesimo servizio, fallace valutazione della e-reputation);
- Opacità degli algoritmi utilizzati (c.d. black box);
- Overconfidence (sovrastima) della conoscenza di strumenti assicurativi da parte del consumatore nella profilatura online automatizzata con conseguente sotto o sovra-assicurazione;
- Errori e parzialità nei risultati dovuti alla scarsa qualità dei dati e/o procedure alla base dei processi decisionali;
- Responsabilità nelle controversie (es. in caso di outsourcing).
Le azioni di supervisione sull’utilizzo degli algoritmi devono avere come key driver di verifica:
- Equità e non discriminazione dei consumatori;
- Trasparenza dell’algoritmo e del suo utilizzo;
- Comprensibilità;
- Principio di proporzionalità - maggiore attenzione ai casi di applicazioni con impatto alto per il consumatore o sulla stabilità finanziaria della Compagnia;
- Equilibrio tra strumenti decisionali automatizzati e intervento umano;
- Governance algoritmi ML - vanno sviluppati processi e competenze (nelle Compagnie e nei Supervisori) in grado di gestire e governare gli algoritmi (con particolare focus sulla «spiegabilità» degli stessi) allo scopo di mitigare i rischi legati a queste tecnologie. Importanza per le Compagnie di dotarsi di una policy che delinei le linee guida strategiche sull’utilizzo degli algoritmi ML (in termini di principi, processi, requirements, responsabilità, risk management);
- Gestione dei dati (Data governance) - assicurare la qualità dei dati utilizzati per «programmare» l’algoritmo. I dati andrebbero sempre mantenuti (garantendone l’integrità e la riservatezza nelle diverse fasi di raccolta, conservazione, trattamento e condivisione) per poter ricostruire l’addestramento dell’algoritmo. I dati dovrebbero essere immagazzinati dalla Compagnia in data lakes centralizzati utilizzati dalle diverse applicazioni ML per una migliore operatività e sicurezza;
- Adeguatezza degli algoritmi utilizzati - alcuni sono spiegabili in modo relativamente semplice (es. Alberi di decisione, Naive Bayes, Regressioni, Clustering), altri sono delle «black box» (Reti Neurali, Deep Learning). Va utilizzato l’algoritmo appropriato (es. trade-off tra accuratezza e «spiegabilità») per l’obiettivo che si vuole ottenere e vanno forniti i criteri che hanno guidato la scelta;
- Censimento degli algoritmi e delle fonti di dati - quali sono le tipologie di algoritmi maggiormente utilizzati dalle Compagnie, a quale scopo e a quali fonti di dati (interne/esterne) fanno riferimento;
- Verifica non discriminazione degli algoritmi ML - utilizzando differenti set di dati per il training degli algoritmi andrebbe verificato che le variabili potenzialmente discriminatorie (sesso, religione, etnia, nazionalità, ecc.) non influiscono sulla calibrazione del modello e sul risultato finale;
- Processi di auditing (interni/esterni) degli algoritmi - attraverso i quali sia possibile verificare periodicamente l’intero ciclo di vita dell’algoritmo in base ai dati di input. Il focus dell’auditing dovrebbe essere sulla qualità/adeguatezza dei dati di partenza e sulla risposta equa dell’algoritmo (valutandola per confronto con la risposta data da processi convenzionali non ML);
- Sicurezza dei sistemi IT - gli algoritmi ML fanno assegnamento su architetture IT resilienti. I sistemi informatici delle Compagnie devono essere opportunamente securizzati e prevedere procedure di fall-back e disaster recovery;
- Algoritmi per compliance - utilizzo degli algoritmi da parte delle compagnie per controllo e gestione ottimizzata dei propri intermediari (es. per verificarne la formazione, efficienza rete di vendita, ecc);
- Regulatory Sandbox - test da parte delle imprese di prodotti, servizi e modelli di business finanziari di tipo innovativo in un ambiente controllato, in accordo con l’autorità preposta alla vigilanza di settore;
- Innovation Hub- creazione di un ambiente di discussione tra compagnie e supervisore per chiarimenti su requisiti e interpretazione delle norme su prodotti/servizi innovativi.
"L’utilizzo in ambito finanziario degli algoritmi Machine Learning (e più in generale dell’Intelligenza Artificiale) va guardato senza pregiudizi per i benefici che può portare all’intero mercato, ma impone anche una rimodulazione dei presidi di governance/controllo interno che tengano conto dei rischi emergenti e una evoluzione tecnologica anche dei meccanismi di supervisione delle Autorità di vigilanza."
