Machine learning: algoritmi sotto controllo
Come possiamo sapere se un'applicazione di AI opera correttamente? IBM punta al monitoraggio, SAP parte più da lontano con linee guida e un comitato etico
Di recente, ad esempio, IBM ha preannunciato un servizio cloud che sarà in grado di controllare se un modello di AI – non solo di IBM Watson – stia operando in maniera corretta o pregiudiziale. Il servizio probabilmente applica alcune funzioni di “bias detection” che IBM ha già reso disponibili in open source attraverso il suo AI Fairness 360 Toolkit.
Nell’ambito dell’iniziativa Trusted AI, IBM Research aveva tra l'altro già suggerito che tutti i servizi di machine learning dovrebbero essere accompagnati da una sorta di dichiarazione di conformità, che spieghi in dettaglio come operano e come sono stati sviluppati e addestrati.Analogamente, seppure con una logica diversa, sempre di recente SAP ha definito alcune linee guida da seguire nello sviluppo di applicazioni di AI collegate a SAP Leonardo, inserendovi anche elementi che non sono solo tecnologici: dalla possibilità di discriminazioni all’impatto sociale delle tecnologie, dalla trasparenza sul funzionamento degli algoritmi sino al rispetto della privacy degli individui.
Queste linee guida sono tra l’altro affiancate da un panel di consulenti esterni che comprende esperti di etica, legge, tecnologia e bioetica.
Notizie correlate
Speciali Tutti gli speciali
Calendario Tutto
Magazine Tutti i numeri
G11 Media Networks
ImpresaCity e' un canale di BitCity, testata giornalistica registrata presso il tribunale di Como ,
n. 21/2007 del
11/10/2007- Iscrizione ROC n. 15698
G11 MEDIA S.R.L.
Sede Legale Via NUOVA VALASSINA, 4 22046 MERONE (CO) - P.IVA/C.F.03062910132
Registro imprese di Como n. 03062910132 - REA n. 293834 CAPITALE SOCIALE Euro 30.000 i.v.
