Logo ImpresaCity.it

Servono standard per l'AI in azienda, ci pensa IEEE

L'ente internazionale propone tre nuovi standard per regolare il funzionamento dei sistemi autonomi e di intelligenza artificiale, con un occhio all'etica

Autore: Redazione Impresacity

Già da qualche tempo l'IEEE sta affontando il tema dell'applicazione delle tecnologie di machine learning e di intelligenza artificiale nelle imprese e nell'erogazione di nuovi servizi ai cittadini. Uno dei temi più caldi riguarda gli impatti che questa applicazione può avere sul benessere in senso lato dei cittadini stessi, dato che sempre più il lavoro e la vita in generale saranno regolati - anche indirettamente e parzialmente - da algoritmi di machine learning e da sistemi autonomi.

Per questo l'organizzazione ha dato l'avvio alla definizione di tre nuovi standard che intendono mettere in primo piano i problemi sociali ed etici che possono essere collegati alle applicazioni di AI, problemi che spesso non vengono considerati da chi progetta tali applicazioni e vengono quindi scoperti solo in un secondo tempo. L'obiettivo è spingere il mercato a considerare, già in fase di sviluppo delle nuove soluzioni, non solo gli effetti pratici del machine learning ma anche quelli più intangibili.

Lo si vede in particolare nella proposta di standard P7008, battezzata Standard for Ethically Driven Nudging for Robotic, Intelligent and Autonomous Systems. Il tema qui è quello dei "nudge", ossia i suggerimenti espliciti o impliciti che i sistemi di intelligenza artificiale possono dare a un operatore o a un utente umano. Questi suggerimenti dovrebbero secondo l'IEEE essere anche eticamente, e non solo pragmaticamente, accettabili.

La proposta di standard P7009 (Standard for Fail-Safe Design of Autonomous and Semi-Autonomous Systems) è più tecnica e delinea le procedure attraverso cui verificare se e quanto un sistema autonomo si mantiene in grado, anche in caso di malfunzionamento, di non provocare danni alle persone e all'ambiente.

L'IEEE si rende conto che il concetto di benessere possa essere poco definito e per questo nasce l'ultimo degli standard proposti: P7010, o Wellbeing Metrics Standard for Ethical Artificial Intelligence and Autonomous Systems. Questo standard definisce indicatori e metriche relativi al benessere umano che possono essere più facilmente influenzati dal funzionamento dei sistemi autonomi.
Pubblicato il: 27/11/2017

Cosa pensi di questa notizia?

Speciali

speciali

MWC 2018

speciali

Red Hat Open Source Day, il futuro ha il sapore dell’open source