Delle prospettive dell'agentic commerce e di cosa lo rende interessante per consumatori e imprese abbiamo già trattato qui. Ma ci sono anche fattori che frenano gli entusiasmi dei suoi fautori e su cui i vendor tecnologici di settore stanno lavorando. Non si tratta, spesso, di elementi nuovi: come nel mondo reale, è soprattutto la fiducia dei consumatori - ma anche, in parte, dei merchant - a giocare un ruolo decisivo.

Nell'agentic commerce un agente AI deve avere accesso a informazioni personali e finanziarie sensibili, che il consumatore - e il legislatore - si aspetta siano gestite correttamente in termini di privacy e sicurezza dei dati. L'agente le usa per prendere in autonomia decisioni su cosa acquistare e spendendo quanto, e anche qui è questione di fiducia: che l’agente prenda davvero decisioni coerenti con le preferenze e le richieste del suo utente. Anche chi vende deve fidarsi, in particolare che gli agenti AI completino le transazioni sempre in modo corretto: qualsiasi errore od omissione può reclami, controversie e danni finanziari o d'immagine.

Per chi vende come per chi compra, c'è in particolare il pericolo delle "allucinazioni" dell'AI. Gli LLM possono generare informazioni inesatte o del tutto inventate, soprattutto quando affrontano compiti complessi. E questo, nel contesto dell'agentic commerce, può avere conseguenze assai concrete: il margine di errore è più ridotto rispetto ad altri casi d’uso dell’AI conversazionale, poiché l’automazione delle operazioni di acquisto elimina la possibilità di verificare i fatti prima che le transazioni vengano eseguite.

Quando si tratta di AI, la cybersecurity non solo questione di proteggere i dati degli utenti: un secondo livello di rischio da contenere riguarda le possibili compromissioni degli agenti AI stessi. A differenza dei sistemi di eCommerce tradizionali, che hanno interazioni limitate e ben identificate con servizi esterni altrettanto ben identificati, gli agenti AI operano in un contesto più aperto, interagendo spesso con API e siti web esterni. Questo può aumentare l’esposizione a input malevoli progettati per manipolare il comportamento degli agenti.

In teoria è sempre possibile sfruttare le "zone grigie" della programmazione di un agente AI per fargli ignorare le direttive che limitano errori e comportamenti dannosi. E se un agente di eCommerce viene compromesso, ciò potrebbe permettere a un attore ostile di accedere ai dati finanziari dell’utente e del merchant e persino - sempre in teoria - ai meccanismi di autorizzazione di acquisti e pagamenti. Non saremmo più noi a controllare l'agente che usa il nostro denaro, in sostanza, ma un cyber criminale.

Questo rischio si presenta oltretutto in un quadro di incertezza normativa. Non è ancora chiaro se, come e in che misura le attuali leggi sulla tutela dei consumatori e sulla prevenzione delle frodi si applichino agli agenti AI autonomi. E questo crea dubbi su chi sarebbe eventualmente responsabile in caso di transazioni non autorizzate: il consumatore, il merchant, il fornitore dell’agente, la piattaforma di intermediazione dei pagamenti, o chi altro.

La questione dei dati

Come per tutto quello che è intelligenza artificiale, anche il buon funzionamento dell'agentic commerce dipende dalla qualità dei dati a cui gli agenti AI possono accedere. Anche il miglior modello di AI dà risultati deludenti se i dati che riceve sono inesatti, incompleti o mal formattati: un essere umano può colmare da solo le lacune informative o nella chiarezza dei dati, perché ha l'esperienza e la capacità di ragionamento - quello vero - per farlo, ma questo non è vero per gli agenti AI ed è improbabile che lo sia nel prossimo futuro.

I dati che gli agenti di eCommerce dovranno elaborare verranno prevalentemente dai merchant, e qui si presentano due ordini di problemi. Il primo è legato alla disponibilità stessa di questi dati: se i venditori non li presentano in formati standardizzati e attraverso API aperte, gli agenti devono ricavarli con meccanismi - come lo scraping dei siti web - che non sono certamente ottimali. E che quindi possono generare errori nella gestione delle transazioni.

La dipendenza dell'agentic commerce dalla buona qualità dei dati rischia poi di creare una sorta di nuovo "digital divide" tra i grandi retailer e i merchant più piccoli. I primi di norma hanno una infrastruttura IT matura che permette loro di raccogliere, strutturare e rendere disponibili correttamente le informazioni che servono gli agenti AI. I secondi spesso no, e di conseguenza rischiano di essere sottorappresentati nei nuovi mercati agentici. È il vecchio tema della diversa velocità della digitalizzazione nel mondo retail: anche stavolta una nuova tecnologia rischia di creare un mercato non equo. Meglio pensarci prima.