Gli algoritmi che calcolano i prezzi dei prodotti venduti online, molto comuni in tutte le piattaforme di e-commerce, possono imparare a 'fare cartello' tra loro gonfiando il costo finale per massimizzare i profitti. Lo ha scoperto un esperimento condotto nell'università di Bologna, che ha dimostrato inoltre come questo avvenga anche se i sistemi di intelligenza artificiale non sono state programmate per farlo.
Già nel 2015, scrivono i ricercatori sulla rivista del Centre for Economic Policy Research, più di un terzo dei venditori su Amazon utilizzava algoritmi per determinare i prezzi e la percentuale è sicuramente aumentata per il minor costo di questi sistemi. Questi sistemi sono estremamente autonomi e il programmatore li istruisci solo relativamente all'obiettivo finale, in questo caso 'massimizzare i profitti', mentre sul metodo sono lasciate libere di imparare dai propri errori.
"La preoccupazione - si legge - è che questi algoritmi possano scoprire da soli che se devono fare il profitto più alto potrebbero evitare una 'guerra dei prezzi'". Per verificare questa possibilità i ricercatori hanno fatto interagire due algoritmi in un ambiente controllato, spingendo uno ad abbassare improvvisamente il prezzo di un ipotetico bene.
Il risultato è stato che dopo un certo tempo i prezzi tornano alti per entrambe le intelligenze artificiali. "Il nostro esperimento - concludono i ricercatori - suggerisce che in queste condizioni anche algoritmi relativamente semplici sistematicamente imparano a mettere in atto strategie collusive. L'aspetto più preoccupante è che non lasciano traccia dell'azione concertata, imparano a colludere solamente attraverso gli errori ripetuti, senza comunicare tra loro e senza istruzioni specifiche".