Rubriche

Attuali ed ex dipendenti di società di IA, 'la priorità sono i profitti'

Sul Nyt la lettera-denuncia di un gruppo, 'serve più trasparenza'

Redazione Ansa

Le società impegnate nello sviluppo dell'Intelligenza artificiale cercono solo i profitti, serve più trasparenza. E' la lettera-denuncia, rilanciata dal New York Times, di 13 dipendenti attuali ed ex di aziende come OpenAI e Google DeepMind. E' sottoscritta anche da due pionieri dell'IA, Geoffrey Hinton e Joshua Benjo.

"Crediamo nel potenziale della tecnologia di offrire benefici senza precedenti all'umanità - scrivono - ma comprendiamo anche i gravi rischi che vanno dall’ulteriore radicamento delle disuguaglianze esistenti, alla manipolazione e alla disinformazione, alla perdita di controllo dei sistemi di intelligenza artificiale autonomi, con conseguente potenziale estinzione umana. Le stesse aziende di intelligenza artificiale hanno riconosciuto questi rischi così come i governi di tutto il mondo e altri esperti di intelligenza artificiale. Ci auguriamo che questi rischi possano essere adeguatamente mitigati con una guida sufficiente da parte della comunità scientifica, dei politici e del pubblico".

"Tuttavia - aggiungono - le società di intelligenza artificiale hanno forti incentivi finanziari per evitare una supervisione efficace e non crediamo che strutture personalizzate di governance aziendale siano sufficienti per cambiare la situazione. Le aziende produttrici di intelligenza artificiale possiedono sostanziali informazioni non pubbliche sulle capacità e sui limiti dei loro sistemi, sull’adeguatezza delle loro misure di protezione e sui livelli di rischio di diversi tipi di danni. Tuttavia, attualmente hanno solo scarsi obblighi di condividere alcune di queste informazioni con i governi e nessuno con la società civile. Non pensiamo che si possa fare affidamento su tutti per condividerlo volontariamente".

Leggi l'articolo completo su ANSA.it